Кой ще бъде убит от самоуправляваща се кола? Машина, спаси колкото се може повече хора, но най-вече спаси мен!

Ако възникне ситуация, при която автономната система на автомобил трябва да направи бърз избор кого да пожертва в случай на неизбежна катастрофа, как трябва да реагира? Жертва пътници, за да спаси пешеходците? Ако е необходимо, да убиете пешеходец, за да пощадите, например четиричленно семейство, пътуващо с кола? Или може би винаги първо трябва да се защитава?

Докато повече от шестдесет компании вече са получили лични разрешителни за тестване само в Калифорния, е трудно да се каже, че индустрията е готова да се изправи пред етични дилеми. В момента той се бори с по-основни проблеми - работата и навигационната ефективност на системите и простото избягване на сблъсъци и непредвидени събития. В ситуации като неотдавнашното убийство на пешеходец в Аризона или последвалите инциденти (1), досега ставаше дума само за системни повреди, а не за някакъв „етичен избор“ на автомобила.

Спасявайте богатите и младите

Въпросите за вземане на този вид решения не са абстрактни проблеми. Всеки опитен шофьор може да потвърди това. Миналата година изследователи от MIT Media Lab анализираха над четиридесет милиона отговора на респонденти от цял ​​свят, които събраха в хода на проучване, стартирано през 2014 г. Системата за анкети, която наричат ​​„Етична машина“, показа, че на различни места около в света на подобни въпроси се задават различни отговори.

Най-общите заключения са предвидими. В екстремни ситуации хората предпочитат спасяването на хора пред грижите за животните, като се стремят да спасят възможно най-много животи и са склонни да са по-млади от възрастните хора (2). Има и някои, но по-малко очевидни предпочитания, когато става въпрос за спасяване на жени пред мъже, хора с по-висок статус пред по-бедни хора и пешеходци пред пътниците в автомобила..

2. Кого трябва да спаси колата?

Тъй като почти половин милион респонденти попълниха демографски въпросници, беше възможно да се съпоставят техните предпочитания с възрастта, пола и религиозните вярвания. Изследователите стигат до заключението, че тези различия не оказват „значително влияние“ върху решенията на хората, но отбелязват някои културни влияния. Французите, например, са склонни да претеглят решенията въз основа на прогнозния брой смъртни случаи, докато в Япония акцентът е най-малък. В Страната на изгряващото слънце обаче животът на възрастните хора се цени много повече, отколкото на Запад.

„Преди да позволим на нашите автомобили да вземат свои собствени етични решения, трябва да проведем глобален дебат за това. Когато компаниите, работещи върху автономни системи, научат за нашите предпочитания, тогава те ще разработят етични алгоритми в машини, базирани на тях, и политиците могат да започнат да въвеждат адекватни правни разпоредби “, написаха учените през октомври 2018 г. в Nature.

Един от изследователите, участващи в експеримента на Моралната машина, Жан-Франсоа Бонефон, установи, че предпочитанието за спасяване на хора с по-висок статус (като ръководители пред бездомните) е тревожно. Според него това е много свързано с нивото на икономическо неравенство в дадена страна. Там, където неравенството е било по-голямо, се дава предпочитание на жертването на бедните и бездомните.

Едно от предишните проучвания показа по-специално, че според респондентите автономната кола трябва да защитава възможно най-много хора, дори ако това означава загуба на пътници. В същото време обаче анкетираните заявиха, че не биха си купили така програмиран автомобил. Това обясниха изследователите докато хората смятат, че е по-етично да спасяват повече хора, те са и собствени интереси, което може да бъде сигнал за производителите, че клиентите няма да са склонни да купуват автомобили, оборудвани с алтруистични системи.. Преди време представители на компанията Mercedes-Benz заявиха, че ако системата им спаси само един човек, те ще изберат шофьора, а не пешеходеца. Вълна от обществен протест принуди компанията да оттегли декларацията си. Но изследванията ясно показват, че в това свято възмущение имаше много лицемерие.

Това вече се случва в някои страни. първи опити за правно регулиране в полето. Германия прие закон, който изисква автомобилите без шофьор да избягват наранявания или смърт на всяка цена. Законът също така гласи, че алгоритмите никога не могат да вземат решения въз основа на характеристики като възраст, пол, здраве или пешеходци.

Audi поема отговорността

Дизайнерът не е в състояние да предвиди всички последици от експлоатацията на автомобила. Реалността винаги може да предостави комбинация от променливи, които никога досега не са били тествани. Това подкопава вярата ни във възможността изобщо за „етично програмиране“ на машина. Струва ни се, че в ситуации, когато възникне грешка и се случи трагедия „по вина на автомобила“, отговорността трябва да бъде понесена от производителя и разработчика на системата.

Може би това разсъждение е правилно, но може би не защото е погрешно. По-скоро, защото беше разрешено движение, което не беше 2019% свободно от възможността за извършване. Това изглежда е причината и споделената отговорност не се отклонява от компанията, която наскоро обяви, че ще поеме отговорност за произшествия, включващи 8-годишен A3, докато използва автоматична система Traffic Jam Pilot (XNUMX) в него.

3. Audi Traffic Jam Pilot Interface

От друга страна, има милиони хора, които карат коли и също правят грешки. Защо тогава машините, които статистически правят много по-малко грешки от хората, както се вижда от многобройни грешки, трябва да бъдат дискриминирани в това отношение?

Ако някой смята, че дилемите на етиката и отговорността в света на автономните превозни средства са прости, продължавайте да мислите...