Кој ќе биде убиен од самоуправувачки автомобил? Машино, спаси што повеќе луѓе, но најмногу спаси ме!

Ако се појави ситуација кога автономниот систем на автомобилот треба брзо да избере кого да жртвува во случај на непосредна несреќа, како треба да реагира? Жртвување на патници за да се спасат пешаците? Доколку е потребно, убиете пешак за да го поштедите, на пример, четиричленото семејство кое патува во автомобил? Или можеби тој секогаш прво треба да се заштити себеси?

Додека над шеесет компании веќе добија дозволи за лични тестирања само во Калифорнија, тешко е да се каже дека индустријата е подготвена да се соочи со етички дилеми. Во моментов тој се бори со поосновни проблеми - работењето и навигациската ефикасност на системите и едноставно избегнување судири и непредвидени настани. Во ситуации како што е неодамнешното убиство на пешак во Аризона, или последователни несреќи (1), досега станува збор само за дефекти на системот, а не за некаков „етички избор“ на автомобилот.

Спасете ги богатите и младите

Прашањата за донесување вакви одлуки не се апстрактни проблеми. Секој искусен возач може да го потврди ова. Минатата година, истражувачите од MIT Media Lab анализираа над четириесет милиони одговори од испитаници од целиот свет, кои ги собраа во текот на истражувањето започнато во 2014 година. Системот за анкети што го нарекуваат „Етичка машина“ покажа дека во различни делови на светот, слични прашања се поставуваат различни одговори.

Најопштите заклучоци се предвидливи. Во екстремни ситуации луѓето претпочитаат да спасуваат луѓе отколку да се грижат за животните, со цел да спасат што е можно повеќе животи и имаат тенденција да бидат помлади од постарите (2). Исто така, постојат некои, но помалку очигледни, преференции кога станува збор за спасување жени пред мажи, луѓе со повисок статус пред посиромашни луѓе и пешаци пред патници во автомобили..

2. Кого треба да спаси автомобилот?

Бидејќи речиси половина милион испитаници пополнуваа демографски прашалници, беше можно да се поврзат нивните преференции со возраста, полот и религиозните верувања. Истражувачите заклучиле дека овие разлики не „значително влијаеле“ на одлуките на луѓето, но забележале некои културни влијанија. Французите, на пример, тежнееја да ги одмеруваат одлуките врз основа на проценетиот број на смртни случаи, додека во Јапонија акцентот беше најмал. Меѓутоа, во земјата на изгрејсонцето животот на постарите се цени многу повеќе отколку на Запад.

„Пред да дозволиме нашите автомобили да носат свои етички одлуки, треба да имаме глобална дебата за ова. Кога компаниите кои работат на автономни системи ќе дознаат за нашите преференции, тогаш тие ќе развијат етички алгоритми во машините врз основа на нив, а политичарите ќе можат да почнат да воведуваат соодветни законски одредби“, напишаа научниците во октомври 2018 година во Nature.

Еден од истражувачите вклучени во експериментот „Морална машина“, Жан-Франсоа Бонефонт, откри дека претпочитањето за спасување на луѓе со повисок статус (како што се директори пред бездомниците) е алармантна. Според него, ова е многу поврзано со нивото на економска нееднаквост во дадена земја. Онаму каде што нееднаквостите беа поголеми, предност се даваше на жртвување на сиромашните и бездомниците.

Едно од претходните студии покажа, особено, дека, според испитаниците, автономниот автомобил треба да заштити што е можно повеќе луѓе, дури и ако тоа значи губење на патници. Во исто време, сепак, испитаниците изјавиле дека нема да купат автомобил програмиран на овој начин. Истражувачите го објаснија тоа додека луѓето сметаат дека е поетички да се спасат повеќе луѓе, тие се и личен интерес, што може да биде сигнал за производителите дека клиентите нема да бидат подготвени да купуваат автомобили опремени со алтруистички системи.. Пред извесно време претставници на компанијата Мерцедес-Бенц изјавија дека доколку нивниот систем спаси само еден човек, тие би го избрале возачот, а не пешакот. Бранот на јавни протести ја принуди компанијата да ја повлече својата декларација. Но, истражувањата јасно покажуваат дека имало многу лицемерие во оваа света огорченост.

Ова веќе се случува во некои земји. првите обиди за правно регулирање на терен. Германија донесе закон со кој се бара од автомобилите без возач да избегнуваат повреди или смрт по секоја цена. Законот исто така наведува дека алгоритмите никогаш не можат да донесуваат одлуки врз основа на карактеристики како што се возраста, полот, здравјето или пешаците.

Audi ја презема одговорноста

Дизајнерот не е во состојба да ги предвиди сите последици од работата на автомобилот. Реалноста секогаш може да обезбеди комбинација од променливи кои никогаш претходно не биле тестирани. Ова ја поткопува нашата верба во можноста за „етичко програмирање“ на машината воопшто. Нам ни се чини дека во ситуации кога ќе дојде до грешка и ќе се случи трагедија „поради вина на автомобилот“, одговорноста треба да ја сноси производителот и развивачот на системот.

Можеби ова размислување е точно, но можеби не затоа што беше погрешно. Наместо тоа, затоа што беше дозволено движење кое не беше 2019% ослободено од можноста да се направи. Се чини дека тоа е причината, а споделената одговорност не ја избегнува компанијата, која неодамна објави дека ќе ја преземе одговорноста за несреќи во кои е вклучен 8-годишен А3 додека користел автоматски систем за сообраќајниот метеж пилот (XNUMX) во него.

3. Пилот интерфејс за сообраќаен метеж на Audi

Од друга страна, има милиони луѓе кои возат автомобили и исто така прават грешки. Па, зошто машините, кои статистички прават многу помалку грешки од луѓето, како што сведочат бројните грешки, треба да бидат дискриминирани во овој поглед?

Ако некој мисли дека дилемите за етичност и одговорност во светот на автономните возила се едноставни, продолжи да размислува...