Много дискусии и етични разсъждения за самоуправляващите се автомобили се съсредоточиха върху трагични дилеми, като хипотетики, в които една кола трябва да реши дали да прегази група ученици или да се свлече от скала, убивайки собствените си пътници. Но подобни ситуации са крайни случаи.
Като най-новата катастрофа - при която автомобил със самостоятелно управление е убил пешеходец в Темп, Аризона - демонстрира, светските ежедневни ситуации на всеки пешеходен преход, завой и кръстовище представляват много по-трудни и по-широки етични трудни ситуации.
Етика на крайностите
Като философ, работещ с инженери в Центъра за изследвания на автомобилните изследвания в Станфорд, първоначално се изненадах, че прекарахме нашите срещи в лабораторията, обсъждайки това, което мислех, че е лесен въпрос: Как трябва самостоятелно шофиращата кола да се приближи до пешеходна пътека?
Моето предположение беше, че ще помислим как една кола трябва да решава между живота на пътниците си и живота на пешеходците. Знаех как да мисля за подобни дилеми, защото тези сценарии на катастрофа приличат на известен философски мошеник, наречен „проблем с количките“. убиеш един, за да спасиш пет?
Въпреки това днес много философи се съмняват, че изследването на подобни въпроси е плодотворен път на изследване. Барбара Фрид, колега от Станфорд, например, твърди, че трагичните дилеми карат хората да вярват, че етичните неприятности възникват най-вече при екстремни и тежки обстоятелства.
Всъщност етичните трудности са повсеместни. Ежедневните, светски ситуации са изненадващо объркани и сложни, често по фини начини. Например: Трябва ли вашият град да харчи пари за програма за профилактика на диабет или за повече социални работници? Трябва ли местният Ви департамент по обществено здраве да наеме друг инспектор за хигиенните стандарти в ресторанта или да продължи програма, предоставяща безплатни игли и инжекционни консумативи?
На тези въпроси е изключително трудно да се отговори поради несигурност относно последиците - например кой ще бъде засегнат и в каква степен. Решенията, които философите предлагат за екстремни и отчаяни ситуации, тук не са от голяма полза.
Проблемът е подобен при самоуправляващите се коли. Мисленето чрез екстремни ситуации и сценарии на катастрофи не може да помогне да се отговори на въпроси, които възникват в светски ситуации.
Предизвикателство при кръстовищата
Човек би могъл да попита, какво може да бъде толкова тежко за светските пътни ситуации, като приближаване до пешеходна пътека, преминаване през кръстовище или правене на ляв завой. Дори ако видимостта на кръстовището е ограничена и понякога е трудно да се каже дали наблизо пешеходецът действително иска да пресече улицата, шофьорите се справят с това всеки ден.
Но за самоуправляващите се автомобили подобни светски ситуации представляват предизвикателство по два начина.
Лесно за хората често означава трудно за компютрите. (XKCD, CC BY-SA) Първо, има фактът, че това, което е лесно за хората, често е трудно за машините. Независимо дали става въпрос за разпознаване на лица или каране на велосипеди, ние сме добри в възприятието и механичните задачи, защото еволюцията изгради тези умения за нас. Това обаче прави тези умения трудни за преподаване или инженерство. Това е известно като „Парадокс на Моравец“.
Второ, в бъдеще, в което всички автомобили са самоуправляващи се автомобили, малките промени в поведението при шофиране биха довели до голяма разлика в агрегатите. Решенията, взети от инженерите днес, с други думи, ще определят не как се движи един автомобил, а как карат всички автомобили. Алгоритмите стават политика.
Инженерите учат компютрите как да разпознават лица и обекти, използвайки методи за машинно обучение. Те могат да използват машинно обучение и за да помогнат на самоуправляващите се автомобили да имитират как хората шофират. Но това не е решение: не решава проблема, че инженери вземат широкомащабни решения за безопасност и мобилност.
Освен това, самоуправляващите се автомобили не трябва да шофират като хората. Хората всъщност не са много добри шофьори. И те шофират по етично тревожни начини, решавайки дали да се отстъпят на пешеходци, въз основа на възраст, раса и доходи на пешеходците. Например, изследователи в Портланд са установили, че черните пешеходци се минават с два пъти повече коли и е трябвало да чакат една трета по-дълго от белите пешеходци, преди да могат да преминат.
Автомобилите със самостоятелно управление трябва да шофират по-безопасно и по-справедливо, отколкото хората.
Земна етика
Етичните проблеми се задълбочават, когато присъствате на конфликта на интереси, които възникват в светски ситуации като кръстовища, завои и кръстовища.
Например, дизайнът на автомобили със самостоятелно управление трябва да балансира безопасността на другите - пешеходци или велосипедисти - с интересите на пътниците на автомобилите. Веднага след като колата върви по-бързо от темпото на ходене, тя не е в състояние да предотврати нападане на дете, което може да изтича на пътя в последната секунда. Но темпото на ходене, разбира се, е твърде бавно. Всеки трябва да стигне до места. И така, как инженерите трябва да постигнат баланса между безопасността и мобилността? И каква скорост е достатъчно безопасна?
Появяват се и други етични въпроси. Инженерите трябва да правят компромиси между мобилността и въздействието върху околната среда. Когато се прилагат за всички автомобили в страната, малките промени в компютърно контролираното ускорение, завиване и спиране могат да имат огромни ефекти върху използването на енергия и емисиите от замърсяване. Как инженерите трябва да търгуват с ефективността на пътуването с въздействие върху околната среда?
Какво трябва да бъде бъдещето на трафика?
Обикновените ситуации представляват нови инженерни и етични проблеми, но те също така водят хората да поставят под въпрос основните предположения на системата за движение.
За себе си започнах да разпитвам дали изобщо се нуждаем от места, наречени „пешеходни пътеки“? В края на краищата, самоуправляващите се автомобили потенциално могат да направят безопасно пресичането на път навсякъде.
И не само кръстовищата стават ненужни. Светофарите на кръстовищата могат да бъдат и минало. Хората се нуждаят от светофари, за да се уверят, че всеки ще премине кръстовището без трясък и хаос. Но самоуправляващите се автомобили могат да се координират помежду си гладко.
По-големият въпрос е следният: Като се има предвид, че самоуправляващите се автомобили са по-добри от човешките шофьори, защо автомобилите трябва да се подчиняват на правила, които са проектирани за човешка грешка и човешки грешки? И за да разширим този мисловен експеримент, помислете и за по-общия въпрос: Ако ние като общество бихме могли да проектираме нашата система за движение от нулата, как бихме искали тя да изглежда?
Тъй като тези трудни въпроси засягат всички в един град или в общество, те изискват град или общество да се съгласят на отговорите. Това означава балансиране на конкуриращи се интереси по начин, който работи за всички - независимо дали хората мислят само за пешеходни пътеки или за системата на движение като цяло.
Със самостоятелно шофиране на автомобили, обществата могат да препроектират своите системи за движение. От пешеходната пътека до цялостния дизайн на трафика - това е светски ситуации, които повдигат наистина трудни въпроси. Екстремните ситуации са разсейване.
Проблемът с количките не отговаря на тези тежки въпроси.
Тази статия първоначално е публикувана в The Conversation.
Йоханес Химелрайх, сътрудник по интердисциплинарна етика, Университета на Станфорд Маккой, Фамилен център за етика в обществото
