"Вие сте в пустиня, ходите по пясъка, когато изведнъж погледнете надолу и видите костенурка ... Стигате надолу и премествате костенурката по гърба си. Костенурката лежи на гърба си, коремът се пече на горещото слънце, бие краката си, опитвайки се да се обърне, но не може. Не и без вашата помощ. Но ти не помагаш. "
Свързано съдържание
- Волтер: Философ на просвещението и измамник на лотарията
Може би нищо не е по-емблематично от дистопичния филм на Ридли Скот от 1982 г. Blade Runner от теста на Войт-Кампф, администриран от титулярните правоохранители на филма, включително Харисън Форд като Рик Декард. Поредицата въпроси от измисления тест, като този по-горе, са предназначени да отделят хората от репликанти, като провокират физиологичен отговор, показващ съпричастност. Само истинските хора, а не репликанти, чувстват тази емоция. Задачата на Декард е да се справи с репликанти, които започват да не изпълняват поръчки. Той и други използват теста, за да решат дали да се „оттеглят“ - убиват - репликантите.
Тези бунтовни андроиди не само представляват заплаха за хората, но в този свят те нямат никакви законни права за защита. Как биха могли, когато те не се смятат за хора?
Това е толкова увлекателно затруднение, че историята ще продължи в дългоочакваното продължение Blade Runner: 2049. Част от причината за трайната популярност на оригиналния филм е личната борба на Декард, която играе по подобен начин във филми като нея и показва като „Westworld “: Кой или какво се счита за човек, особено в свят на модерни технологии?
И за да го разберем, трябва да се обърнем към някои много стари философи.
***
За древните гърци машини, направени от богове или изключително талантливи хора, често заблуждавали хората, вярвайки, че андроидите са автентични, пише кметът на Адриен в Еон. Крал Набис от Спарта притежаваше роботизирана версия на жена си, гърдата й тайно украсена с нокти. Той използвал машината, за да прегърне граждани, които не го послушали, плътта им пробита от скритите оръжия. А в Китай автоматът от 10 век пр. Н. Е., Създаден от изобретателя Ян Ши, изглеждаше толкова човешки, пееше и намигаше на дамите, че кралят се вбесяваше от това. После научи истината и се удиви на машина, която дори имаше механични органи. Както пише ученият Найджъл Уил, „Във всички периоди„ човешките неща “са били представяни като образувания, които изпитват или определят съвременното чувство за човешка стойност.“
Всичко това е да се каже, че опасенията за това как да различим плът и кръв от хора, които просто изглеждат човешки (и да решат дали тези машини представляват заплаха за нас Homo sapiens) не се ограничават до съвремието. Винаги сме се чудили дали всички хора наистина са такива, каквито изглеждат - затова философите на Просвещението са прекарали толкова много време в дисекция на въпроса какво прави човек, човек.
Рене Декарт, френски философ от 17 век, който пътува широко из Европа, обмисля дълбоко въпроса какво ни прави хора. Неслучайно най-известният му цитат се повтаря от един от репликантите в Blade Runner: „Мисля, следователно съм.“ И ако всичко това не е достатъчно доказателство за връзката му с филма, помислете за имената: Декарт и Декард.
Както философът Андрю Норис изтъква, Декарт подозирал, че някой ден може да има нужда от тест дали нещо е човешко или машинно. „Ако имаше машини, носещи образи на телата ни и способни да имитират нашите действия, доколкото това е възможно морално, все още биха останали два най-сигурни теста, с които да знаем, че следователно не са наистина мъже“, пише Декарт. Така той създаде свои собствени тестове, които разчитаха на езиковата способност и гъвкавостта на поведението.
Репликантите говорят и се държат точно както хората, което означава, че ще преминат тестовете на Декарт. Но има и друга причина, поради която Декард се бори да опровергае своята човечност: Репликантите също имат имплантирани спомени. За английския философ Джон Лок това, което дава на човек усещане за себе си, е приемствеността на техните спомени. Човешкото тяло се променя с времето, но спомените остават, предлагайки основа за стабилна идентичност. „Доколкото това съзнание може да бъде разширено назад към всяко минало действие или мисъл, толкова далеч достига идентичността на тази личност“, пише Лок.
Така че за Rachael на Blade Runner, най-модерния репликант, разработен досега, няма значение, че тя може да е само на няколко години; спомените й се простират много по-назад, създавайки й впечатление, че е живяла много по-дълго. Точно това прави Рахаел толкова трагична фигура - „нейните“ спомени не й принадлежат. Те произхождат от племенницата на нейния изобретател.
„Това е сърцераздирателно нещо, но можете да видите [спомените] все още са специални за нея, дори след като тя научи, че не са нейни истински“, казва Сюзън Шнайдер, професор по философия в Университета в Кънектикът и член на етиката и технологиите група в Йейл. „Това е като да разберете, че сте каченото копие, а не лицето, което прави качването. Но все пак имате някакво специално отношение към тях. Като родител. “
Но не само спомените или рационалността правят човека в Blade Runner. Най-важното от всичко според теста на Войт-Камп е съпричастността. Тъй като не можем да четем умовете или да видим каквито и да било физически доказателства за тях, мислители като германския философ Теодор Липс твърдят, че можем да възприемем, че другите се чувстват и действат както ние чрез силата на съпричастността.
Харисън Форд като Рик Декард администрира теста Voight-Kampff в оригиналния Blade Runner. (Warner Bros.) „Бежовият бегач трябва, по ирония на съдбата, да изпита съпричастността на другите - не тук, по смисъла на Липс, а в чувствителността им към сега загинал природен свят, населен от нечовешки животни“, пише Норис в своя документ за философията на филма. Оттук идва и известният въпрос на костенурка-хванат-на-обратно-в-пустинята.
„Самите емоции никога няма да бъдат перфектен тест за човечеството: в крайна сметка социопатите също са хора“, казва по имейл Дебора Найт, професор по философия в университета на Queen. „Но емоциите са повече от некогнитивни реакции. Те ни помагат да правим преценки за това какво трябва да правим и към кого трябва да се стремим. “
Това е особено ясно в случая с репликанта Рой Бати, изигран от Рутгер Хауер. Рой чувства човешки емоции и има стремежи, но не получава човешки живот, каза Найт. Рой е наясно, че подобно на останалите репликанти, той е построен да умре след само четири години, което разбираемо го вбесява.
Така репликантите спорно усещат емоции и имат спомени. Това ги прави хора? За Шнайдер окончателният отговор не е непременно важен. Репликантите споделят достатъчно качества с хората, че те заслужават защита. „Това е много силен случай за третиране на [не-човек] със същите законови права, които даваме на човек. Не бихме нарекли [Рейчъл] човек, но може би човек ", казва тя.
За Ерик Швицгебел, професор по философия в Калифорнийския университет в Ривърсайд, изводът е още по-драматичен. „Ако някой ден създадем роботи с познавателни и емоционални способности, подобни на човека, ние им дължим повече морално внимание, отколкото обикновено бихме дължили на иначе подобни човешки същества“, пише той в Aeon. „Ще бъдем техни създатели и дизайнери. По този начин ние сме пряко отговорни както за тяхното съществуване, така и за тяхното щастливо или нещастно състояние. "
***
Blade Runner е само филм и хората все още не са успели да създадат репликанти. Но постигнахме много напредък в областта на изкуствения интелект - от самоуправляващи се автомобили, научени да се адаптират към човешката грешка, до невронни мрежи, които спорят помежду си, за да станат по-умни. Ето защо за Шнайдер въпросите, поставени от филма за природата на човечеството и как бихме могли да се отнасяме към андроидите, имат важно значение в реалния свят.
„Едно от нещата, които правя, е да си помисля дали някога ще се чувствам като нещо като ИИ. Ще има ли някога Рейчъл? “, Казва Шнайдер, която използва Blade Runner в своя клас по философия в научните фантастики. Тази година Шнайдер публикува документ за теста, който тя разработи с астрофизика Едвин Търнър, за да открие дали едно механично същество всъщност може да е в съзнание. Подобно на теста на Войт-Кампф, той се основава на поредица от въпроси, но вместо да изисква присъствието на съпричастност - чувства, насочени към друг - разглежда чувствата за себе си. Тестът, наречен тест за съзнание на AI, е в процес на патентоване в Принстън.
Тестът се различава от по-известния тест на Тюринг, разработен от математика Алън Тюринг през 1951 г. В този по-ранен тест, съдия ще започне дигитален разговор с участника (като това, което бихте изпитали днес в чатборните стаи), като задава въпроси, за да различи. дали респондентът е човек или машина. Но както Schneider посочва в своята статия, учените могат да разработят програми, които преминават теста на Тюринг, но не са съзнателни същества. Тестът на Тюринг се интересува от оценка на верността между реакцията на машината и човешката реакция, а не с разбиране дали машината е жива или не. Подобно на теста на Voight-Kampff, тестът за съзнание на AI на Schneider се опитва да разбере какво се случва вътре в машината.
Работата като тази е спешна, казва тя, защото човечеството не е етично подготвено да се справи с последствията от създаването на жизнен живот. Това, което ще направи съденето на нашите творения още по-трудно, е човешкото разчитане на антропоморфизма, за да посочи какво трябва да се счита за същество, достойно за морално разглеждане. „Някои [роботи] изглеждат хора или са сладки и пухкави, така че мислим за нашите котки и кучета“, казва Шнайдер. „Кара ни да вярваме, че се чувстват. Ние сме много лековерни. Може да се окаже, че само биологичните системи могат да бъдат съзнателни или че най-умните ИИ са осъзнатите, тези неща, които не изглеждат човешки. "
За учените е важно да се консултират с философи, което мнозина вече правят, казва Шнайдер, но също така и за обществеността да мисли за последствията от този тип технологии. И, добавя тя, не всички философи са съгласни с естеството на съзнанието, така че няма лесни отговори.
Може би холивудски филми като Blade Runner: 2049 ще ни доближат с една крачка към включването в тези разговори. Но ако не стане, ще трябва сами да се заемем с работата по навлизането в етичната тревога. По-скоро, отколкото по-късно - или ще стигнем до проблем като репликантите и няма идея как да реагираме.
