В не твърде далечното бъдеще Йоханесбург, изгнил от престъпност, се превръща в първия град, който въвежда флота от автономни полицейски дроиди. В началото машините изглеждат като ефективно решение. Престъпността драстично заглъхва и проектът се приветства като успех - докато нещо не се обърка. Ревливи гангстери, които търсят бързо отвличане на повреден дроид, насрочен за разрушаване. С помощта на инженер, принуден при стрелба, те препрограмират дроида, наречен Чапи, като автономен агент, ефективно създавайки сингулярността, точката, в която изкуственият интелект става по-умен от човешкия интелект.
Подобно на повечето добри научни фантастики, новият филм на режисьора Нийл Бломкамп, Чапи , действа като коментар за човешката природа и текущите проблеми, включително бедността, престъпността, дискриминацията, тормоза и полицейската бруталност. Но тя поражда и по-древни въпроси за това, което мнозина смятат - за по-добро или за по-лошо - ще бъде неизбежна поява на разумния изкуствен интелект.
„В миналото отвъд всичко, което са мислили хората, независимо от етиката и морала, е било изпробвано и, ако е възможно, направено“, казва Волфганг Финк, физик от Университета в Аризона и Калифорнийския технологичен институт., „Автономните системи ще се появят, ако някой измисли как да ги създаде - това е даденост.“
Всъщност много учени, включително Финк, сега трескаво преследват тази линия на изследване и напредъкът вече е постигнат. Като изключим самия Чапи, голяма част от изобразената във филма роботика е всъщност вече налична или много близка до тази. Работят дистанционно роботи, подобни на филма Moose - ошеломяващата машина на смъртта, напомняща ED-209 на Robocop, която се управлява от ужасения полицай на Хю Джакман - съществуват и днес.
По същия начин, роботи като полицейските дроиди в Chappie - тези, които са програмирани като базирани на правила системи и са изкуствено интелигентни, но им липсва самоосъзнаване или самостоятелност - са почти готови, въпреки че техният живот на батерията и гъвкавост все още не съответстват на моделите, показани за патрулиране на улици на Йоханесбург. Ако и когато се разполагат такива машини обаче, това може да не е толкова радикално нещо, което да приемем. „Ние сме много добри в привикването и свикването с промените в околната среда, включително технологичните“, казва Али Мату, клиничен психолог в Медицински център на Университета Колумбия и създател на блога за научна фантастика по психология. „Тъй като роботите стават част от нашето ежедневие, мисля, че по някакъв начин може да се чувства безпроблемно.“
Полицейски дроид обаче не прави автономен разум. Наистина самоуправляващо се, осъзнаващо себе си битие като Чапи би било отклонение от всичко, което някога съм виждал. „Във времето след неандерталците никога не сме имали потенциал да работим съвместно с нов интелигентен вид“, казва Мату. „Ако можем да преодолеем бариерите пред споделянето на съпричастност с изкуствена форма на живот, тогава това може да доведе до невероятна епоха за човечеството.“
Хардуерът не е пречката, която не позволява да се появи такова същество - това е просто инженерна задача, казва Финк. Вместо това създаването на софтуера - призракът в машината - е истинското предизвикателство. Изследователите използват два различни подхода към този проблем. Някои се опитват да създадат готово за зареждане съзнателно същество от нулата, докато други смятат, че написването на основна програма, оборудвана с инструментите, от които се нуждае, за да се научи, адаптира и модифицира чрез опит - както се вижда от Чапи - е начинът да върви, Както Финк обяснява: „Това е случай или на вече изпичане на пая и пускане на пая в системата, или на даване на съставките за пая и оставяне на системата за изпичането му.“
Когато пробивът настъпи, най-вероятно това ще се случи не постепенно, а изведнъж, както е изобразено в Чапи . Fink предрича, че - вместо университет, правителство или корпорация, която взема кредит - сривът, водещ до сингулярност, ще бъде доставен от малък екип изследователи или дори отделен индивид, вероятно подкрепен от богат частен финансист, одухотворен от свободата да експериментира и да се освободи от консервативните основни изследвания. Всъщност това е почти сценарият в Chappie : Chappie е създаден не от масивна корпорация, а от самостоятелно задвижван инженер, изигран от Дев Пател, който използва всички ресурси, предоставени от неговата трудна ежедневна работа, за да подкрепи своята изключително различна работа относно автономния изкуствен интелект през нощта.
След като се появи наистина самоуправляващ се изкуствен интелект, ще бъде невъзможно да се предвиди колко сложна ще стане системата или в каква посока ще се развива. За разлика от органичните системи като нас, това не би било ограничено от бавния лозунг на биологичната еволюция. Развитието му би било експлозивно. Няма гаранция, че подобна система би възприела или запазила набор от морални или етични ценности или че тези ценности ще се разпрострет и върху хората. В случая с Чапи - който се развива много като човешко дете, учене и съзряване с течение на времето - ранното обещание да не навреди на хората преминава дълъг път в контрола на действията на робота. Но когато е заплашена от унищожение, Чапи, подобно на много хора, до голяма степен отменя морала си и действа от чист личен интерес, защитавайки себе си, дори ако това означава да наранява другите.
И макар че Чапи да се разглежда като роднина и подобна на човека, един истински разумен робот е напълно вероятно да не се придържа към човешки разсъждения, намалявайки способността ни да предвиждаме действията си или да разбираме мотивациите му. „След като достигнете това ниво, по същество сте загубили контрол над системата“, казва Финк. "Това е едновременно вълнуващо и страшно, защото няма да бъде подобно на човека."
Освен това, дали софтуерът първоначално обитава обвивката на хаманоиден робот, наподобяващ Чапи, космически кораб или дори имплант в тялото ви, след като избяга от границите на тази физическа форма - както е изобразено (макар и с достойнство) в Трансцендентността - би да бъде почти невъзможно да го съдържа.
Докато книгите и филмите за научна фантастика се размишляват над въпроса за изкуствения интелект в продължение на десетилетия, Финк посочва, че необходимият пробив „може буквално да се случи по всяко време.“ Не всички са доволни от това. Миналия януари съоснователят на PayPal и изпълнителният директор на Tesla Motors Елон Мъск дари 10 милиона долара, за да предотврати превземането на роботите от някой ден да превземе планетата и да ни елиминира. Опитвайки се да създадем автономен изкуствен интелект, той предупреждава, ние „призоваваме демона“.
Мъск не е сам в трепета си по тази линия на изследване. В скорошна тема на Reddit „Попитай ме всичко“, съоснователят на Microsoft и филантроп Бил Гейтс пише, че „е в лагера, който е загрижен за супер интелигентността“ и „не разбира защо някои хора не са загрижени“ за изкуствените изкуствени същества, които надвишават собствените ни познавателни способности и придобиват самостоятелност. Физикът Стивън Хокингс също споделя това притеснение и го формулира още по-категорично: „Развитието на пълния изкуствен интелект може да заклина края на човешката раса“, каза той пред BBC.
Дори филмите за комикси за блокбастери стъпват по този добре износен път, обикновено запазен за жанра на научната фантастика. Както намеква в последния трейлър за „Отмъстителите на Marvel: Age of Ultron“, героите на филма се бият с робот, който първоначално е създаден като спасител на планетата от война, но вместо това решава да унищожи човечеството.
На обратната страна обаче хората биха могли да бъдат агресори, заплашвайки съществуването на автономните същества, които сами създаваме, както е изобразено в Чапи . Дали ние хората следваме мирен път до голяма степен зависи от две неща, Мату казва: ако можем да общуваме с роботите и дали имаме съпричастност към тях. Последното, обяснява той, зависи от привидно плитки фактори, като това как изглеждат роботите - имат ли очи? Изглеждат ли ни сходни, но не твърде сходни с нас? - И дали те попадат като най-харесващи. Споделянето на същите цели като нас също би помогнало на техния случай. Тези фактори се вписват в нашата вродена неврологична тенденция да категоризираме другите като част от нашата доверена група или като част от потенциално заплашваща външна група. Роботиците вземат предвид такива психологически фактори при проектирането на най-новите си машини.
Мату обаче изтъква, че дори роботите да отговарят на всички тези предпоставки, все още няма гаранция, че нещата ще вървят добре. „Хората имат достатъчно трудно време да се виждат като хора, камо ли ИИ или извънземен живот“, казва Мату. "Имаме и история на първите контакти, които преминават много зле."
Така че може да бъде, че ние унищожаваме нашето творение, преди дори да го опознаем, или обратното да се сбъдне - че нашето софтуерно потомство прави роби от всички нас, както се вижда в Матрицата, или решава, в стил Skynet, че човечеството просто не е не е достоен за съществуване. От друга страна, хората и автономните роботи биха могли да се прегърнат, съгласявайки се да работят заедно по интересни занимания като космическото изследване. Единственият начин да разберете дали нещата свършват с пламъци и сълзи или напредък и приятелство, е да създадете тези същества на първо място. Но ако миналото е някакъв показател, това ще бъде само въпрос на време. „Винаги сме водени от любопитство, от желание да изследваме и да открием неочакваното“, казва Финк. „И научната етика обикновено изостава от нашия напредък.“
"Понякога получаваме атомна сила, а понякога получаваме атомно оръжие", добавя Мату. "Не знаем в каква посока ще поеме, но не можем да спрем науката."
