Миналата година Facebook създаде два чат-бота и ги помоли да започнат да говорят помежду си, практикувайки уменията си за преговори. Оказва се, че ботовете са били доста добри в преговорите - но са го направили, използвайки собствения си измислен език, неразбираем за хората.
Свързано съдържание
- Този художник живее в нелегалния свят на класифицирани тайни и наблюдение
Ето къде отива светът. Компютрите създават съдържание един за друг, а не ние. Снимките се правят от компютри, за други компютри да преглеждат и интерпретират. Всичко става тихо, често без наше знание или съгласие.
Така че да научите как да виждате като компютър - правейки видими тези комуникации машина-машина - може би е най-важното умение на 21-ви век.
На 25 октомври 2018 г. квартет Кронос - Дейвид Харингтън, Джон Шерба, Ханк Дут и Съни Янг - изнесоха концерт в американския музей на изкуствата Smithsonian. Те бяха наблюдавани от 400 човека и дузина алгоритми за изкуствен интелект, последната любезност на Тревър Паглен, художникът зад изложбата „Невиждани сайтове“, която в момента се гледа в музея.
Докато музикантите свиреха, екран над тях ни показваше на хората какво виждат компютрите.
Докато Кронос проправяше траурно парче първоначално от Османската империя, на екрана надземните алгоритми откриваха лицата на музикантите, очертавайки устни, очи и нос на всеки човек (и от време на време виждаха „призрачни“ лица, където няма такива - често в Моп на косата на основателя на Кронос Харингтън). Тъй като алгоритмите ставаха все по-усъвършенствани, видеопотокът избледняваше, докато останаха само неонови линии на черен фон. Най-накрая очертанията на лицето избледняха, докато остана само абстрактно подреждане на линиите - вероятно целият компютър, необходим за разбиране на „лицето“, но напълно неразбираем за хората.
"Прицелна машина", Тревър Паглен, квартет Кронос (Брус Гутри) 
"Прицелна машина", Тревър Паглен, квартет Кронос (Брус Гутри) 
"Прицелна машина", Тревър Паглен, квартет Кронос (Брус Гутри) 
"Прицелна машина", Тревър Паглен, квартет Кронос (Брус Гутри) 
"Прицелна машина", Тревър Паглен, квартет Кронос (Брус Гутри) 
"Прицелна машина", Тревър Паглен, квартет Кронос (Брус Гутри) 
"Прицелна машина", Тревър Паглен, квартет Кронос (Брус Гутри) 
"Прицелна машина", Тревър Паглен, квартет Кронос (Брус Гутри) 
"Прицелна машина", Тревър Паглен, квартет Кронос (Брус Гутри) 
"Прицелна машина", Тревър Паглен, квартет Кронос (Брус Гутри) 
„Прицелна машина“, Тревър Паглен, квартет „Кронос“ Дебютът на Източното крайбрежие на спектакъла, озаглавен "Sight Machine", като друга работа на Paglen, помоли зрителите и слушателите да научат как да виждат както правят компютрите и да преразгледат човешката връзка с технологиите - телефоните в джобовете ни и очите в небето и всичко между тях.
2018 година е, а идеята, че мобилните телефони ни наблюдават, вече не се чувства като конспиративна теория, поставена от блогърката на мазето, покрита с калаена шапка. Google беше хванат по-рано тази година да следи местоположенията на потребителите на телефони с Android, дори ако потребителите деактивираха функцията. Много хора са убедени, че телефоните ни ни слушат, за да показваме по-добре рекламите си - Facebook и други компании отричат тези такси, въпреки че технически и законово е възможно те да направят това. Техническите журналисти Алекс Голдман и PJ Vogt разследваха и откриха едно и също нещо: Няма причина нашите телефони да не слушат, но от друга страна, рекламодателите могат да получат достатъчно информация за нас чрез други методи, които просто не им трябват,
Именно в този контекст е изпълнена „Sight Machine“. Десетките или около камерите, гледащи квартет „Кронос“, изпратиха видео на живо от представянето до стелаж от компютри, който използва нестандартни алгоритми за изкуствен интелект за създаване на зловещите визуализации. Алгоритмите са същите, които се използват в нашите телефони, за да ни помогнат да правим по-добри селфита, такива, използвани от самостоятелно управлявани автомобили за избягване на препятствия, и такива, използвани от органите на реда и оръжията. Така че, докато резултатите на екрана понякога бяха красиви или дори смешни, имаше ужас.
„Това, което ме изумява с тази конкретна творба, е, че той ни показва нещо, което е - и това е вярно за цялата му работа - той ни показва нещо, което е смущаващо, и го прави с помощта на трикове“, казва Джон Джейкъб, уредник на музея за фотография, която организира „Невиждани сайтове.“
"Това е умишлен трик", казва той, "и работи."
По-късно сложни алгоритми за разпознаване на лица правят преценки за членовете на Кронос и показват резултатите им на екран. "Това е Джон [Шерба]. Джон е на възраст между 24-40 години", казва компютърът. "Съни [Янг] е 94, 4% жени. Слънчево е 80% ядосано и 10% неутрално."
„Едно от нещата, на които се надявам представлението да се показва - казва Паглен, - е един от начините, по които възприемането на компютрите не е неутрален. Той е силно пристрастен ... с всякакви политически и културни предположения, които са не е неутрален. " Ако в системата за класификация по пол се казва, че Съни Янг е 94, 4 процента от жените, то това означава, че някой е 100 процента жена. "И кой реши какво е 100 процента жена? Барби е 100 процента жена? И защо полът е двоичен?" - пита Пейгъл. „Виждайки това да се случи в момент, в който федералното правителство се опитва буквално да заличи хората с опашки, от една страна е смешно, но за мен това също е ужасяващо.“
По-късен алгоритъм се освобождава от процентите и се премества просто да идентифицира обекти в сцената. "Микрофон. Цигулка. Лице. Медузи. Перука." (Последните две са очевидно грешки; алгоритъмът сякаш обърка Ханк Дют за медуза и истинската коса на Харингтън за палто.) След това класификациите станаха по-сложни. "Съни държи ножица", каза машинката, когато светлината проблясваше от струните й за виолончело. "Джон държи нож." Какво би станало, ако класификаторът даде тази - неправилна - информация на органите на реда, никога няма да разберем.
Повечето крайни потребители на AI платформи - които не са артисти - може да твърдят, че тези системи могат да имат собствени пристрастия, но винаги получават окончателен отказ от човек. Изработен от Amazon алгоритъм Rekogservation, който компанията продава на органите на реда и евентуално ICE, по известен начин погрешно идентифицира 28 членове на Конгреса като хора, които са обвинени в престъпление, като сравняват лицата си с мъжки снимки в публично достъпна база данни. По това време Amazon твърди, че ACLU, който използва системата за създаване на мачовете, е използвал Rekogcharge неправилно. Компанията заяви, че настройката по подразбиране на системата за мачове, наречена „праг на доверие“, е едва 80 процента. (С други думи, алгоритъмът е бил само 80 процента сигурен, че представител Джон Луис е престъпник.) Говорител на Amazon заяви, че препоръчва на полицейските служби да използват прага на доверие от 95 процента и че „Amazon Rekogservation се използва почти изключително за помощ стесняват полето и позволяват на хората бързо да преглеждат и обмислят варианти, като използват своята преценка. ”Компютрите може да общуват един с друг, но - засега - все още молят хората да направят последния разговор.
Музиката, избрана от Paglen с принос от Kronos, също има какво да каже за технологията. Едно парче, "Powerhouse", от Реймънд Скот, е "вероятно най-известното с това, че се използва в карикатури във фабрични сцени", казва Паглен. "Ако някога видите фабричен вид свръхпроизводство и полудяване, това често е музиката, която говори за това. За мен това е начин на мислене за тази почти карикатурна индустриализация и някак си ги разположи в технологичен контекст." Друго парче, „Различни влакове“ от Стив Райх, затвори комплекта. Кронос изпълнява само първото движение, което е за детството на Райх през 30-те и 40-те; Paglen казва, че смята парчето като за празнуване на "усещане за изобилие и напредък, които влаковете улесняват." *
Той беше съчетан с изображения от публично достъпна база данни, наречена ImageNet, които се използват за обучение на компютри какви са нещата. (Нарича се още „тренировъчни данни“, така че да, малко е каламбур.) Екранът проблясваше изображения невъзможно бързо, показвайки примери за плодове, цветя, птици, шапки, хора стоящи, хора ходещи, хора скачащи и личности като Арнолд Шварценегер. Ако искате да научите компютър как да разпознава човек, като Шварценегер, или къща или концепцията за „вечеря“, ще започнете с показване на компютър на тези хиляди снимки.
Имаше и кратки видеоклипове на хора, които се целуват, прегръщат, смеят се и се усмихват. Може би AI, обучен на тези снимки, би бил доброжелателен, приятелски настроен.
Но „Различни влакове“ не е само за оптимизъм; по-късните движения, които Кронос не играеше в четвъртък, но се „подразбираха“ от първата, са за това как обещанието за пътуване с влак е присвоено, за да се превърне в инструмент на Холокоста. Влаковете, които изглеждаха като технологичен прогрес, станаха превозните средства, в които десетки хиляди евреи бяха преместени в лагери на смъртта. Това, което изглеждаше като доброжелателна технология, се подриваше на злото.
„Това е като:„ Какво би могло да се обърка? “ Пейгъл казва. "Ние събираме цялата информация за всички хора по света." "
И всъщност, тъй като „Различни влакове“ приключиха, фокусът се измести. Екранът вече не показваше изображения на Кронос или данни за тренировките от ImageNet; Вместо това, тя показа видео на живо от емисия на публиката, тъй като алгоритмите за разпознаване на лица избират характеристиките на всеки човек. Наистина, дори когато мислим, че не сме наблюдавани, ние сме.
В видео емисия на живо от публиката алгоритмите за разпознаване на лица подбраха характеристиките на всеки човек. (Брус Гутри) За да съобщя за тази история, напуснах къщата си и тръгнах към станцията на метрото, където сканирах електронна карта, свързана с моето име, за да мина през турникета и отново, когато напуснах метрото в центъра на града. В центъра на града минах половин дузина охранителни камери, преди да вляза в музея, където забелязах поне още две (говорител на Смитсън казва, че Смитсониан не използва технология за разпознаване на лице; столичното полицейско управление на ДК казва същото за своите камери).
Записвах интервюта с телефона си и качих аудиото в услуга за транскрипция, която използва AI, за да разбера какво казвам аз и моите субекти и може или не може да насочва рекламата към мен въз основа на съдържанието на интервютата. Изпращах имейли с помощта на Gmail, който все още „чете“ всичко, което изпращам (въпреки че вече не ми показва реклами).
По време на процеса на докладване, докато се разхождах из града, се натъкнах на - не измислям това - колата на Google Street View. Два пъти. Не е параноя, ако те наистина те гледат, нали?
И така, какво остава в този свят, където компютрите правят виждането и евентуално да преценяват за нас? „Sight Machine“ ни призовава да се научим как да мислим като компютър - но също така ни напомня, че има някои части от нас, които засега са все още напълно хора.
Музиката, казва Паглен, "е нещо, което наистина не може да се измери ... когато гледате система за компютърно виждане, която по същество разпитва изпълнителите, наистина за мен изтъква, че огромният пролив в възприятията между начина, по който възприемаме културата, емоцията и смисъла. и всички начини, по които те са невидими за автономните системи. "
Или както казва Харингтън, можете да правите музика с цигулка от дърво или такава, направена на 3D принтер. Можете да използвате лък от въглеродни влакна или такъв, изработен от дърво пернамбуко. Но, казва той, лъкът все още трябва да се дърпа през струните. Музиката „става по-ценна, защото е ръчно изработена“.
И засега това е нещо, което само ние можем да направим. Машините може вече да не ни трябват. Но когато става въпрос за тържественото звучене на поклон на цигулка и емоционалните струни, които отбелязват влекачи, не ни трябват машините.
„Тревър Паглен: Сайтове невиждани“, куриран от Джон Джейкъб, продължава в Американския музей на изкуствата Смитсън във Вашингтон до 6 януари 2019 г. Предвижда се да пътува до Музея за съвременно изкуство в Сан Диего на 21 февруари-2 юни, 2019.
* Бележка на редактора, 2 ноември 2018 г.: Тази история е редактирана, за да се изясни намереният смисъл и история на произхода на композицията на Стив Райх „Различни влакове“.
