Вештачки идиотизам

Нема ништо ново за „четботовите“ кои се способни да одржуваат разговор на природен јазик, да ја разберат основната намера на корисникот и да понудат одговори врз основа на претходно поставени правила и податоци. Но, капацитетот на таквите чет-ботови е драматично зголемен во последниве месеци, што доведе до виткање раце и паника во многу кругови.

Многу е кажано за четботите кои го навестуваат крајот на традиционалниот студентски есеј. Но, прашање кое бара поголемо внимание е како четботовите треба да реагираат кога човечките соговорници користат агресивни, сексистички или расистички забелешки за да го поттикнат ботот да ги претстави сопствените фантазии за возврат. Дали вештачката интелигенција треба да се програмира да одговараат на исто ниво како и прашањата што се поставуваат?

Ако одлучиме дека некаква регулатива е во ред, тогаш мора да одредиме до каде треба да оди цензурата. Дали ќе бидат забранети политичките позиции кои некои групи ги сметаат за „навредливи“? Што е со изразите на солидарност со Палестинците од Западниот Брег, или тврдењето дека Израел е држава на апартхејдот (што поранешниот американски претседател Џими Картер еднаш го стави во наслов на книга)? Дали овие ќе бидат блокирани како „антисемитски“?

Проблемот не завршува тука. Како што предупредува уметникот и писател Џејмс Бридл, новите вештачки интелигенции (ВИ) се „засновани на големо присвојување на постоечката култура“, а верувањето дека тие се „всушност познавања или значајни е активно опасно“. Оттука, треба да бидеме многу претпазливи и за новите генератори на слики со вештачка интелигенција. „Во нивниот обид да ја разберат и реплицираат целината на човечката визуелна култура“, забележува Бридл, „се чини дека [тие] ги пресоздадоа и нашите најмрачни стравови. Можеби ова е само знак дека овие системи се навистина многу добри во мајмунирањето на човечката свест, сè до ужасот што демне во длабочините на постоењето: нашите стравови од нечистотијата, смртта и корупцијата“.

Но, колку се добри новите ВИ во приближувањето на човечката свест? Размислете за барот кој неодамна рекламираше специјален пијалок со следните термини: „Купи едно пиво по цена од две и добиј второ пиво апсолутно бесплатно!“ За секој човек ова е очигледно шега. Класичниот специјал „купи еден, добиј еден“ е преформулиран за да се откаже. Тоа е израз на цинизам кој ќе се цени како комична искреност за да се зголеми продажбата. Дали четботот би прифатил нешто од ова?

„ Fuck“ (ебење) претставува сличен проблем. Иако означува нешто што повеќето луѓе уживаат да го прават (копулација), исто така често добива и негативна валентност („Зафркнати сме!“ „Оди еби се!“). Јазикот и реалноста се неуредни. Дали вештачката интелигенција е подготвена да забележи такви разлики?

Во неговиот есеј од 1805 година „За постепеното формирање на мислите во процесот на говорот“ (првпат објавен постхумно во 1878 година), германскиот поет Хајнрих фон Клајст ја превртува општата мудрост дека не треба да се отвори устата за да се зборува освен ако има јасна идеја. за тоа што да се каже: „Ако затоа една мисла е изразена на нејасен начин, тогаш воопшто не следи дека оваа мисла е замислена на збунет начин. Напротив, сосема е можно идеите кои се изразени на најзбунувачки начин да се оние кои биле најјасно обмислени“.

Односот помеѓу јазикот и мислата е невообичаено комплициран. Во пасус од еден од говорите на Сталин од раните 1930-ти, тој предлага радикални мерки за „откривање и борба без милост дури и кон оние кои се противат на колективизацијата само во нивните мисли – да, мислам на ова, треба да се бориме дури и со мислите на луѓето“. Со сигурност може да се претпостави дека овој пасус не бил однапред подготвен. Откако бил фатен во моментот, Сталин веднаш станал свесен за она што штотуку го кажал. Но, наместо да тргне назад, тој реши да се држи до својата хипербола.

Како што подоцна рече Жак Лакан, ова беше случај на вистина што се појави како изненадување преку чинот на објавување. Луј Алтусер идентификуваше сличен феномен во интеракцијата помеѓу наградата и изненадувањето. Некој кој наеднаш ќе сфати („награди“) некоја идеја ќе биде изненаден од она што таа го постигнала. Повторно, дали секој четбот може да го направи ова?

Проблемот не е што четботите се глупави; туку декатие не се доволно „глупави“. Не е дека се наивни (нема иронија и рефлексивност); туку дека тие не се доволно наивни (нема кога наивноста ја маскира проникливоста). Вистинската опасност, значи, не е дека луѓето ќе го помешаат четбот со вистинска личност; туку дека комуникацијата со чет-ботови ќе ги натера вистинските личности да зборуваат како четботови – пропуштајќи ги сите нијанси и иронии, опсесивно кажувајќи го само точно она што некој мисли дека сака да го каже.

Кога бев помлад, еден пријател отиде кај психоаналитичар на лекување по трауматично искуство. Идејата на овој пријател за тоа што таквите аналитичари очекуваат од своите пациенти беше клише, па тој ја помина својата прва сесија пренесувајќи лажни „бесплатни асоцијации“ за тоа како го мрази својот татко и сака да биде мртов. Реакцијата на аналитичарот беше генијална: тој усвои наивен „пред-фројдовски“ став и му забележа на мојот пријател што не го почитува татко му („Како можеш така да зборуваш за личноста што те направила тоа што си?“). Оваа фингирана наивност испрати јасна порака: не ги купувам вашите лажни „асоцијации“. Дали четботот би можел да го земе овој поттекст?

Најверојатно не, бидејќи тоа е како толкувањето на Роуан Вилијамс на принцот Мишкин во „Идиот“ на Достоевски. Според стандардното читање, Мишкин, „идиотот“, е светец, „позитивно добар и убав човек“ кој е доведен во изолирано лудило од суровите бруталности и страсти на реалниот свет. Но, во радикалното препрочитување на Вилијамс, Мишкин го претставува окото на бурата: добар и свет, иако е тој, тој е оној кој предизвикува хаос и смрт на кои сведочи, благодарение на неговата улога во сложената мрежа на односи околу него. .1

Не е само дека Мишкин е наивен простак. Тоа е тоа што неговиот посебен вид на тапост го остава несвесен за неговите катастрофални ефекти врз другите. Тој е рамна личност која буквално зборува како четбот. Неговата „добрина“ лежи во фактот што, како четбот, тој реагира на предизвиците без иронија, нудејќи флоскули без каква било рефлексивност, сфаќајќи сè буквално и потпирајќи се на ментално автоматско комплетирање, а не на автентична идеја-формирање. Поради оваа причина, новите четботови многу добро ќе се сложуваат со идеолози од сите шари, од денешната „разбудена“ толпа до националистите „МАГА“ кои претпочитаат да останат заспани.

(Славој Жижек, професор по филозофија на Европската школа за постдипломски студии, е меѓународен директор на Институтот за хуманистички науки Биркбек на Универзитетот во Лондон. Текстот е дел од мрежата „Проект синдикејт“.)