Пост-човечката пустина

Отвореното писмо на Институтот „Иднина на животот“ во кое се бара шестмесечна претпазлива пауза на развојот на вештачката интелигенција веќе е потпишано од илјадници личности од висок профил, вклучувајќи го и Илон Маск. Потписниците се загрижени дека лабораториите за вештачка интелигенција се „заклучени во трка надвор од контрола“ за развој и распоредување на помоќни системи што никој – вклучувајќи ги и нивните креатори – не може да ги разбере, предвиди или контролира.

Што го објаснува овој излив на паника кај одредена група елити? Контролата и регулацијата се очигледно во центарот на приказната, но чија? За време на предложената полугодишна пауза кога човештвото може да направи сметка за ризиците, кој ќе се залага за човештвото? Бидејќи лабораториите за вештачка интелигенција во Кина, Индија и Русија ќе ја продолжат својата работа (можеби тајно), глобалната јавна дебата за ова прашање е незамислива.

Сепак, тука треба да размислиме што е во прашање. Во својата книга од 2015 година, Homo Deus, историчарот Јувал Харари предвиде дека најверојатниот исход на вештачката интелигенција ќе биде радикална поделба – многу посилна од класната поделба – во човечкото општество. Наскоро, биотехнологијата и компјутерските алгоритми ќе ги здружат своите моќи во производството на „тела, мозоци и умови“, што ќе резултира со продлабочување на јазот „меѓу оние кои знаат да инженерираат тела и мозоци и оние кои не знаат“. Во еден таков свет, „оние што се возат во возот на напредокот ќе се здобијат со божествени способности за создавање и уништување, додека оние што ќе останат зад нив ќе се соочат со истребување“.

Паниката што се рефлектира во писмото за вештачка интелигенција произлегува од стравот дека дури и оние што се во „возот на напредокот“ нема да можат да го управуваат. Нашите сегашни дигитални феудалци се исплашени. Она што тие го сакаат, сепак, не е јавна дебата, туку договор меѓу владите и технолошките корпорации да ја задржат власта таму каде што припаѓа.

Огромното проширување на способностите на вештачката интелигенција е сериозна закана за оние кои се на власт – вклучувајќи ги и оние кои развиваат, поседуваат и контролираат вештачка интелигенција. Тоа укажува на ништо помалку од крајот на капитализмот каков што го знаеме, манифестиран во изгледите за саморепродуцирачки систем на вештачка интелигенција на кој ќе му треба сè помалку придонес од човечки агенти (алгоритамското тргување на пазарот е само првиот чекор во оваа насока). Изборот што ни е оставен ќе биде помеѓу нова форма на комунизам и неконтролиран хаос.

Новите чет-ботови ќе им понудат на многу осамени (или не толку осамени) луѓе бескрајни вечери на пријателски дијалози за филмови, книги, готвење или политика. За повторно користење на една моја стара метафора, она што луѓето ќе го добијат е верзијата со вештачка интелигенција на кафе без кофеин или сода без шеќер: пријателски сосед без скелети во својот плакар, Друг што едноставно ќе се приспособи на вашите сопствени потреби. Овде постои структура на фетишистичко отфрлање: „Знам многу добро дека не разговарам со вистинска личност, но се чувствувам како да сум – и без ниеден од придружните ризици!“

Во секој случај, внимателното испитување на писмото со вештачка интелигенција покажува дека тоа е уште еден обид да се забрани невозможното. Ова е стар парадокс: за нас, како луѓе, е невозможно да учествуваме во пост-човечка иднина, па затоа мораме да го забраниме нејзиниот развој. За да се ориентираме околу овие технологии, треба да го поставиме старото прашање на Ленин: Слобода за кого што да прави? Во која смисла бевме слободни порано? Дали веќе не бевме контролирани многу повеќе отколку што сфативме? Наместо да се жалиме на заканата за нашата слобода и достоинство во иднина, можеби прво треба да размислиме што значи слобода сега. Сè додека не го направиме ова, ќе се однесуваме како хистерици кои, според францускиот психоаналитичар Жак Лакан, се очајни по господар, но само еден над кој можеме да доминираме.

Футуристот Реј Курцвеил предвидува дека, поради експоненцијалната природа на технолошкиот напредок, наскоро ќе се занимаваме со „духовни“ машини кои не само што ќе ги покажат сите знаци на самосвест, туку и далеку ја надминуваат човечката интелигенција. Но, не треба да се меша овој „постчовечки“ став за парадигматично модерната преокупација со постигнување целосна технолошка доминација над природата. Она на што сме сведоци, наместо тоа, е дијалектички пресврт на овој процес.

Денешните „постхумани“ науки повеќе не се за доминација. Нивното кредо е изненадување: каков вид на непредвидени, непланирани појавни својства може да стекнат за себе моделите со вештачка интелигенција со „црна кутија“? Никој не знае, а во тоа лежи возбудата – или, навистина, баналноста – на целото претпријатие.

Оттука, на почетокот на овој век, францускиот филозоф-инженер Жан-Пјер Дипуј во новата роботика, генетика, нанотехнологијата, вештачкиот живот и вештачката интелигенција забележал чудна инверзија на традиционалната антропоцентрична ароганција што ја овозможува технологијата:

„Како да објасниме дека науката стана толку ‘ризична’ активност што, според некои врвни научници, денес претставува главна закана за опстанокот на човештвото? Некои филозофи одговараат на ова прашање велејќи дека сонот на Декарт – ‘да стане господар и поседувач на природата’ – е погрешен, и дека итно треба да се вратиме на ‘мајсторството на мајсторството’. Тие не разбрале ништо. Тие не гледаат дека технологијата што се профилира на нашиот хоризонт преку ‘конвергенција’ на сите дисциплини има за цел токму несовладување. Утрешниот инженер нема да биде чирак на волшебник поради неговата небрежност или незнаење, туку по избор“.

Човештвото создава свој бог или ѓавол. Иако исходот не може да се предвиди, едно е сигурно. Ако нешто што наликува на „пост-човештвото“ се појави како колективен факт, нашиот светоглед ќе ги изгуби сите три свои дефинирачки, преклопувачки теми: човештвото, природата и божественоста. Нашиот идентитет како луѓе може да постои само наспроти позадината на непробојната природа, но ако животот стане нешто што може целосно да се манипулира со технологијата, тој ќе го изгуби својот „природен“ карактер. Целосно контролираното постоење е лишено од значење, а да не зборуваме за веселост и чудење.

Истото, се разбира, важи и за секое чувство за божественото. Човечкото искуство на „бог“ има значење само од гледна точка на човечката конечност и смртност. Штом ќе станеме homo deus  и ќе создадеме својства што изгледаат „натприродни“ од нашата стара човечка гледна точка, „боговите“ какви што ги знаевме ќе исчезнат. Прашањето е што, ако нешто, ќе остане. Дали ќе се поклонуваме на вештачките интелигенции што ги создадовме?

Има секаква причина да се грижиме дека техногностичките визии за пост-човечки свет се идеолошки фантазии што ја замаглуваат бездната што нè очекува. Непотребно е да се каже дека би биле потребни повеќе од шест месеци пауза за да се осигура дека луѓето нема да станат ирелевантни, а нивните животи бесмислени, во не толку далечна иднина.

(Славој Жижек, професор по филозофија на Европската школа за постдипломски студии, е меѓународен директор на Институтот за хуманистички науки Биркбек на Универзитетот во Лондон. Текстот е дел од мрежата „Проект синдикејт“.)