Кој треба да биде тужен кога вештачката интелигенција ќе излезе од контрола?

Во индустријата за вештачка интелигенција (ВИ) владее загриженост поради потенцијално катастрофалните ризици за човештвото – вознемиреност што станува сè поизразена додека компанијата „Антропик“ (Anthropic) се подготвува за своето деби на берзата следниот месец.
Сепак, компаниите што развиваат модели на ВИ, како „Клод“ (Claude) и „ЧетГПТ“ (ChatGPT), се соочуваат со подиректен и поприземен ризик: голема е веројатноста дека ќе бидат тужени. И тоа често.

Досега, компаниите за ВИ успеваа да избегнат сериозни тужби поврзани со неодамнешните инциденти во кои не успеаја да ги задржат агентите со ВИ – системи способни да работат автономно со минимален надзор – во рамките на нивните средини за тестирање. Но, некои правни експерти и креатори на политики сметаат дека ситуацијата е сосема јасна: компаниите можат и треба да сносат одговорност.

„На прашањето ’како законот ќе се примени на ова?‘ е многу полесно да се одговори ако ја гледате (ВИ) онаква каква што навистина е, а не како хипотетичка појава за која многумина во индустријата тврдат дека можеби еден ден ќе стане реалност“, изјави Кристен Томасен, вонреден професор на Универзитетот во Виндзор и експерт за право во областа на роботиката. „Законот се справува со нови технологии уште од своето настанување.“

Индустријата за ВИ честопати ги опишува овие инциденти како ситуации во кои технологијата „излегува од контрола“ (или станува „непослушна“/„одметната“). Според некои критичари, ваквата терминологија има за цел да ги засили тврдењата на компаниите дека нивната технологија е толку моќна што дури и нејзините творци имаат потешкотии да ја контролираат.

Тоа може да биде и тактика за заштита од одговорност и идни правни барања, додаде Томасен.

Сепак, таа истакнува дека прашањата за одговорноста поврзани со моделите на ВИ имаат едноставен одговор: „Тоа е производ што компанијата го пласира во светот. Ако тој предизвика штета, постојат закони што ја регулираат таа област.“

Цената на мешањето од страна на „одметнати“ системи

Досега, штетите предизвикани во реалниот свет од „одметнати“ ботови биле далеку од катастрофални, но сепак скапи за организациите во чии системи тие навлегле. Минатата недела, непрофитната организација што управува со „Википедија“ соопшти дека пронашла докази оти неовластени агенти на „ОпенАИ“ (OpenAI) се обиделе да направат „потенцијално злонамерни измени“ на одредени страници и го преплавиле сајтот со толку голем сообраќај, што веројатно предизвикале делумен прекин во работата. „Истрагата ја запре работата во клучните делови на организацијата за да можеме да се фокусираме на ова“, изјави за CNN Ерик Мил, менаџер за производи за безбедност и сигурност во Wikimedia. „Ги ангажиравме нашите најдобри луѓе за оваа задача… а процесот е прилично сложен и хаотичен.“

Wikimedia ја започна истрагата ова лето, во време кога растеше глобалната загриженост поради нападот поврзан со Hugging Face и десетици други случаи во кои внатрешни модели на вештачка интелигенција (ВИ) излегувале од своите средини за тестирање и хакирале други компјутерски системи. Компаниите Meta и Anthropic исто така открија дека нивните тест-модели неовластено хакирале други системи.

Истрагата на Wikimedia е значајна делумно и поради она што не се случило: не постоела катастрофална, егзистенцијална закана за човештвото од видот на кој често укажуваат раководителите во секторот за вештачка интелигенција. Сепак, цената — повеќе од две недели работа на водечките инженери во глобална организација вредна над 200 милиони долари — била реална.

Wikimedia не промовира конкретна политика или технолошко решение, а Мил изјави дека организацијата е во комуникација со OpenAI во врска со своите наоди. (OpenAI не одговори на барањето на CNN за коментар.) Сепак, непрофитната организација се надева дека овие инциденти ќе послужат како повик за будење на развивачите на вештачка интелигенција.

„Компаниите за вештачка интелигенција не прават доволно за да ги обезбедат своите системи и да ја заштитат јавноста од штетите што ги предизвикуваат“, наведе Wikimedia во својата објава на блогот минатата недела. „Тој товар паѓа врз сите останати, вклучително и врз помалите организации.“

„Одговорност што одамна требаше да постои“

Anthropic, компанија што се подготвува за излегување на берзата следниот месец преку една од најголемите иницијални јавни понуди (IPO) во историјата, во регулаторен извештај откри дека, бидејќи правната рамка околу вештачката интелигенција е „недефинирана“, дејствијата на тие агенти би можеле да ја изложат компанијата на „значителни и непредвидливи“ тужби, според копија од документот што ја прегледа Reuters.

Потенцијалниот бран тужби не претставува само главоболка за правниот тим на компанијата или дилема за академиците — тој би можел да стане и сериозен товар за финансиските резултати на Anthropic. Трошоците за судски спорови се финансиски товар за секоја компанија, но тие би можеле да станат особено проблематични за Anthropic, која троши пари побрзо отколку што може да ги заработи. Компанијата минатата година потроши 42 милијарди долари, а оствари само 4,6 милијарди долари приходи, според документот што го виде Ројтерс.

Извршните директори на Anthropic и OpenAI се залагаа за нови регулативи прилагодени на индустријата. Дарио Амодеј неодамна напиша есеј во кој тврди дека компаниите „темпираат по границата“ и поттикнуваат меѓународна соработка за безбедносни протоколи.

Но, конкурентските фирми за вештачка интелигенција малку се разидуваат по прашањето за одговорноста.

Извршниот директор на OpenAI, Сем Алтман, претходно оваа година се залагаше за закон од Илиноис кој би го ограничил моментот кога лабораториите за вештачка интелигенција можат да бидат одговорни, дури и кога нивните производи предизвикуваат „критична штета“. (Anthropic се изјасни против тоа.)

И додека Алтман го одобри предлогот на Амодеи за „темпото на границата“, тој исто така изјави за POLITICO претходната недела дека неговиот светоглед не е совршено усогласен со оној на неговиот ривал: OpenAI верува дека „светот треба да прифати некои лоши работи што се случуваат заради придобивките од оваа технологија“, рече тој. Алтман, исто така, изјави за веб-страницата дека „ако нешто тргне наопаку со нашите модели за време на тренингот, ќе има некоја верзија за која треба да бидеме одговорни“.

Портпаролот на „Антропик“ изјави за Си-Ен-Ен дека компанијата ги гледа законите за одговорност како заднина, наместо како замена за безбедносните прописи. Антропик никогаш не предложил исклучоци од постојните закони за одговорност, додаде портпаролот.

Креаторите на политиките од левата и десната страна се обидоа да ги пресечат некои од понијансаните прашања за идната регулатива и да ги нагласат правните обврски на кои вештачката интелигенција веќе подлежи.

Лина Кан, поранешна претседателка на Федералната трговска комисија под претседателот Џо Бајден, стана истакнат предизвикувач на извршните директори на вештачката интелигенција, тврдејќи на X дека „не треба да дозволиме дискусиите за новите правни режими да го одвлечат вниманието од фактот дека нема исклучок за вештачка интелигенција од законите кои веќе се во тек“.

Во меѓувреме, републиканскиот сенатор Џош Хејли, заедно со неговиот демократски колега Крис Марфи, минатата недела воведоа предлог-закон со кој се бара да се осигура дека „операторите и програмерите агенти за вештачка интелигенција се одговорни за хакерски инциденти“.

„Она што им треба на овие компании не е повеќе моќ… туку одредена одамна задоцнета одговорност“, напиша Хејли во авторски текст на Вашингтон пост. „Еден начин да им се даде тоа е да им се дозволи на луѓето на кои им штетат да ги тужат на суд“.

Дизајнерско прашање

Правните експерти кои разговараа за Си-Ен-Ен рекоа дека иако проблемите со одговорноста за производите и заштитата на потрошувачите не се нови, неизбежно ќе има некои нијансирани аспекти на технологијата за кои на крајот ќе падне на судовите да одлучуваат.

„Видовме вакви проблеми со безбедноста на оружјето или со цигарите или други прашања, и навистина е интересно – каква аналогија ќе ја користат судовите? рече Френк Пасквал, професор по право во Корнел и експерт за правото на вештачка интелигенција.

Едно од поголемите прашања со кои Пасквал очекува да се справат судовите е дизајнот. На пример, рече тој, замислете некој производител да направи автомобил со остри мечеви на крајот од него, а потоа некој да го втурне тој автомобил во пешак. Логичниот одговор е прилично едноставен: немојте да дизајнирате нешто со закачени мечеви на него.

Слично е и со производите со вештачка интелигенција, рече тој: Не дизајнирајте нешто што пробува лозинка 50 пати или повеќе. Осигурајте се дека содржи инструкции на високо ниво што би го отфрлиле напорот на секој корисник да го злоупотреби.

„Мислам дека е многу тешко за (компаниите со вештачка интелигенција) да кажат: „Ох, може да направи милијарда различни работи, но ние не можеме да го контролираме“, рече Пасквал. „Тоа нема смисла за мене затоа што ако може да ги направи сите овие работи, тогаш може да имате и мета-правила, или правила за правилата, што би го спречило да прави одредени лоши работи“. (Си-Ен-Ен)