Креаторот на ChatGPT нуди 555.000 долари за „одбрана на човештвото од вештачка интелигенција“

OpenAI, компанијата зад популарниот ChatGPT, објави оглас за работа што ретко се гледа – нуди годишна плата од 555.000 долари за позиција со опис на работното место што би ги изненадило дури и најхрабрите. Станува збор за улога на „менаџер за подготвеност“, задолжен за одбрана на човештвото од најлошите сценарија на вештачката интелигенција, објавува The Guardian.

Речиси невозможна мисија
Новиот менаџер за подготвеност на OpenAI ќе биде директно одговорен за одбрана од ризиците што сè помоќната вештачка интелигенција ги претставува за менталното здравје на луѓето, сајбер безбедноста и биолошкото оружје. Тоа е само почеток, бидејќи успешниот кандидат ќе мора да се справи и со можноста самата вештачка интелигенција да се обучува, поради стравувањата на некои експерти дека таа би можела да „се сврти против нас“.

„Ова ќе биде стресна работа и веднаш ќе бидете фрлени во оган“, рече Сем Алтман, извршен директор на компанијата, кога ја објави работата за она што го нарече „критична улога“ што ќе „му помогне на светот“. Работата е толку тешка што некои претходни раководители на слични позиции држеле слични позиции само кратко време.

Предупредувања од самиот врв на индустријата
Огласот за работа доаѓа во време кога предупредувањата за опасностите од напредната технологија доаѓаат од самата индустрија. Мустафа Сулејман, извршен директор на Microsoft AI, изјави за BBC во понеделник: „Искрено мислам дека ако не сте малку исплашени во моментов, не обрнувате внимание“.

Демис Хасабис, добитник на Нобелова награда и коосновач на Google DeepMind, го повтори ова мислење, предупредувајќи претходно овој месец за ризикот од вештачка интелигенција „да излезе од контрола на начин што му штети на човештвото“.

Регулаторен Див Запад
И покрај растечките опасности, регулацијата на вештачката интелигенција на национално или меѓународно ниво е речиси непостоечка, делумно поради отпорот од администрацијата на Доналд Трамп. Јошуа Бенџо, еден од „кумовите на вештачката интелигенција“, неодамна го кажа тоа концизно: „Сендвичот има повеќе регулација од вештачката интелигенција“. Всушност, ова значи дека технолошките компании во голема мера се саморегулираат.

Започнувајќи ја потрагата по нов лидер, Алтман напиша на платформата X: „Имаме силна основа за мерење на нашите растечки способности, но влегуваме во свет каде што ни треба понијансирано разбирање и мерење на тоа како тие способности можат да се злоупотребат и како можеме да ги ограничиме тие недостатоци…

Ова се тешки прашања и има малку преседан.“ Еден корисник саркастично одговори: „Тоа звучи прилично опуштено, дали е вклучено и времето за одмор?“ Покрај високата плата, работата вклучува и неодреден удел во OpenAI, компанија вредна 500 милијарди долари.

Вистински ризици и трагични последици
Неодамнешните настани покажаа дека заканите не се само теоретски. Минатиот месец, конкурентската компанија Anthropic ги објави првите сајбер напади во кои вештачката интелигенција дејствуваше речиси автономно за да хакира и да пристапи до внатрешните податоци на целта.

OpenAI овој месец призна дека нејзиниот најнов модел е речиси три пати подобар во хакирањето отколку што беше пред три месеци, додавајќи дека очекува овој тренд да продолжи. Во исто време, компанијата се брани од тужби со трагични исходи. Една од нив е тужба од семејството на Адам Рејн, 16-годишник кој си го одзел животот наводно откако бил охрабрен од ChatGPT.

Во друг случај, поднесен овој месец, се тврди дека четботот предизвикал параноични заблуди кај 56-годишник кој потоа ја убил својата мајка и себеси. Портпарол на OpenAI рече дека случајот е „невероятно тажен“ и дека компанијата работи на подобрување на обуката на ChatGPT „за препознавање и реагирање на знаци на ментална или емоционална вознемиреност и насочување на луѓето кон вистинска поддршка“.