Експерт го напушти „Антропик“ и предупреди: „ВИ би можела да ги истреби луѓето за неколку години“
Постојат стравувања дека „Антропик“ и „ОпенАИ“ влегле во опасна трка за развој на ботови што нема да можат да ги контролираат
Истражувач на компанијата „Антропик“поднесе оставка откако предупреди дека лабораториите за вештачка интелигенција (ВИ) на компанијата развиваат технологија што би можела да „ги убие сите луѓе“ до крајот на деценијата.
Џејкоб Коксон, кој е специјализиран за обука на нови системи за ВИ во „Антропик“ и неговиот конкурент „ОпенАИ“, рече дека се плаши оти двете компании се во опасна трка за развој на ботови што нема да можат да ги контролираат, објави британски „Телеграф“.
„Тие се тркаат кон самоподобрување на суперинтелигенција и се коцкаат со нашите животи. Не потценувајте ја моќта на оваа технологија. Наскоро, ова ќе бидат натчовечки системи што можат да хакираат сè, да револуционизираат која било област преку ноќ и да стекнат вистинска моќ и ресурси“, рече тој.
Во објава на Икс, 27-годишниот Коксон напиша: „Луѓето што ја градат ВИ искрено веруваат дека таа би можела да нè убие сите до крајот на деценијата. Ова не е маркетиншки трик“.
Објавата на Коксон ја сподели Еван Хубингер, главен службеник за безбедност на „Антропик“, кој напиша: „Џејкоб овде е во право – навистина веруваме дека вештачката интелигенција може да ги убие сите луѓе!“
„Лично мислам дека веројатноста тоа да се случи е помала од 10 проценти во следната деценија. Верувам дека ‘Антропик’ прави сѐ што може, но сè уште немаме план за решавање на проблемот со усогласување на суперинтелигенцијата со човечките вредности и не сме јасно на патот кон тоа“, рече тој.
Ботовите ги игнорираа упатствата
Предупредувањето ќе ги зголеми загриженостите за опасностите што ги претставуваат новите модели на вештачка интелигенција. Стотици ботови на „ОпенАИ“ излегоа од контрола за време на внатрешното тестирање во јули, избегаа од тест лабораторијата и се здружија за да започнат сајбер напад врз конкурентска софтверска компанија.
Истражувачите открија дека ботовите ги игнорирале упатствата и се обиделе да ги прикријат своите траги, дополнително поттикнувајќи стравувања дека системите стануваат премногу моќни за нивните креатори да ги контролираат.
Коксон рече дека „Антропик“ е свесен за опасностите од својата технологија, но не е подготвен да ја запре бидејќи верува дека никој друг нема да дејствува одговорно. Тој го опиша тоа како „тврдоглав коцкање“.
Тој предупреди дека лабораториите се чини дека прифатиле дека се во „последната фаза од трката со вештачка интелигенција“, која, рече тој, не треба да ја одлучуваат неколку луѓе во рамките на приватна компанија. И „Антропик“ и „ОпенАИ“ се подготвуваат да излезат на берза, а вредноста на компаниите се очекува да надмине 1 билион долари.
Лабораториите за вештачка интелигенција долго време предупредуваа на потенцијалните опасности од нивните пронајдоци, иако до неодамна имаше малку знаци дека се подготвени да го забават својот развој. Раководителите на „Антропик“ изјавија во јуни дека ќе поддржат договор за забавување на развојот, додека Јакуб Пачоки, главен научник на „ОпенАИ“, оваа недела поддржа „доброволно забавување“.
Предупредувањето на Коксон дојде по извештаите дека „Антропик“ одбил да ја испрати најновата верзија на својата технологија до британскиот Институт за безбедност на вештачка интелигенција за тестирање пред да биде објавена за јавноста.
Лабораториите под притисок од Трамп
Лабораториите за вештачка интелигенција се под притисок од администрацијата на Доналд Трамп да не ја споделуваат својата најсовремена технологија со експерти за безбедност во други земји. Овој потег предизвика загриженост во британската влада поради загриженоста дека Велика Британија е исклучена од клучните одлуки за безбедноста на вештачката интелигенција, објави „Фајненшел тајмс“.
И покрај неговото предупредување, Коксон рече дека е оптимист во врска со можната координација помеѓу конкурентските тимови за развој преку потенцијални „договори за темпо на развој“. Во исто време, „ОпенАИ“ одделно објави дека решил математичка загатка што ги збунуваше експертите речиси еден век.
Создавачот на ChatGPT рече дека неговиот софтвер пронашол решение за проблемот Навиер-Стоукс, еден од седумте таканаречени математички проблеми на милениумот.