„Кумот на вештачката интелигенција“ поднесе оставка од Гугл: „Опасностите од ВИ се застрашувачки“

Човекот што многумина го нарекуваат кум на вештачката интелигенција ја напушти својата работа и предупреди на „сè поголемата опасност од развојот на полето на вештачката интелигенција“. Џефри Хинтон (75) во интервју за Њујорк Тајмс најави дека се повлекува од Гугл, велејќи дека сега се кае за својата работа.

Тој за Би-би-си изјави дека некои од опасностите од чет-ботови со вештачка интелигенција се „прилично страшни“. „Во моментов тие не се поинтелигентни од нас, колку што можам да видам. Но, мислам дека ќе бидат наскоро“, рече тој. Пионерското истражување на д-р Хинтон за длабоко учење и невронски мрежи го отвори патот за сегашните системи за вештачка интелигенција како ChatGPT.

Но, британско-канадски психолог и компјутерски научник изјави за Би-би-си дека четбот наскоро би можел да го надмине нивото на информации складирани од човечкиот мозок.

„Во моментов гледаме дека работите како GPT-4 ги засенуваат  личностите во количината на општо знаење што ги имаат. Во однос на расудувањето, ттие не се толку добри, но веќе се во смисла на едноставното расудување. Со оглед на брзината на напредокот, очекуваме  прилично брзо да станат подобри. Затоа мора да бидеме загрижени“, изјави тој за Би-би-си.

„Погледнете како беше пред пет години, а како е сега. Погледнете колку е голем чекор, а вие го проширувате понатаму. Страшно е“, истакна тој.

Хинтон рече дека конкуренцијата меѓу технолошките гиганти ги принудува компаниите да произведуваат нови технологии за вештачка интелигенција со опасни брзини, загрозувајќи ги работните места и ширејќи дезинформации. „Тешко е да се види како можеш да ги спречиш лошите актери да го користат за да прават лоши работи“, изјави тој за Тајмс.

Кошмарно сценарио
Во написот на Њујорк Тајмс, Хинтон се осврна на „лошите луѓе“ кои би се обиделе да користат вештачка интелигенција за „лоши работи“. На прашањето на Би-би-си да појасни, тој одговори: „Ова е само еден вид најлоши можно сценарио, вид на кошмарно сценарио. Можете да замислите, на пример, некој како рускиот претседател Владимир Путин кој одлучил да им даде на роботите способност да создаваат свои подцели“.

Научникот предупреди дека ова на крајот може да „создаде подцели како „Треба да добијам повеќе моќ““. „Дојдов до заклучок дека видот на интелигенција што ја развиваме е многу различен од интелигенцијата што ја имаме. Ние сме биолошки системи, а ова се дигитални системи. А големата разлика е во тоа што со дигиталните системи имате многу копии од истиот модел на светот“, рече тој.

„И сите тие копии можат да научат одделно, но тие веднаш го споделуваат своето знаење. Значи, како да имате 10.000 луѓе и секогаш кога едно лице ќе научи нешто, сите тие автоматски го знаат тоа. И така овие чет-ботови можат да знаат многу повеќе од која било личност“, заклучува тој.

Работни места и ширење дезинформации
Иако вештачката интелигенција се користи за поддршка на работниците, брзото ширење на чет-ботови како ChatGPT може да ги загрози работните места. Вештачката интелигенција „ја презема напорната работа“, но „може да преземе повеќе од тоа“, изјави тој за Тајмс. Научникот предупреди на потенцијалното ширење на дезинформации генерирани од вештачката интелигенција, велејќи за Тајмс дека просечниот човек „повеќе нема да може да знае што е вистина“.

Хинтон, исто така, рече дека има уште неколку причини поради кои се откажал. „Едниот е тој, дека имам 75 години. Значи, време е да се пензионирам. Другото е – всушност сакам да кажам некои добри работи за Гугл. И тие се поверодостојни ако не работам за Гугл“, вели тој.

Тој нагласи дека не сака да го критикува Гугл и дека технолошкиот гигант е „многу одговорен“.

Џеф Дин, водечки научник за Google AI, му се заблагодари на Хинтон во изјава за американските медиуми. „Како една од првите компании што ги објави принципите на вештачката интелигенција, остануваме посветени на одговорен пристап кон вештачката интелигенција“, се додава во соопштението. „Постојано учиме да се соочуваме со нови ризици, а во исто време смело се подобруваме“, посочи тој.

Повик за пауза во развојот на вештачката интелигенција
Во март, технолошкиот милијардер Елон Маск и голем број експерти повикаа на пауза во развојот на системи за вештачка интелигенција за да се остави време да се тестираат и да се уверат дека се безбедни.

Отвореното писмо, потпишано од повеќе од 1.000 луѓе, вклучително и Маск и соосновачот на Apple, Стив Возниак, го поттикна објавувањето на GPT-4, многу помоќна верзија на технологијата што ја користи ChatGPT. Хинтон не го потпиша писмото во тоа време, но изјави за Њујорк Тајмс дека научниците не треба да „го развиваат ова се додека не знаат дали ќе можат да го контролираат“.