Неколку дена пред отпуштањето на Алтман, шефовите биле предупредени за „откритие што му се заканува на човештвото“

Ројтерс ексклузивно објави утринава дека одборот на директори на OpenAI добил многу сериозно предупредување неколку дена пред разрешувањето на извршниот директор Сем Алтман. Да потсетиме, шефот на менаџментот на OpenAI, клучната компанија за развој на вештачка интелигенција зад ChatGPT, ненадејно беше разрешен на четири дена, а вчера беше објавено дека се враќа на истата функција.

Ројтерс утринава објави дека неколку истражувачи на OpenAI напишале писмо до бордот на директори на компанијата во кое предупредуваат на моќен пробив во вештачката интелигенција (ВИ) за кој велат дека може да го загрози човештвото, изјавија за Ројтерс две лица запознаени со ова прашање.

Два клучни настани во пресрет на смената
Тоа писмо, кое досега не беше објавено, и развојот на алгоритам за вештачка интелигенција беа клучни настани што доведоа до соборувањето на Алтман, кој многумина го сметаат за татко на генеративната вештачка интелигенција, рекоа два од изворите. Пред неговото враќање на Open AI вчера, повеќе од 700 вработени се заканија дека ќе дадат отказ и ќе му се придружат на основачот на Мајкрософт во знак на солидарност со нивниот отпуштен лидер.

Извори на Ројтерс го опишаа писмото како еден фактор во подолгиот список на поплаки од одборот што доведоа до смена на Алтман, вклучително и загриженоста за комерцијализирање на развојот на вештачката интелигенција пред целосно да се разберат последиците. Ројтерс не можеше да прегледа копија од писмото, а персоналот кој го напиша писмото не одговори на барањата за коментар.

OpenAI го потврди проектот Q* во интерна порака. Што е тоа?

Кога беше контактиран од Ројтерс, OpenAI, кој одби да го коментира писмото, потврди во интерен меморандум за персоналот на проектот, наречен Q*, и писмото до раководството пред Алтман да биде отпуштен, рече еден од изворите. Портпаролот на OpenAI рече дека пораката, испратена од долгогодишната директорка Мира Мурати, ги предупредила вработените за одредени медиумски стории, но не ја коментирале нивната точност.

Некои од OpenAI веруваат дека проектот Q* може да означи значителен напредок во потрагата по она што е познато како вештачка општа интелигенција (AGI), изјави еден извор за Ројтерс. OpenAI го дефинира AGI како автономни системи кои ги надминуваат луѓето во повеќето економски вредни задачи.

Со помош на огромни компјутерски ресурси, новиот модел можеше да реши одредени математички проблеми, рече лицето кое сакаше да остане анонимно бидејќи лицето не беше овластено да зборува за компанијата. Иако математиката се изведуваше само на ниво на ученици од основно училиште, решавањето на ваквите тестови ги направи истражувачите многу оптимисти за идниот успех на Q*, рече изворот.

Ројтерс не можеше независно да ги потврди Q* способностите опишани од истражувачите.

Што може да генерира AI, а што AGI?

Истражувачите веруваат дека математиката е граница на генеративниот развој на вештачката интелигенција. Во моментов, генеративната вештачка интелигенција е добра во пишувањето и преведувањето јазици со статистички предвидување на следниот збор, а одговорите на истото прашање може многу да варираат. Но, способноста за решавање математички задачи, каде што има само еден точен одговор, имплицира дека вештачката интелигенција би имала поголеми способности за расудување слични на човечката интелигенција. Истражувачите на вештачката интелигенција веруваат дека ова би можело да се примени и за нови научни истражувања.

За разлика од калкулаторот кој може да реши ограничен број операции, AGI може да генерализира, учи и разбира.

Во нивното писмо до комитетот, истражувачите ја нагласија моќта и потенцијалната опасност од вештачката интелигенција, велат изворите без да ги прецизираат точните безбедносни грижи наведени во писмото. Компјутерските научници долго време разговараат за опасноста што ја претставуваат високоинтелигентните машини, доколку, на пример, одлучат дека уништувањето на човештвото е во нивен интерес.

„Научник за вештачка интелигенција“

Истражувачите, исто така, ја истакнаа работата на тимот на проектот „AI scientist“, чие постоење е потврдено од повеќе извори. Групата, формирана со комбинирање на претходни тимови наречени „Code Gen“ и „Math Gen“, истражуваше како да ги оптимизира постоечките модели на вештачка интелигенција за да го подобри своето размислување и на крајот да направи научна работа, рече еден од луѓето.

Алтман ги предводеше напорите да го направи ChatGPT една од најбрзо растечките софтверски апликации во историјата и ги привлече инвестициите и компјутерските ресурси на Microsoft потребни за да се доближи до AGI.

Покрај најавата на мноштво нови алатки во демо овој месец, Алтман минатата недела на самитот на светските лидери во Сан Франциско објави дека верува дека големи откритија се на хоризонтот.

„Четири пати во историјата на OpenAI, последен пат беше во последните неколку недели, бев во просторијата кога некако го потиснавме превезот на незнаењето и ја турнавме границата на откритието напред. Да се ​​направи нешто такво е професионалец чест на животот“, рече тој на самитот Азиско-пацифичка економска соработка.

Еден ден подоцна, одборот го отпушти Алтман. Вчера повторно го вработи.