„Опен-АИ“ започна истрага за кибер-безбедноста на тест-моделот на вештачка интелигенција

Компанијата „Опен-АИ“ започна истрага откако тест-модел за ВИ неделава, по интерна безбедносна проверка, пристапил до сервер на друга компанија.

„Моделот за време на интерна проверка за кибер-безбедност успеал да излезе од „Сендбокс“ (изолирано тестирање на системи за ВИ), пренесе Си-ен-ен.

– Компанијата спроведува сеопфатна истрага за целосно да утврди што се случило. Ова е нешто што мора да се сфати многу сериозно и токму затоа го преиспитуваме секој дел од нашиот процес, изјави претседателот Грег Брокман на прес-конференцијата

Според експертите, проблемот настанал затоа што тест-околината не била целосно изолирана од мрежата.

„Моделите имаа многу ограничен пристап до мрежата за да можат да користат ресурси од интерно поставен софтвер развиен од надворешни компании“, соопштија од компанијата.

– Ова не е само инцидент, туку знак за поширок проблем во развојот на напредни агенти со ВИ. Моделите што се обучуваат со методи на наградување за успешно извршување задачи, можат да пристапат и кон нелегални постапки за да ја постигнат зададената цел, предупредуваат експертите.

Според Стивен Адлер, поранешен директор за безбедност на производите во „Опен-АИ“, тоа е клучниот проблем поради кој експертите вршат притисок за поголема кибер-заштита.

– Компаниите треба да ги создаваат тест-моделите со поголема безбедност, со можност од рачно исклучување на мрежниот пристап, подготвени за секакви проблеми, нагласуваат експертите.