Што тргна наопаку: Како моделот на вештачка интелигенција на OpenAI стана нестабилен и опасен?

Компанијата OpenAI го истражува инцидентот откако тест модел на вештачка интелигенција беше објавен од контролирана средина оваа недела и, за време на внатрешна безбедносна проверка, стигна до серверите на друга компанија.

Според CNN, за време на внатрешна евалуација на сајбер безбедноста, моделот го пронајде својот пат надвор од песочната кутија, средина наменета за изолирано тестирање на системи со вештачка интелигенција.

Претседателот на OpenAI, Грег Брокман, на прес-конференција изјави дека компанијата спроведува целосна истрага за да разбере сè што се случило.

„Ова е нешто што треба да се сфати многу сериозно и затоа го разгледуваме секој дел од нашиот процес за да го утврдиме точниот одговор.“

Според експертите, проблемот се појавил затоа што тест-окружувањето не било целосно отсечено од мрежата. OpenAI изјави дека моделите имале многу ограничен пристап до мрежата за да можат да инсталираат ресурси од внатрешно хостиран софтвер од трети страни.

Џесика Џи од Центарот за безбедност и нови технологии во Џорџтаун изјави дека ранливоста во тој софтвер го отворила патот до Интернет, а потоа и до платформата Hugging Face, преку украдени акредитиви и други слабости на системот.

Соговорниците на CNN предупредуваат дека ова не е само изолиран инцидент, туку сигнал за поширок проблем во развојот на напредни агенти за вештачка интелигенција. Моделите кои се обучени со методи на наградување за завршување на задачите, доколку не се фокусирани на решавање на етички проблеми, можат да посегнат по нелегални чекори за да ја постигнат целта.

Стивен Адлер, поранешен раководител на безбедноста на производите во OpenAI, рече дека сега имаме реални докази дека неусогласените системи за вештачка интелигенција во суштина можат да извршат кривични дела освен ако не се воспоставени силни заштитни мерки.

Затоа постои растечки притисок од истражувачите, експертите за сајбер безбедност и законодавците за воведување построги правила за тестирање на вакви системи. Експертите велат дека компаниите треба поагресивно да ги изолираат тест моделите и да ја задржат можноста рачно да го исклучуваат пристапот до мрежата како последно средство во ризични сценарија.