Нациите се согласија да развијат заеднички прагови на ризик за вештачка интелигенција на самитот во Сеул

За време на состанокот на самитот во Сеул, Јужна Кореја, компании од различни земји доброволно ветија дека ќе обезбедат безбеден развој на нивните најнапредни модели за вештачка интелигенција.

Големите технолошки компании, вклучувајќи ги Мајкрософт, Амазон и ОпенАИ, учествуваат во историскиот меѓународен договор за безбедност на вештачката интелигенција на Самитот за безбедност на вештачката интелигенција во Сеул, Јужна Кореја.

Компании од различни земји – вклучувајќи ги САД, Кина, Канада, ОК, Франција, Јужна Кореја и Обединетите Арапски Емирати – доброволно ветија дека ќе обезбедат безбеден развој на нивните најнапредни модели со вештачка интелигенција.

Онаму каде што веќе не го сториле тоа, производителите на модели со вештачка интелигенција се согласија да објават безбедносни рамки во кои ќе се наведе како ќе ги мерат предизвиците на нивните напредни модели, како што е спречување на злоупотреба на технологијата.

Овие рамки ќе вклучуваат „црвени линии“ за технолошките компании кои ги дефинираат видовите на ризици поврзани со граничните системи за вештачка интелигенција што нема да им биде дозволено да ги преминат. Овие ризици вклучуваат, но не се ограничени на, автоматизирани сајбер напади и закана од биолошко оружје.

Договорот, исто така, го проширува претходниот сет на обврски преземени во ноември минатата година од компании вклучени во развојот на софтвер за генеративна вештачка интелигенција.

Компаниите се согласија, како што е соодветно, да земат придонес за овие ограничувања од домашните влади и другите доверливи учесници пред да ги објават пред Самитот за акција за вештачка интелигенција, кој треба да се одржи во Франција на почетокот на 2025 година.

Договорените обврски важат само за таканаречените водечки модели. Овој термин ја опишува технологијата зад генеративните системи за вештачка интелигенција како што е фамилијата ОпенАИ ГПТ на големи јазични модели, која го напојува ЧетГПТ.