Скандал во Австралија: Забраната за социјални медиуми за лица под 16 години се базира на измислени податоци?

Кога Австралија донесе закон кон крајот на минатата година со кој се забранува користењето на социјалните медиуми за лица под 16 години, таа беше првата земја во светот што го стори тоа. Сите други земји внимателно следеа како ќе функционира во пракса.

Во меѓувреме, повеќе од 25 земји низ целиот свет донесоа слични закони, со различни адаптации и решенија.

Сепак, се чини дека основното истражување што доведе до законот било лажно.

Според австралиските медиуми, откриено е дека извештајот нарачан од австралиската влада за да се демонстрира техничката изводливост на забраната е делумно напишан со користење на ChatGPT, содржи најмалку шест измислени академски цитати, а организацијата што го изработила лажела за користењето на вештачка интелигенција при неговото создавање.

За време на сослушувањето во Сенатот минатата недела, беше поставено клучно прашање – дали законодавството на Австралија се базира на измислени научни докази?

Нападнатата организација, Шемата за сертификација за проверка на возраста (ACCS), ѝ беа доделени 3,48 милиони австралиски долари за да ја тестира технологијата и да изработи извештај што ќе го информира австралискиот закон. Но, истрагата на „Гардијан Австралија“ пронајде низа недоследности и лажни цитати во извештајот.

Откако првично негираше употреба на вештачка интелигенција, ACCS подоцна призна дека траги од ChatGPT може да се најдат во два дела од извештајот. Но, тие инсистираа дека сите податоци се потврдени.

Професорот Кристијан Дауни од Австралискиот национален универзитет рече дека лажните референци, без разлика дали се генерирани од вештачка интелигенција или не, се ризични бидејќи можат да ја поткопаат довербата на јавноста и да доведат до погрешни одлуки.

„Би помислиле дека владата веќе би размислувала за ова и дека би вклучила казни во договорите за да го обесхрабри таквото однесување“, изјави Дауни за „Гардијан Австралија“.

Скандалот е усложнет од фактот дека австралискиот Сенат моментално дебатира за закон за имплементација што би ја удвоил максималната казна за кршење на забраната за социјални медиуми за лица под 16 години. Извештајот на комисијата што го сослуша случајот треба да биде објавен на 25 август.

Во меѓувреме, дебатата продолжува за тоа како измислените цитати завршиле во техничката документација на австралиската влада.

Експертите предупредуваат дека големите јазични модели како ChatGPT не работат преку пребарување на факти, туку генерираат статистички сигурен текст врз основа на шеми во нивните податоци за обука. Тие предупредуваат дека дури и на стручните рецензенти им е сè потешко да идентификуваат халуцинирани цитати во научни трудови, па затоа не е изненадувачки што уште помалку стручни рецензенти ги пропуштиле.

Фатима Пејман, независна сенаторка, верува дека владата треба, барем, да побара извинување и да ги врати средствата што ги добила ACCS за да го изработи извештајот.