Како полицијата со АИ „девојче“ лови сексуални предатори
Службениците за спроведување на законот во Ново Мексико користеле лажна слика на тинејџерка создадена од вештачка интелигенција за да намамат педофили, открива тужбата поднесена од државата.
Тужбата беше поднесена минатата недела во Ново Мексико против апликацијата Snapchat, за која обвинителите велат дека не успеала да ги „заштити децата од сексуална изнуда, сексуална експлоатација и штета“.
Според Ars Technica, документите откриваат дека дел од полициската „тајна истрага“ вклучувала службеници на државното Министерство за правда кои создале „сметка на Snapchat за 14-годишно девојче по име Хедер“.
Како „Хедер“, полицајците „пронајдоа и разменија пораки“ со сметки кои припаѓаат на очигледни педофили, со вознемирувачки кориснички имиња како што се „child.rape“ и „pedo_lover10“, се вели во поднесокот. Историски, како што забележува Арс, полицијата која спроведува слични истраги би користела слики од возрасни жени со помлад изглед – често полицајки – за да ги убеди предаторите дека разговараат со вистинска тинејџерка. Но, во овој случај, полицајците користеле слика генерирана со вештачка интелигенција на сексуализирано 14-годишно девојче за да ги убедат сторителите дека Хедер всушност е вистинска.
Според офицерите, тактиката функционирала: измамени од фотографијата генерирана од вештачка интелигенција, многу од службениците на сметките со кои имале интеракција, наводно, се обиделе да ја охрабрат „Хедер“ да споделува сексуално експлицитни слики или материјал за сексуална злоупотреба на деца (CSAM) со нив.
Но, иако оваа истрага беше успешна во откривањето на вознемирувачки темната реалност на алгоритмите на Snapchat, како што забележува Арс, употребата на вештачка интелигенција од страна на полицијата покренува нови етички прашања.
„Се разбира, би било етички вознемирувачки ако владата произведе CSAM“, рече адвокатката Кери Голдберг, која успешно застапуваше неколку жртви на сексуалната злоупотреба на Харви Вајнштајн, за Ars, „бидејќи тие слики се нелегални и не сакаме повеќе CSAM во оптек“.
Има и етички прашања за сетовите на податоци за обука за вештачка интелигенција на кои се потпираше полицијата.
За да се создадат лажни слики на деца, моделот со вештачка интелигенција мора да биде обучен на фотографии од вистински деца. Тешко е да се тврди дека детето може да даде целосна согласност неговиот имиџ да се користи за обука на вештачка интелигенција – прашањето станува уште посериозно кога вештачката интелигенција се користи за создавање сексуализирани или на друг начин штетни слики на деца.