Подем на длабоката лажна порнографија во училиштата: „Едно девојче беше толку ужаснато што поврати“

Употребата на апликациите „nudify“ станува сè позастапена, при што стотици наставници виделе слики создадени од ученици, честопати од нивните врсници. Последиците се огромни – и брзо растат.

„Ме загрижува што тоа е толку нормализирано. Тој очигледно не го криеше тоа. Не чувствуваше дека ова е нешто што не треба да го прави. Беше на отворено и луѓето го видоа. Тоа е она што беше доста шокантно.“

Директор на училиште опишува како тинејџер, седејќи во автобус на пат кон дома од училиште, случајно го извадил телефонот, избрал слика од социјалните медиуми од девојче од соседно училиште и користел апликација за „голотирање“ за да го манипулира нејзиниот имиџ.

Пред десет години, секстингот и голотијата предизвикуваа хаос во училниците. Денес, напредокот во вештачката интелигенција (ВИ) го направија лесно генерирањето на длабоко лажни голи слики или видеа, во кои се појавуваат оние што изгледаат како ваши пријатели, ваши соученици, па дури и ваши наставници. Ова може да вклучува соблекување облека, сугестивно движење на сликата или лепење на нечија глава на порнографска слика.

Директорката не знае зошто ова конкретно девојче – ученичка во нејзиното училиште – е избрана, дали момчето ја познавало или дали тоа било сосема случајно. Тоа ѝ го привлекло вниманието . Го забележал друг нејзин ученик кој сфатил што се случува и го пријавил во училиштето.

Родителите биле контактирани, момчето било пронајдено и била повикана полицијата. Но, срамот поврзан со сексуалната злоупотреба врз основа на слики и споделувањето длабоко лажни слики е таков што беше наложено на девојката која беше цел да не и биде кажано.

„Девојката всушност дури и не знае“, рече раководителот. „Разговарав со родителите и родителите не сакаа таа да знае.“

Момчето во автобусот е само еден пример за тоа како deepfakes и лесно достапната технологија за разголување се прикажуваат меѓу учениците – честопати со катастрофален ефект. Во Шпанија минатата година, 15 момчиња во југозападниот регион Екстремадура беа осудени на условна казна од една година откако за користење на вештачка интелигенција за производство на лажни голи слики од нивните соученици, кои ги споделуваа на WhatsApp групи. Околу 20 девојчиња беа погодени, повеќето од нив на возраст од 14 години, додека најмладата имаше 11 години.

Во Австралија, околу 50 средношколци  во Викторија пријавија дека нивните слики биле фалсификувани и дистрибуирани, а мајката на еден ученик рече дека нејзината ќерка била толку ужасната од сексуално експлицитните слики – што повраќала. Во САД, повеќе од 30 ученички во средното училиште Вестфилд во Њу Џерси откриле дека deepfake порнографски слики од нив биле споделени меѓу нивните машки соученици на Snapchat.

Тоа се случува исто така и во Велика Британија. Нова анкета на 4.300 наставници во средни училишта во Англија, спроведена од Teacher Tapp во име на Guardian, покажа дека околу еден од 10 биле свесни за тоа дека учениците во нивното училиште создаваат „длабоки, сексуално експлицитни видеа“ во последната академска година.

Три четвртини од овие инциденти вклучувале деца на возраст од 14 години или помлади, додека еден од 10 инциденти вклучувал 11-годишници, а 3% биле уште помлади, што илустрира колку е лесна за пристап и користење на технологијата. Меѓу наставниците што учествувале, 7% рекле дека биле свесни за еден инцидент, а 1% рекле дека се случило двапати, додека сличен процент рекле дека се случило три или повеќе пати во последната академска година.

Порано оваа година, анкетата на Girlguiding покажа дека еден од четири испитаници на возраст од 13 до 18 години виделе сексуално експлицитна длабока слика од позната личност, пријател, наставник или себеси.

„Пред една година користев примери од САД и Шпанија за да зборувам за овие прашања“, вели Маргарет Малхоланд, специјалист за посебни потреби и инклузија во Здружението на училишни и колеџ лидери. „Сега тоа се случува пред нашиот праг и е навистина загрижувачко.“

Полицијата изгледа целосно преоптоварена од обемот на овие проблеми. Потребни ни се пошироки решенија и подобра стратегија. Минатата година, „Тајмс“ објави дека две приватни училишта во Велика Британија биле во центарот на полициска истрага за наводното правење и споделување на порнографски слики со длабоки лаги. Весникот објави дека полицијата истражува тврдења дека длабоките лаги биле создадени во машко училиште од страна на некој што манипулирал со слики земени од профилите на социјалните медиуми на учениците во женско училиште. 

Комесарот за деца во Англија, Дама Рејчел де Соуза, побара да се забранат апликации за голотија како што е ClothOff, која беше истражена како дел од серијата подкасти „Black Box“ на „Гардијан“ за вештачката интелигенција.

„Децата ми кажаа дека се исплашени од самата идеја дека оваа технологија е достапна, а камоли да се користи“, вели таа.

Не е лесно да се најдат наставници кои се подготвени да зборуваат за инциденти со „дипфејк“. Оние кои се согласија да бидат интервјуирани од „Гардијан“ инсистираа на строга анонимност. Други сведоштва беа дадени од академици кои истражуваат „дипфејк“ во училиштата и даватели на сексуално образование.

Тања Хорек, професорка по филмски и феминистички медиумски студии на Универзитетот „Англија Раскин“, разговараше со директорите на училиштата како дел од мисија за утврдување факти за да се открие обемот на проблемот во училиштата.

„Сите тие имаа инциденти со „дипфејк“ во своите училишта и го сметаа ова за нов проблем“, вели таа. Во еден случај, 15-годишно девојче кое беше ново во едно училиште беше цел на машки ученици кои создадоа порнографско видео со „дипфејк“ од неа. Таа беше толку вознемирена што првично одби да оди на училиште.

„Речиси сите примери за кои ми кажаа беа момчиња кои правеа „дипфејк“ од девојчиња“, вели Хорек.

„Друга работа што ја забележав е дека постои вистинска тензија околу тоа како треба да се справат со овие проблеми. Па така, некои наставници велеа: „Да, веднаш ја повикуваме полицијата и учениците се исклучуваат“, вели Хорек. „Потоа другите наставници велеа: Па, тоа не е начинот да се справиме со тоа. Мораме да имаме пристап кон реставративна правда, каде што разговараме со овие млади луѓе и откриваме зошто ги прават овие работи. Значи, се чини дека постои некаква недоследност и неизвесност за тоа како да се справиме со овие случаи – но мислам дека е навистина тешко за наставниците затоа што не добиваат јасни упатства.“

Лора Бејтс, основач на Проектот за секојдневен сексизам, вели дека има нешто особено шокантно во врска со длабоките лажни слики. Во нејзината книга „Новото доба на сексизмот: Како револуцијата на вештачката интелигенција ја преосмислува мизогинијата“, таа пишува:

„Од сите форми на злоупотреба што ги добивам, тие се оние што најдлабоко болат – оние што остануваат во мене.“ Тешко е да се опише зошто, освен да се каже дека се чувствуваш како  некој да те земал и ти направил нешто и нема ништо што можеш да направиш во врска со тоа. Гледањето видео од себе како си злоставуван без твоја согласност е речиси вонтелесно искуство.“  

Меѓу децата на училишна возраст, влијанието може да биде огромно. Девојчињата и младите жени се чувствуваат повредено и понижено. Групите за пријателство во училиштата се распаднати и може да има длабоко чувство на предавство кога еден ученик открива дека друг создал длабока сексуализирана слика за нив и ја споделил низ училиштето. Девојчињата не можат да се соочат на часовите, додека наставниците со мала обука се трудат најдобро што можат да поддржат и едуцираат. Во меѓувреме, момчињата и младите мажи се вовлечени во криминално однесување, честопати затоа што не ги разбираат последиците од своите постапки.

„Гледаме ученици кои се многу вознемирени и се чувствуваат предадени и ужаснати од овој вид злоупотреба“, вели Доли Падалија, извршен директор на Училиштето за сексуално образование, добротворна организација која нуди сексуално образование во училиштата и универзитетите.

„Еден пример е кога едно училиште стапи во контакт со нас. Беше откриено дека еден ученик фотографирал многу ученици во рамките на одделенската група и правел длабоки фејкови. Потоа овие информации беа објавени, а последиците беа доста значајни. Учениците беа навистина вознемирени. Се чувствуваа многу предадени и навредени. Тоа е форма на злоупотреба. Полицијата беше вмешана. Ученикот беше отстранет од училиште и бевме замолени да дојдеме и да ги поддржиме. Училиштето реагираше многу, многу брзо, но би рекол дека тоа не е доволно. За навистина да спречиме сексуално насилство, треба да бидеме проактивни.“

Се проценува дека 99% од сексуално експлицитните длабоки фејкови достапни онлајн се од жени и девојчиња, но има случаи на момчиња кои биле цел на напад. Добротворната организација „Everyone’s Invited“ (EI), која собира сведоштва од жртви на сексуална злоупотреба, наишла на барем еден таков случај: „Еден ученик сподели со образовниот тим на АI дека едно момче од нивната генерација, кое било многу сакано и било пријателско со многу од девојчињата, било цел на напад кога друго момче создало негова сексуална слика генерирана од вештачка интелигенција. Таа слика потоа циркулирала низ училиштето, предизвикувајќи значителна вознемиреност и траума.“

Овие алатки се тривијализираат и се користат на вознемирувачки начини, како што е филтерот „промена на пријателот во дечко“. „На платформите на социјалните медиуми како TikTok и Snapchat тие се сè подостапни и нормализирани. Иако ова може да им изгледа игриво или безопасно на некои, тоа одразува и зајакнува култура каде што согласноста и почитувањето на личните граници се поткопани.“

Наспроти распространетата мизогинија во училиштата, растечкиот број наставници се исто така цел на напади.

„Тоа е нешто со кое, како општество, итно треба да се соочиме. Образованието мора да остане пред технологијата, а возрасните мора да се чувствуваат опремени да ги водат овие разговори, наместо да се срамат од нив.“

Сет Џејмс е назначен лидер за заштита – виш член на персоналот со целосна одговорност за заштита на децата во училиштето – и автор на DSL блогот. „За сите што работат во училиштата, се чини дека технолошкиот развој постојано создава нови предизвици и ризици“, вели тој. „Вештачката интелигенција генерално – а особено апликациите за длабоко лажење и разголување – се чинат како следниот воз што доаѓа по пругата“.

„Повеќе образование“ е привлечно како решение за вакви предизвици – бидејќи е интуитивно и релативно лесно – но само по себе е како да се обидувате да го задржите шумскиот пожар со воден пиштол. Исто така, полицијата се чини дека е целосно преоптоварена од обемот на овие проблеми. Како општество, ни требаат пошироки решенија и подобра стратегија.

Џејмс продолжува: „Сите треба да се обидеме да замислиме како би се чувствувале пред 20 години ако некој предложил да се измисли рачен уред што би можел да се користи за создавање реалистичен порнографски материјал на кој се прикажани вистински луѓе што ги познавате во реалниот живот. А потоа да им се даде еден од овие уреди на сите наши деца. Бидејќи во основа тоа е местото каде што сме сега. Дозволуваме овие работи да станат нормални за време на нашиот живот.“

Џесика Рингроуз, професорка по социологија на родот и образованието на Институтот за образование на Универзитетскиот колеџ во Лондон, работела во училишта на прашања како што се машкоста, родовата нееднаквост и сексуалното насилство. Таа е исто така коавторка на книгата „Тинејџери, социјални медиуми и злоупотреба врз основа на слики“, а сега истражува технолошки олеснето родово базирано насилство.

„Начинот на кој младите луѓе ги користат овие технологии не е нужно лош“, вели таа, „но она што им треба е подобра медиумска писменост.“

Таа ги поздравува ажурираните владини упатства за образование за односи, секс и здравје, кои „препознаа дека мизогинијата е проблем што треба да се реши во училишниот систем“. Сепак, таа вели: „Тие треба да ги поврзат точките. Тие треба да ја спојат загриженоста за родовото и сексуалното насилство со технологијата. Не можете да се потпрете на Ofcom или на регулаторите за заштита на младите луѓе. Ни треба проактивно, превентивно образование.“

Каде е владата во сето ова? „Нашите нови упатства за образование за односи, секс и здравје ќе се погрижат сите млади луѓе да ги разберат здравите односи, сексуалната етика и опасностите од онлајн содржините како што се порнографијата и deepfake“, рече портпарол на Министерството за образование. „Како дел од нашата мисија „План за промени“ за преполовување на насилството врз жените и девојчињата, ние исто така им обезбедуваме на училиштата нови финансирани ресурси за да им помогнеме на наставниците да го објаснат законот и штетите поврзани со онлајн содржините како дел од нивните часови соодветни на возраста.“

Рингроуз ја нагласува итноста. „Овие проблеми се случуваат – се случува креирање и дистрибуција на слики без согласност. Овие технологии се на дофат на луѓето. Мислам, супер лесно е за секое дете да пристапи до овие работи.“

Таа е скептична во врска со напорите за забрана на паметните телефони во училиштата и се грижи дека тоа ќе им отежни на младите луѓе кои може да бидат цел на навредливи слики да побараат помош. „Апстиненцијата околу работи како технологијата не функционира“, вели таа. „Всушност, мора да ги научите луѓето правилно да ја користат. Треба да се вклучиме во ова како навистина важен елемент од наставната програма.“

Тоа нè враќа назад до момчето во автобусот, каде што започна оваа приказна. Тој беше запрен затоа што едно девојче во истиот автобус неодамна имаше час во училиште за безбедноста на интернет како дел од нејзината наставна програма за лична, социјална, здравствена и економска работа. Таа препозна што прави и им кажа на своите наставници. Образованието функционира. (Гардијан)