Ko te umetna inteligenca “sleče”: izkušnja žrtev deepfake pornografije
Predstavljajte si, da nekega dne na spletu odkrijete svojo fotografijo – predelano, spolno eksplicitno, ustvarjeno brez vašega dovoljenja. Niste je posneli, niste je objavili. A vseeno obstaja. To ni več scenarij iz znanstvene fantastike, temveč realnost številnih deklet, fantov.
Z uporabo umetne inteligence je danes mogoče z nekaj kliki “sleči” osebo na fotografiji, jo postaviti v pornografski kontekst ali ustvariti povsem lažen video ali sliko, kar se imenuje “deep fake”. Žrtve poročajo o šoku, gnusu in občutku kršitve dostojanstva. Ena izmed njih je opisala, da je ob pogledu na takšne podobe doživela občutek, kot da ji je bila odvzeta identiteta, njen obraz je bil uporabljen za vsebino, ki je nikoli ni izbrala in nad katero nima nadzora.
Ko virtualno povzroči resnično bolečino
Čeprav so slike umetno ustvarjene, so posledice resnične. Strokovnjaki takšna dejanja uvrščajo med spolno zlorabo na podlagi podobe (image-based sexual abuse). Raziskave kažejo povečano tveganje za depresijo, anksioznost, samopoškodovanje in celo samomorilna nagnjenja pri žrtvah neprostovoljnega širjenja intimnih vsebin.
Poseben problem je neizbrisljivost interneta. Tudi če je vsebina odstranjena z ene strani, je lahko že prenesena ali deljena drugje.
Zaskrbljujoče je, da so tarča tudi mladoletni, otroci. Mednarodne organizacije opozarjajo na strm porast prijav vsebin spolnih zlorab otrok, ustvarjenih z umetno inteligenco. Orodja, ki so bila sprva predstavljena kot zabavna ali inovativna, postajajo sredstvo poniževanja in izsiljevanja – sredstvo zlorabe.
Kaj lahko storimo?
Za starše in učitelje to pomeni nov izziv. Otrokom in mladostnikom ne moremo več govoriti le o nevarnosti deljenja lastnih intimnih fotografij. Danes je lahko zlorabljena že povsem običajna fotografija z družinskega izleta ali šolskega dogodka, zato bodimo pozorni ob objavljanju vseh vsebin otrok na spletu.
Pomembno je, da z mladimi odkrito govorimo o spoštovanju telesne integritete in odgovornosti za svoja dejanja. Uporaba umetne inteligence za spolno izkoriščanje je oblika nasilja. Pomembno je tudi, da otroke opolnomočimo, da ob morebitni zlorabi takoj poiščejo pomoč pri starših, učiteljih ali pristojnih institucijah.
Tehnologija sama po sebi ni sovražnik. Toda kadar se uporablja neetično, lahko povzroči globoke in dolgotrajne rane. Škoda ne ostane na zaslonu, prenese se v resnično življenje, v odnose, občutek varnosti in dostojanstvo človeka.
Podprite pobudo za varno in zdravo digitalno okolje
Če želimo, da digitalne tehnologije služijo razvoju otrok in mladostnikov, moramo kot družba postaviti jasne meje in zahtevati večjo odgovornost platform ter odločevalcev. Pobuda za varno in zdravo uporabo digitalne tehnologije pri otrocih in mladostnikih v Sloveniji je korak v to smer. Vabimo vas, da jo podpišete in s tem podprete sistemske rešitve, ki bodo varovale duševno zdravje, dostojanstvo in prihodnost naših otrok.
Članek povzela Neža Rutar po FightTheNewDrug