Kako umetna inteligenca in boti izkoriščajo žrtve prek lažne pornografije
Z napredkom umetne inteligence se odpirajo številne nove priložnosti – na žalost pa tudi nevarnosti. Ena izmed njih je tiha, a vse bolj razširjena oblika zlorabe: pornografija, ustvarjena z umetno inteligenco, kjer oseba v resnici nikoli ni pristala na to, da bo del vsebine. Še huje – morda sploh ne ve, da obstaja.
To ni znanstvena fantastika. To je realnost, ki jo omogočajo t. i. “deepfake” boti znotraj različnih aplikacij – in žrtve so pogosto mlade ženske, celo otroci.
Digitalna preobleka zlorabe
Danes lahko skoraj vsakdo z dostopom do interneta in osnovnim znanjem uporabi orodje, ki z nekaj kliki »sleče« osebo na fotografiji. Gre za botske programe, ki so na voljo v aplikaciji Telegram in so postali skrb vzbujajoče razširjeni. Njihova naloga? Uporabniku omogočiti, da »odstrani oblačila« z izbrane fotografije, navadno brez vednosti ali soglasja osebe na njej.
Čeprav se zdi, da gre le za digitalno manipulacijo, so posledice za žrtve popolnoma resnične – občutki sramu, strahu, izgube nadzora nad lastno podobo in telesom.
Telegram – varen prostor za izkoriščevalce?
Telegram je priljubljena aplikacija za sporočanje, ki se ponaša s hitrostjo, šifriranjem in zasebnostjo. Ima več kot 500 milijonov uporabnikov po vsem svetu. Na prvi pogled vse, kar si uporabnik želi. A prav to okolje je postalo idealno zatočišče za delovanje več kot 50 botov, ki ponujajo neetične storitve, kot je digitalno slačenje.
Po poročanju revije WIRED imajo ti boti skupaj več kot 4 milijone mesečnih uporabnikov. Nekateri posamezni boti beležijo tudi po več sto tisoč uporabnikov mesečno. Gre torej za resen, množičen pojav.
Kako delujejo boti?
Uporabniki pošljejo fotografijo osebe – pogosto vzeto s profila na družbenem omrežju – bot pa s pomočjo umetne inteligence ustvari sliko, na kateri je oseba gola ali vključena v spolno situacijo. Gre za lažno, a zelo realistično sliko. Na prvi pogled je nemogoče prepoznati, da ne gre za resničen prizor.
Poleg tega obstajajo Telegram kanali, kjer uporabniki spremljajo novosti, kupujejo »žetone« za uporabo botov in delijo povezave do novih botov, če so bili stari odstranjeni. Čeprav Telegram občasno odstrani takšne bote, se novi boti pojavljajo iz dneva v dan, uporabniki pa si jih hitro posredujejo.
Poglejmo resnici v oči
Čeprav so slike, generirane ali predelane z uporabo umetne inteligence lažne, je škoda, ki jo povzročajo, povsem resnična. Ena od žrtev je v intervjuju povedala: »Ljudje so verjeli, da je slika resnična. Ni pomembno, da nisem bila jaz – počutila sem se, kot da so me slekli pred vsemi.« In to je srž problema. Čeprav oseba fizično ni sodelovala, je bila njena podoba ukradena, njena pravica do nadzora odvzeta, njen ugled ogrožen.
Morda se zdi, da se to dogaja »drugje« ali »drugim«, a resnica je, da lahko vsakdo postane tarča. Fotografija s šolskega izleta, javno objavljen selfi, profilna slika – dovolj je, da jo nekdo prenese, uporabi bota in ustvari popolnoma izmišljeno, a vizualno prepričljivo pornografsko vsebino.
To je znano kot neprostovoljna zloraba intimnih slik. In čeprav ni bilo fizične prisotnosti osebe pri nastanku posnetka, je izkoriščanje resnično. Prav tako tudi travma.
Umetna inteligenca – orodje ali orožje?
Pomembno je poudariti: umetna inteligenca sama po sebi ni slaba. Lahko pomaga reševati življenja, izboljšuje izobraževanje, odkriva bolezni … A kot vsako orodje je odvisna od načina uporabe. Ko se uporablja za ustvarjanje vsebin, ki prikazujejo ljudi v seksualnih situacijah brez njihove vednosti, ni več orodje. Postane orožje.
Kaj lahko storimo kot starši?
Najprej – ne zatiskajmo si oči. To, kar se dogaja na Telegramu ali drugih platformah, ni samo »težava interneta«. Kot družba imamo odgovornost, da se o teh temah pogovarjamo doma, v šolah, v medijih.
Nekaj konkretnih predlogov kako lahko to odgovornost v večji meri vzamemo resno:
- Pogovarjajmo se z otroki o tveganjih deljenja slik prek spleta in o pomenu soglasja.
- Učimo da vse, kar je digitalno, lahko pristane v napačnih rokah – tudi če je deljeno v »zasebnem« klepetu.
- Bodimo zgled – s tem, kako uporabljamo tehnologijo in kakšen odnos imamo do drugih.
- Podprimo pobude, ki se borijo proti zlorabam.
Tehnologije same ne bomo ustavili – lahko pa ustavimo kulturo tišine, pasivnosti in normalizacije izkoriščanja. Če vemo, lahko ukrepamo. In če ukrepamo skupaj, se lahko stvari spremenijo.
Več informacij na: Fight the New Drug, Lindsay Lieberman, American Acedemy of Pediatrcs