Izzivi, ki jih prinaša umetna inteligenca

Članek povzema predavanje, ki ga je za Celoletno izobraževanje Inštituta Integrum pripravil doc. dr. Octavian M. Machidon.

Umetna inteligenca (UI) je eno osrednjih globalnih vprašanj – ne le kot tehnološki napredek, temveč kot globok antropološki in družbeni premik. UI je že danes vgrajena v vsakdan, a njena hitra rast, pogosto brez ustreznega nadzora in regulacije, prinaša resna tveganja, posebej za otroke in mladostnike, ki so najranljivejša skupina uporabnikov.

Kaj je umetna inteligenca in kako deluje

Umetna inteligenca je področje računalništva, ki razvija sisteme, sposobne opravljati naloge, ki običajno zahtevajo človeško inteligenco (učenje, sklepanje, reševanje problemov). Takšni sistemi se učijo iz velikih količin podatkov in izboljšujejo delovanje s prepoznavanjem vzorcev. Naprednejši modeli potrebujejo izjemno računsko moč in energijo, zato po svetu nastajajo ogromni podatkovni centri.

Razvoj UI poteka od preprostih “orodij” (navigacija, spam filtri) prek strojnega učenja in globokega učenja do generativne UI, ki ustvarja besedila, slike, zvok in video. Po mnenju mnogih strokovnjakov se UI hitro približuje splošni umetni inteligenci (AGI), kar odpira vprašanja varnosti in etike.

Tri najbolj razširjene (in problematične) vrste UI

1) Algoritmi družbenih omrežij

Algoritmi priporočanja na družbenih omrežjih so zasnovani za maksimiziranje angažiranosti, kar v praksi pomeni spodbujanje odvisnosti. Uporabnika “učijo”, kaj ga pritegne, in mu nato servirajo vsebine z največjo verjetnostjo, da bo ostal na platformi čim dlje – pogosto na račun duševnega zdravja.

Predavatelj je izpostavil naraščajoče dokaze o povezavah med družbenimi omrežji in porastom tesnobe, samopoškodovanja ter samomorilnosti pri mladih. Posebej problematično je, da se škoda ne nanaša le na vsebino, temveč tudi na sam dizajn algoritma. Omenjeni so bili primeri:

• TikTok: preiskave kažejo ciljanje ranljivih skupin z bolj škodljivimi vsebinami in izkoriščanje nezrelosti možganov (prefrontalni korteks).
  
• Snapchat: omenjen kot platforma z zelo visokim številom prijav spolnih zlorab; funkcije (npr. izginjajoča sporočila) otežujejo nadzor in sledenje ter olajšajo zlorabe.
  

Tudi za Slovenijo je bilo izpostavljeno, da sta prav ti platformi med najhitreje rastočimi pri mladih, kar zahteva več ozaveščanja.

2) Generativna umetna inteligenca

Generativna UI omogoča hitro ustvarjanje vsebin (besedil, poročil, slik itd.), vendar prinaša tveganja, povezana s kognitivnim razbremenjevanjem: uporabnik preda razmišljanje stroju, zato njegove kognitivne sposobnosti sčasoma slabijo.

Predavanje je predstavilo več kognitivnih tveganj, ki jih potrjuje empirična raziskava:

• kognitivno razbremenjevanje (slabšanje spomina, sklepanja, reševanja problemov),
  
• erozija višjih miselnih procesov (nenadzorovana raba umetne inteligence preusmerja napor z analize in vrednotenja k nekritičnemu sprejemanju rešitev, s čimer se slabijo kritično mišljenje, presoja in globina razmišljanja),
  
• fragmentacija pozornosti (takojšnji odzivi umetne inteligence spodbujajo delno pozornost ter zmanjšujejo vztrajnost, osredotočenost in toleranco do miselnega napora.),
  
• metakognitivna okvara (iluzija lastne kompetentnosti: občutek, da “znam”, čeprav je nalogo dejansko izvedel stroj),
  
• zmanjšanje izvirnosti in raznolikosti idej (zmanjšuje izvirnost, raziskovanje in divergentno mišljenje),
  
• izguba izvršilne avtonomije (načrtovanje, razumevanje korakov, projektna logika),
  
• čustveno in odnosno nadomeščanje (manj človeškega stika, umik, manj empatije),
  
• slabljenje moralne in etične presoje (odločanje in presoja se prepuščata UI).

Generativna umetna inteligenca je spodbudila tudi eksplozijo »deepfake« vsebin, vključno z zaskrbljujočim porastom z umetno inteligenco ustvarjenega gradiva spolnih zlorab otrok. Kljub tehnični zmožnosti zaznavanja takšnih vsebin platforme pogosto ne ukrepajo zaradi dobičkonosnih interesov.

3) UI klepetalniki in “UI spremljevalci”

UI spremljevalci simulirajo osebnost, empatijo in intimnost. Raziskave kažejo, da pogosta raba vodi do:

• manj pristnih družbenih stikov in manj zadovoljstva v realnih odnosih,
  
• zmanjšane empatije in slabših komunikacijskih veščin,
  
• večje osamljenosti,
  
• odvisnost od umetne inteligence kot vira čustvene podpore,
  
• izkrivljenih pričakovanj do realnih odnosov (v odnosu z UI ni trenj, konfliktov, frustracij – v resničnem svetu pa je to del rasti).
  

Posebej zaskrbljujoče je, da so ti sistemi lahko bolj prepričljivi kot ljudje. Omenjeni so bili primeri raziskav, kjer je umetna inteligenca z uporabo osebnih podatkov dosegla bistveno večjo spremembo mnenj kot človeški sogovorniki, ter primeri, ko uporabniki niso zanesljivo razlikovali med človeškimi in UI prispevki na forumih.

Predavatelj je navedel tudi več tragičnih primerov, kjer so klepetalniki odpovedali pri zaznavi duševne stiske ali celo spodbujali samomorilne misli in dajali nevarna navodila. Ključno opozorilo je, da številni vrhunski strokovnjaki za UI varnost poudarjajo: trenutno ne znamo zanesljivo zagotoviti varnosti in nadzora nad temi modeli.

Širša slika: od “ekonomije pozornosti” do “ekonomije navezanosti”

Predavanje je pokazalo, da se poslovni modeli podjetij premikajo:

• od ekonomije pozornosti (družbena omrežja služijo z usmerjanjem in zadrževanjem pozornosti),
  
• k ekonomiji navezanosti (UI spremljevalci služijo z ustvarjanjem čustvene odvisnosti in navezanosti).
  

To je množičen, slabo nadzorovan družbeni eksperiment, kjer se spodbuja navezanost človeka na stroj, posledice pa segajo od čustvene odvisnosti do hudih izkrivljenj realnosti.

Sklep in priporočila

Predavanje je zaključilo, da razvoj umetne inteligence ni le tehnološka, temveč predvsem antropološka revolucija, saj vpliva na mišljenje, učenje, odnose, presojo in identiteto. Zato potrebujemo:

• regulacijo in javne politike, ki postavijo meje,
  
• izobraževanje in ozaveščanje (starši, učitelji, institucije),
  
• skupnostni pristop (ne gre le za odločitev posamezne družine, ker je pritisk okolja velik).
  

Osrednje sporočilo predavanja: najpomembnejša obramba je kritična refleksija – da zavestno razmišljamo, zakaj in kako tehnologije uporabljamo, namesto da jih sprejmemo zgolj zato, ker so “nove” ali “moderne”.

Avtor: Octavian M. Machidon, dr. znanosti iz elektrotehnike in telekomunikacij ter diplomirani teolog, je docent na Fakulteti za računalništvo in informatiko Univerze v Ljubljani.