Pobuda za varno in zdravo uporabo digitalne tehnologije pri otrocih in mladostnikih v Sloveniji

Strokovni in civilnodružbeni poziv odločevalcem v Republiki Sloveniji

Digitalne tehnologije so postale sestavni del naših življenj. Otroci in mladostniki danes odraščajo v okolju, kjer zasloni, družbena omrežja, videoigre, pornografija, video platforme in vse bolj tudi umetna inteligenca pomembno vplivajo na njihove vsakdanje navade, odnose, pozornost in samopodobo.

Kot strokovnjaki, pedagogi, starši in organizacije, ki delujemo na področju vzgoje, izobraževanja, zdravja in varnosti otrok, prepoznavamo, da trenutno stanje zahteva bolj usklajen, sistemski in dolgoročen odziv družbe. Namen te pobude ni zavračanje tehnologije, ampak zagotovitev, da se uporablja na načine, ki podpirajo celostni razvoj človeka, varujejo človeško dostojanstvo in duševno zdravje ter v najbolj ranljivih razvojnih fazah otrok in mladostnikov postavljajo v središče njihove potrebe.

Peticijo lahko podpišete na tej povezavi.

1. Ključni izzivi

1.1 Razvoj odnosov in varne navezanosti
V praksi opažamo, da digitalne naprave vse pogosteje motijo prisotnost odraslih v družinskem okolju, tudi v obdobjih, ko otrok potrebuje pozornost, čustveni odziv in neposreden stik. Digitalne naprave pogosto postanejo nevidna pregrada že med novorojenčkom in starši, s čimer se zmanjšuje količina neposrednega očesnega stika, dotika in odzivne komunikacije. Fizična, čustvena in mentalna prisotnost odraslih je ključna za otrokov duševni razvoj, saj odsotnost kakovostne interakcije v zgodnjem otroštvu pomembno vpliva na razvoj možganskih povezav, posledic takšnih razvojnih primanjkljajev pa kasneje ni mogoče v celoti nadomestiti.

1.2 Duševno zdravje, spanje, pozornost in prekomerna telesna teža
Vedno več strokovnih opažanj in raziskav kaže na povezavo med pretirano ali neustrezno rabo digitalnih tehnologij ter težavami s spanjem, pozornostjo, razdražljivostjo, prekomerno telesno težo, anksioznostjo in upadom učne učinkovitosti. Posebej kritična je večerna in nočna raba naprav, ki neposredno posega v biološki ritem mladih, kar negativno vpliva na zdrav razvoj mladostnikov na vseh področjih. Nezanemarljiv je tudi čas pred zasloni, ki izpodriva fizično aktivnost, realne socialne interakcije in dejavno sodelovanje pri zahtevnejših miselnih procesih (npr. v izobraževanju) ter vpliva na nezdrave prehranjevalne vzorce. 

1.3 Kompulzivna raba in »zasvojljivost po dizajnu«
Problem ni zgolj količina časa, preživetega pred zasloni, temveč tudi način, kako so digitalne storitve zasnovane. Neskončno drsenje, samodejno predvajanje, potisna obvestila in močno personalizirani algoritmi spodbujajo avtomatično in kompulzivno rabo, še posebej pri otrocih, pri katerih se sposobnost samoregulacije še razvija. V primeru nesorazmernega odnosa, kjer so digitalne tehnologije namerno zasnovane tako, da spodbujajo zasvojenost ter izkoriščajo kognitivne in čustvene ranljivosti, odgovornosti za zdravo rabo digitalnih tehnologij ni mogoče prenesti izključno na posamezne otroke ali družine.

 1.4 Pornografija, spletno nasilje, seksualizacija, samopodoba in resnični odnosi
Digitalna okolja velikokrat niso nevtralna. Lahko so prostor medvrstniškega nasilja, nenehnega primerjanja, pritiska na videz in normalizacije škodljivih vsebin (npr. pornografije, nasilja ipd.). Po raziskavah in strokovnih opažanjih otroci prihajajo v stik s pornografskimi vsebinami bistveno prezgodaj, kar jih močno negativno zaznamuje. 

Posledice niso le »digitalne«, temveč zelo konkretne: psihične stiske, socialna izključenost in povečana tveganja za samopoškodovalno vedenje. Prehod iz »otroštva v igri« v »otroštvo pred zasloni« je povzročil primanjkljaje v razvoju socialnih veščin in odpornosti, ki jih je mogoče razviti le z neposredno interakcijo v fizičnem svetu.  

1.5 Umetna inteligenca in prikriti vplivi
Otroci in mladostniki so vse bolj izpostavljeni sistemom umetne inteligence, ki oblikujejo načine interakcije in njene vsebine, nanje pa vplivajo na načine, ki jih pogosto ne razumejo.

• Hiter razvoj umetno generirane avdiovizualne vsebine (t.i. deepfake), ustvarjene z umetno inteligenco, ima resne posledice za posameznike po vsem svetu, tudi v Sloveniji. To vključuje ustvarjanje in širjenje seksualiziranih in zlorabljajočih podob otrok in mladostnikov, nezaželenih deepfake slik ter drugih oblik izkoriščanja, ki povzročajo hudo psihološko škodo in dolgotrajne posledice.
• Vse bolj se uporabljajo klepetalni roboti (AI-chatboti) kot čustveni spremljevalci ali navidezno terapevtska orodja, zlasti med mladimi. Raziskave kažejo, da takšne interakcije lahko povečajo osamljenost, oslabijo človeške odnose, zmanjšajo empatijo in motijo zdrave vzorce navezanosti – zlasti kadar čustvena vez nastane nezavedno in brez jasnih meja.

V obeh primerih UI-sistemi simulirajo socialno in čustveno interakcijo brez odgovornosti ali etične dolžnosti, kar predstavlja resno tveganje za duševno zdravje, dostojanstvo ter razvoj otrok in mladostnikov v občutljivih življenjskih obdobjih.

Hkrati pa uporaba UI vpliva tudi na razmišljanje in razvoj možganov. Otroci in mladostniki namesto samostojnega razmišljanja za reševanje problemov vedno pogosteje posegajo po uporabi tehnologije, ki ji nekritično zaupajo. Takojšnji odgovori zmanjšajo motivacijo za dolgotrajno in poglobljeno osredotočenost in vztrajnost pri zapletenih problemih, kar posledično zmanjšuje sposobnost poglobljenega mišljenja.

2. Ključne usmeritve

2.1 Etični in družbeni nadzor na višji ravni: Pred uvajanjem vedno zmogljivejših digitalnih sistemov in sistemov umetne inteligence je treba opraviti temeljito etično, razvojno in družbeno presojo, zlasti kadar takšne tehnologije vplivajo na učenje, socialni razvoj in duševno zdravje. Odločitve morajo temeljiti ne le na učinkovitosti in inovativnosti, temveč tudi na dolgoročnih človeških in družbenih ciljih.
Zaščita otrok ne sme biti odvisna zgolj od tehničnega znanja staršev. Pri digitalnih storitvah, namenjenih ali dostopnih mladoletnim, morajo biti varnejše nastavitve vključene že privzeto, vključno z manj obvestili, omejitvami oz. izključitvami najbolj zasvojljivih funkcij (npr. neskončnega drsenja, samodejnega predvajanja in potisnih obvestil), z zaznavanjem in označevanjem škodljivih sintetičnih (UI) vsebin ter z obveznimi opozorili v sistemih umetne inteligence za pogovore, ki jasno kažejo, da uporabniki komunicirajo z računalniškim sistemom in ne s človekom, ter s strožjimi starostnimi omejitvami za uporabo določenih družbenih omrežij. 

2.2 Razvoj digitalne regulacije, ki je primarno usmerjena v dobrobit človeka oziroma otroka ter temelji na priznavanju nesorazmerja med zmogljivimi, dobičkonosnimi tehnologijami in skrbi za dobrobit posameznega človeka, še posebej otroka. Zahtevamo večjo odgovornost spletnih platform in oglaševalcev pri vsebinah, ki so namenjene mladoletnim, ter jasno omejevanje manipulativnega oblikovanja in prikritega oglaševanja.

2.3 Prenos odgovornosti na višjo raven, in sicer s posameznih družin na spletne platforme in razvijalce sistemov, z uveljavljanjem varnosti že pri načrtovanju, starostno ustreznih privzetih nastavitev in omejitev manipulativnih in zasvojljivih funkcij.

2.4 Zaščita temeljnih človeških sposobnosti – pozornosti, kognicije, čustvene regulacije in varne navezanosti – kot upravičenih ciljev javnega interesa, enakovrednih fizični varnosti.

2.5 Zagotavljanje preglednosti in jasnih meja v sistemih umetne inteligence, zlasti pri  pogovornih agentih (klepetalnih sistemih), da otroci nikoli ne bi bili zapeljani v grajenje odnosov z napravami in iskanje varnega prostora pri njih.

2.6 Vključitev digitalne pismenosti in pismenosti na področju umetne inteligence v širši okvir človeškega razvoja, ne le poučevanje o delovanju tehnologije, temveč tudi o tem, kdaj, zakaj in kako naj se jo uporablja. Potrebujemo dolgoročne, starostno prilagojene programe, ki vključujejo:

• spoznavanje nekaterih osnovnih/splošnih načel delovanja algoritmov umetne inteligence,
• razvoj samoregulacije in digitalne higiene,
• učenje etične rabe, dostojanstva in kritičnega mišljenja.

Ob tem je nujno stalno usposabljanje učiteljev, svetovalnih in mladinskih delavcev, staršev in celotne širše družbe.

2.7 Želimo si tudi sistemskih spodbud za »igro na prostem«. Podpre in dodatno  financira naj se programe, ki spodbujajo neusmerjeno prosto igro otrok in fizično aktivnost mladih kot ključno protiutež digitalnemu svetu. 

2.8 Podpiramo jasne smernice in rešitve, ki zmanjšujejo motnje spanja zaradi digitalnih naprav (npr. omejitve obvestil, modre svetlobe v nočnem času in avtomatskega predvajanja pri mladoletnih). Spanje je javnozdravstveno vprašanje.

2.9 Podpiramo omejitev rabe pametnih telefonov v času pouka in šolskih dejavnosti v osnovno- in srednješolskem izobraževanju z jasno opredeljenimi pedagoškimi izjemami. Namen ni kaznovanje, temveč ustvarjanje okolja za poglobljeno učenje, odnose in dobro počutje.

2.10 Poleg tega pozivamo k jasnim ter na raziskavah utemeljenim smernicam in načinom smiselne uporabe generativne umetne inteligence v izobraževalnem okolju, da bi zaščitili ključne kognitivne sposobnosti, vključno s kritičnim razmišljanjem, reševanjem problemov, spominom in razvojem kritičnega presojanja. Generativna umetna inteligenca bi morala podpirati učenje le tam, kjer je njena vloga pregledna, omejena in pedagoško utemeljena ter taka, da ne nadomešča lastnega kognitivnega dela in napredka učencev.

2.11 Starši potrebujejo podporo, da lahko postavljajo meje in hkrati ohranjajo kakovosten odnos z otrokom. Vse preveč je razširjeno mišljenje, da starši niso dovolj osveščeni in na tekočem s sodobnim razvojem tehnologije in njene rabe. Starše moramo opolnomočiti in jim pomagati pri zavestnem in učinkovitem upravljanju tehnologije v kontekstu vzgoje.

3. Naš skupni cilj

Naš cilj je ustvariti okolje, v katerem tehnologija podpira razvoj otrok, ne pa ga izkorišča.

Zato podpisniki te pobude pozivamo odločevalce v Republiki Sloveniji, da v naslednjem mandatu prisluhnete stroki, presežete kratkoročne interese, ohranite naravnanost k iskanju rešitev in zaščito otrok postavite kot skupno, nadstrankarsko vrednoto ter sprejmete naslednje ukrepe:

3.1 Starostna meja 16 let za družbena omrežja in 18 let za pornografijo
Zakonska uvedba učinkovitih mehanizmov preverjanja starosti ter omejevanja dostopa, ki zagotavljajo visoko raven varstva posameznikove zasebnosti, in sicer:

• omejevanje dostopa do družbenih omrežij za osebe, mlajše od 16 let, razen v posebej prilagojenih in varnejših različicah brez algoritmičnega profiliranja ter oglaševanja;
• omejevanje dostopa do pornografskih vsebin za osebe, mlajše od 18 let.

3.2 Prepoved manipulativnega (»zasvojljivega«) dizajna pri mladoletnih:
zakonska omejitev neskončnega drsenja, avtomatskega predvajanja, potisnih obvestil in drugih zasvojitvenih funkcij v storitvah, dostopnih otrokom in mladostnikom, z obveznimi varnimi privzetimi nastavitvami.

3.3 Jasna regulacija rabe umetne inteligence pri otrocih in v šolah

• obvezno označevanje vsebin, ustvarjenih z umetno inteligenco;
• omejitev uporabe UI-sistemov, ki simulirajo čustvene odnose za mladoletne;
• nacionalne smernice za uporabo generativne umetne inteligence v izobraževanju, ki varujejo razvoj kritičnega, samostojnega mišljenja.

Peticijo lahko podpišete na tej povezavi.

Hvala za vašo podporo!

Benjamin Tomažič s sodelavci
Inštitut Integrum