Piše: Darija Cvetko
Britanska nevladna organizacija UK Safer Internet Centre (UKSIC) poroča, da od šol dobiva prijave o tem, da mladoletniki s pomočjo umetne inteligence (AI) ustvarjajo neprimerne podobe drugih mladoletnikov. Center poziva k ukrepanju še preden bi zadeva lahko prerastla v trend in postane resen problem mladih, njihovih staršev in šol.
V Sloveniji se s to problematiko med mladimi ukvarja:
- Tudi v okviru programa ODKLOP se v eni izmed šestih delavnic z osnovnošolci druge in zadnje triade pogovarjamo o odgovornem ravnanju, tako na spletu, kot izven njega. Več o programu ODKLOP preberite tukaj.
Umetna inteligenca je razvita do te mere, da lahko na povsem običajni fotografiji človek izgleda, kot bi mu slekli oblačila. Septembra lani so AI izkoristili za ustvarjanje realističnih, a lažnih golih podob dvajset mladih deklet iz Španije, starih od 11 do 17 let. Slike so brez njihove vednosti zaokrožile po družbenih omrežjih.
Žrtve spletnega nasilja, med drugim spolnega, doživljajo hudo stisko, posledice so včasih lahko doživljenjske. Mladostnik, ki s pomočjo bota ustvari realistično, a lažno fotografijo sošolke brez oblačil, se običajno tega ne zaveda. Razlog so radovednost, nepremišljenost, pri starejših mladostnikih pa tudi želja po maščevanju. Osveščanje mladih in preventiva na tem področju je nujna!
Javaad Malik, kibernetski strokovnjak pri podjetju za IT-varnost KnowBe4, je za BBC povedal, da postaja vse težje razlikovati med resničnimi slikami in slikami, ustvarjenimi z umetno inteligenco. Razvoj in uporaba aplikacij za razkrivanje tovrstnih fotografij je torej na mestu.
Tehnično podjetje RM Technology je izvedlo raziskavo, v kateri je sodelovalo 1000 učencev. Slaba tretjina učencev uporablja umetno inteligenco za »ogledovanje neprimernih vsebin na spletu« (Velika Britanija.)Vsekakor pa je potrebno delovati preventivno že pri mladostnikih, ki tak material praviloma ustvarjajo iz radovednosti in nepremišljenosti in ne z namenom, da bi povzročili škodo. Medtem, ko se pri starejših mladostnikih opaža porast izdelave lažnih pornografskih fotografij z obrazi sovrstnikov iz razloga maščevanja.
Kaj pravi slovenska zakonodaja, kadar pornografske vsebine izdeluje, hrani, poseduje in ponuja mladoletnik, si preberite v 5. odstavku 176. člena Kazenskega zakonika:
Zelo pomembno je torej mladostnike seznaniti, da je ustvarjanje pornografskega gradiva, na kateri so mladoletne osebe, nezakonito, če se oseba na sliki z dejanjem izdelave in posedovanja ni strinjala. In jih vzgajati v duhu, da je takšno dejanje neetično in nemoralno ter da se to preprosto ne počne.
Mladostniki z deljenjem takšnih slik nad njimi izgubijo nadzor, slike lahko končajo v napačnih rokah. Takšna dejanja imajo številne posledice za žrtev, med drugim tudi izsiljevanje. Victoria Green, izvršna direktorica fundacije Marie Collins – dobrodelne organizacije, ki pomaga otrokom, ki so jih prizadele spolne zlorabe – je opozorila na vseživljenjsko škodo, ki je lahko povzročena. “Obstaja resnično tveganje, da bodo slike spolni prestopniki uporabili za sramotenje in utišanje žrtev.”
Vodja varnosti v podjetju Tasha Gibson opozarja, da učenci bolje razumejo delovanje umetne inteligence od učiteljev, zaradi česar je zagotavljanje varnosti učencev na spletu in preprečevanje spletnih zlorab težje. Ker se pričakuje porast uporabe umetne inteligence, mora zapolnitev vrzeli v znanju med učenci in učitelji biti glavna prednostna naloga. Vprašanje pa je, kdo naj bo odgovoren za to nalogo: vlada, starši ali šola?
Vir: Children making AI-generated child abuse images, says charity, BBC News
Preberite še: