Umetna inteligenca postaja sestavni del življenja mladostnikov. Raziskava, ki sta jo lani izvedli Fakulteta za družbene vede in Pedagoška fakulteta, je pokazala, da je umetno inteligenco pri šolskem delu že uporabljalo kar 96 odstotkov srednješolcev, dnevno pa jo uporablja 20 odstotkov, je za Radio Slovenija poročala novinarka Lucija Dimnik Rikić.

Letošnji svetovni dan varne rabe interneta je zato namenjen ozaveščanju o izzivih in pasteh, ki jih prinaša uporaba umetne inteligence. Na točki ozaveščanja o varni rabi interneta in mobilnih naprav Safe.si poudarjajo, da se v javnosti o tem še vedno premalo govori. Med tveganji kot posebej problematične navajajo napačne informacije, razumevanje umetne inteligence kot prijateljice ter predelavo in izdelavo golih fotografij.

Napačne informacije, ponarejene fotografije in razkrivanje osebnih podatkov

Sodelavec Safe.si Marko Puschner svetuje previdnost pri odgovorih, ki jih podajajo klepetalniki, kot sta denimo ChatGPT ali Copilot. "Gre za to, da pripravlja odgovore na vprašanja, ki pa so lahko tudi napačni, ampak na način, da je to izredno težko prepoznati. Če ti nisi strokovnjak na nekem področju, lahko zelo hitro spregledaš, da gre za napako, in potem to širiš dalje," je dejal za Radio Slovenija.

Klepetalniki, ki temeljijo na obsežnih jezikovnih modelih, zlasti mladostnike zlahka zavedejo v prepričanje, da se pogovarjajo s pravo osebo. "Ti klepetalni boti tako dobro simulirajo človeška čustva, človeško razmišljanje in govor, da to mlade zelo hitro zavede, da začnejo zaupati, govoriti o svojih težavah," pojasnjuje Puscher. To lahko vodi v čustvene težave, saj se nekateri mladi lahko na umetno inteligenco zelo navežejo. Treba pa je vedeti, da gre v resnici le za algoritem, ki se je naučil pogovarjati kot človek, vendar nima čustev in ne razume težav.

Tako na Safe.si kot na točki za prijavo posnetkov spolnih zlorab otrok Spletno oko pa opozarjajo tudi na velik izziv, ki se navezuje na predelave posnetkov s spolno vsebino oz. na t. i. deepnude. Na spletu je namreč mnogo aplikacij, ki za nekaj evrov "slečejo" človeka na posredovani sliki, pojasnjuje Marko Puschner. "Neko fotografijo, na kateri je človek, sošolec ali sošolka, lahko aplikacija čisto enostavno obdela tako, da nastane gola fotografija. In potem imamo ponarejeno golo fotografijo, ki se denimo deli med mladostniki, žrtev pa zaradi tega seveda trpi," je opozoril.

Za varno in odgovorno uporabo umetne inteligence, ki je lahko sicer mnogokrat koristno orodje, so na Safe.si za mladostnike pripravili nekatera priporočila. Svetujejo jim, da informacije, ki jih prejmejo, vedno preverijo pri zanesljivih virih, nikoli pa naj v teh orodjih ne delijo osebnih podatkov. Uporabljajo naj le zaupanja vredna orodja. Da bi mladostnike, starše in učitelje še dodatno opozorili na tveganja, na Safe.si pripravljajo številne aktivnosti. V četrtek bo potekal spletni seminar za starše, na ljubljanski fakulteti za družbene vede pa konferenca za učitelje in druge šolske delavce.

Pri pomembnejših odločitvah zanašanje na umetno inteligenco ni priporočljivo

Pri Zavodu Simbioza pa opozarjajo na tveganja, ki jih umetna inteligenca prinaša tudi starejšim. Njim med drugim svetujejo, naj jo uporabljajo za enostavnejše naloge, kot so prevajanje besedil ali pomoč pri pisanju sporočil, medtem ko se morajo pri pomembnejših odločitvah, posebej zdravstvenih ali finančnih, posvetovati s strokovnjaki.

Za pomoč starejšim pri uporabi naprednih digitalnih orodij pri Simbiozi organizirajo izobraževanja. Pomemben del njihovega dela predstavlja tudi prva mobilna aplikacija za starejše Magda, kjer objavljajo članke o varni uporabi tehnologije.

Velik porast kibernetskih varnostnih dogodkov

Na previdnost pri rabi spletnih aplikacij opozarjajo tudi v Telekomu Slovenije. V Centru kibernetske varnosti in odpornosti namreč zaznavajo porast kibernetskih varnostnih dogodkov. Lani se je po njihovih navedbah zgodilo rekordno število varnostnih dogodkov, obravnavali so jih kar štirikrat več kot v letu 2023.

Pomembno je, da se javnost izobražuje o varni in odgovorni rabi tehnologij, so poudarili. V ta namen so pripravili nagradni kviz o digitalnih iluzijah Je res?, ki spodbuja k premisleku, ali so res vse spletne vsebine resnične, v Hiši iluzij pa je na to temo na ogled tudi razstava.

O razvoju umetne inteligence v Parizu razpravljajo voditelji držav

Evropska unija je kot prva na svetu sprejela pravila, ki naj bi uravnavala razvoj in uporabo umetne inteligence, vendar pa se je na področju razvoja te napredne tehnologije znašla v opaznem zaostanku za ZDA in Kitajsko. V zadnjem času se je pritisk na Evropsko unijo še povečal, saj je ameriški predsednik Donald Trump močno sprostil omejitve domačim tehnološkim velikanom, kitajski DeepSeek pa je svet presenetil s svojo umetno inteligenco.

Sorodna novica EU: Mednarodni vlagatelji nameravajo za razvoj umetne inteligence nameniti 150 milijard evrov

Evropska unija želi zato okrepiti razvoj umetne inteligence in s tem tudi gospodarsko konkurenčnost. O tem je govor tudi na dvodnevnem plenarnem zasedanju o razvoju umetne inteligence v Parizu, na katerem sodeluje okoli 80 voditeljev držav. Za projekte, povezane z umetno inteligenco v Evropi, bo v naslednjih petih letih več kot 20 večjih mednarodnih vlagateljev namenilo skupaj 150 milijard evrov.

Na zasedanju, ki je pritegnilo tudi 1500 strokovnjakov iz vsega sveta, je veliko pozornosti namenjene tudi opozorilom o tem, da je treba umetno inteligenco in njen razvoj nadzirati. Ob koncu srečanja naj bi zbrani voditelji sprejeli tudi posebno nezavezujočo deklaracijo o razvoju umetne inteligence.

Akos izpostavlja tudi pomen visokozmogljivih omrežij

Pomen ozaveščenosti o varni rabi interneta izpostavlja tudi Agencija za komunikacijska omrežja in storitve RS (Akos), ob tem pa poudarja pomen ustrezne pokritosti z visokozmogljivim širokopasovnim omrežjem in posledično zagotavljanje povezljivosti vseh gospodinjstev. Razvoj digitalne družbe in vključenost vseh prebivalcev v procese delovanja in odločanja je po njihovem mnenju ključnega pomena. Ob tem so spomnili, da tudi program politike za digitalno desetletje, ki s konkretnimi cilji za leto 2030 usmerja digitalno preobrazbo Evrope, vključuje cilj doseganja gigabitne povezljivost za vse.

Slovenija se po pokritosti z optičnim omrežjem s 66,5 odstotka po navedbah Akosa uvršča nad povprečje EU-ja. Med aktivnimi širokopasovnimi priključki pri nas je največ priključkov, 71,9 odstotka, takih s prenosno hitrostjo najmanj 100 megabitov na sekundo, so navedli.

Agencija je lani med gospodinjstvi opravila več raziskav, povezanih s tem področjem, ugotavljala pa je tudi, kaj na spletu počnejo uporabniki. Več kot polovica anketirancev (58 odstotkov) je odgovorila, da na spletu spremlja družbena omrežja, dnevne novice jih bere 51 odstotkov, prav toliko jih internet uporablja za navigacijo oziroma zemljevide. 78 odstotkov anketirancev uporablja elektronsko bančništvo, 62 odstotkov uporablja storitve portala zVEM, 43 odstotkov jih uporablja storitve na portalih eDavki in eUprava.

Anketirani v okviru raziskave agencije ocenili, da v večini dobro skrbijo za varno uporabo interneta. 91 odstotkov jih je navedlo, da zaščitijo občutljive in osebne informacije in se izogibajo prenosu nenavadnih aplikacij in aplikacij iz neznanih virov. 85 odstotkov jih je navedlo, da uporabljalo številko PIN ali geslo oziroma vzorec ali biometrično metodo za odklepanje telefona oziroma tablice. 73 odstotkov jih je odgovorilo, da uporabljajo zapletena in edinstvena gesla za različne račune storitev, do katerih dostopajo prek interneta, medtem ko je bil leto prej v okviru enake raziskave ta delež odgovorov nekaj višji, 75 odstotkov, so povzeli na spletni strani.