Digitalizacija je močno spremenila naša vsakdanja življenja. Pred tremi leti, ob začetku pandemije, ki jo je Svetovna zdravstvena organizacija ta mesec preklicala, smo vsi ostali doma. Po eni strani pandemije ne bi mogli preživeti na način, kot smo jo, če ne bi bilo interneta, računalnikov, pametnih telefonov in aplikacij. Po drugi strani pa smo se naučili, da našim interakcijam prek zaslona manjka velik del človeške izkušnje. Raziskovalkam in raziskovalcem vpliva digitalizacije, datafikacije, ekonomije pozornosti in nadzorovalnega kapitalizma na naša življenja so se ob razglasitvi pandemije, ugašanju javnega življenja in druženja v živo ter zapiranju ljudi med stene svojih domov prižgali vsi alarmi. Med njimi so bili posebna skupina otroci in mladostniki, saj se je njihovo izobraževanje preselilo na splet in na različne izobraževalne platforme. Določene tehnologije, ki so se začele nenadoma množično uporabljati, so bile podatkovno požrešne na zelo različne načine, opozarja raziskovalka.

Andra Siibak je profesorica medijskih študij na Univerzi v Tartuju v Estoniji. Raziskovalno se ukvarja z novimi tehnologijami in mladimi, od družbenih medijev do zasebnosti in datafikacije oziroma upodatkovljenja. Z Giovanno Masceroni v knjigi Datafied Childhoods: Data Practices and Imaginaries in Children's Lives opisujeta odraščanje otrok v današnjem upodatkovljenem vsakdanu. Kako digitalni mediji, z internetom povezane naprave, kot so denimo igrače in pametni zvočniki, algoritmi in umetna inteligenca vplivajo na odraščanje? Ob zavedanju, da so otroci zelo različni in otroštva lahko tudi – ne glede na njihovo vpetost v digitaliziran medijski vsakdan, avtorici kritično motrita upodatkovljenost, ki najmlajše danes ujame že ob rojstvu. Domovi, šole in mesta so vedno bolj opremljeni s pametnimi tehnologijami, ki zbirajo podatke o uporabnicah in uporabnikih in okolju. Raziskovalki pojasnjujeta, kako ti podatki s pomočjo tehnološke infrastrukture in komunikacijske prakse sooblikujejo vsakdanje življenje. Kako?

Odgovori v pogovoru z Andro Siibak. Z njo smo se pogovarjali ob njenem obisku v Ljubljani.

Deljenje podatkov je postalo normalno, o njem uporabnice in uporabniki ne razmišljajo več. Če pa že razmišljajo in se z njim ne strinjajo, potem v veliko primerih ne morejo sodelovati. Deljenje podatkov se pričakuje v zameno za uporabo aplikacij in storitev. Drži?
Ja, absolutno. Tako smo se navadili na upodatkovljenost, da temu ne posvečamo več pozornosti. Postala je nekaj popolnoma običajnega v našem vsakdanjem življenju. Seveda se to pričakuje in veliko veliko ljudi, ki oblikujejo politike, pa tudi strokovnjakinje in strokovnjaki so do tega zavzeli entuziastično stališče. Velepodatki in nove tehnologije seveda ponujajo številne nove priložnosti, ki jih nismo še nikoli imeli, istočasno pa seveda ustvarjajo različna tveganja, ki jih tudi še nikoli nismo izkusili. Pri tveganjih je težava ta, da ne vemo še natančno, kako se bodo ta tveganja izrazila v življenjih otrok. Nimamo še generacije otrok, ki bi že popolnoma odrasli v polno funkcionalne odrasle z zgodovino digitalnega odtisa. Kakšen je resnični učinek tovrstne datafikacije na ljudi – in otroke še posebno, bomo torej šele videli.

V naših predstavah so podatki nekaj objektivnega, zanesljivega in točnega. Vendar to ne drži vedno. Prav tako ne dvomimo o tehnologijah, ki zbirajo in obdelujejo podatke. Pa tudi te se motijo. Zakaj menimo, da nam podatki sporočajo objektivno resnico?
Gre za ideologijo dataizma, podatkizma, ki promovira objektivno, nevtralno in lahko razložljivo analizo podatkov v primerjavi s subjektivnimi občutki ljudi. Danes vidimo, da v različnih življenjskih obdobjih upodatkovljamo stvari, ki jih prej nismo še nikoli. Vidimo, kako enostavno lahko preštejemo število prijateljev, kvantificiramo čustva in različne življenjske kakovosti ljudi, njihovo vedenje. To je postalo nekaj normalnega in vsi mislijo, da so podatki nekaj, čemur lahko zaupamo, saj so prikazani zelo črno-belo, pogosto v obliki številk, tabel in predstavitev. Ljudje temu pač precej bolj zaupajo kot pa kvalitativnim nagonskim občutkom, ki se jih ne da prav dobro materializirati.

Podatki so postali pomemben del poslovnega modela nadzorovalnega kapitalizma, ki ga je v knjigi The Rise of Surveillance Capitalism opisala ameriška profesorica in raziskovalka Shoshana Zuboff. Andra Siibak, na trgu je danes veliko izdelkov in storitev, ki zbirajo podatke. Opozarjate, da se to upodatkovljenje začne že pred rojstvom otroka z aplikacijami za spremljanje nosečnosti. Lahko, prosim, razložite?
Aplikacije za spremljanje nosečnosti so postale precej pomemben del ženskosti, še posebej, če ženska želi zanositi ali pa že pričakuje otroka. V večini zahodnih držav je za ženske iz srednjega razreda to obvezen izdelek, ki ga morajo imeti na svojem telefonu. Seveda smo zelo očitno v času pandemije videli med ženskam izjemno povečanje uporabe teh aplikacij. Na prvi pogled se je zdelo, da gre za eno dobro posledico ujetosti v lastnem domu zaradi covida z zornega kota dejavnosti, ki smo jih začeli početi. Ampak resničnost v ozadju uporabe teh aplikacij je drugačna. Ljudje niso imeli možnosti, da bi šli k svoji zdravnici in babici, zato so si začeli prenašati aplikacije v upanju, da bodo dobili vsaj neke vrste medicinski nasvet ali zagotovilo, da nosečnost poteka v redu, da je z njihovim zdravjem vse v redu. Očitno je aplikacij za spremljanje nosečnosti res veliko, ponujajo pa različne vrste znanj. Številne med njimi ponujajo informacije o tem, kako postati dober starš, kako postati prava mati. Nekatere aplikacije so namenjene očetom ali moškim, ki bodo to šele postali. Izobražujejo jih o tem, kako postati ljubeč oče, prav tako pa želijo predstaviti očetom, kako njihov otrok raste. To včasih počnejo na zelo stereotipne načine, saj primerjajo velikost dojenčka s pečenim piščancem na primer, ali s steklenico piva. Nekatere aplikacije ponujajo zdravstvene nasvete. Ampak težava s temi zdravstvenimi nasveti je v tem, da aplikacije za spremljanje nosečnosti niso ravno medicinski izdelki. Nikakršne strokovne organizacije ni, ki bi potrjevala njihove trditve. V številnih primerih so nasveti v aplikacijah v nasprotju z nasveti zdravstvene stroke. Takšne aplikacije torej nudijo nasvete, ki niso koristni ali pa so v nekaterih primerih celo škodljivi za noseče ženske. Ampak tega nihče ne preverja, zato ne vemo natančno. Očitno v številnih primerih takšne aplikacije izvabijo veliko intimnih informacij, ki jih moraš predati aplikaciji, če želiš dostopati do vsega tega zanimivega znanja, ki se ponuja. In teh zanimivih podatkov aplikacije ne delijo le z oglaševalci, številne izkušnje kažejo na to, da aplikacije te podatke delijo tudi z delodajalci, zavarovalnicami in še kom.

To je seveda šele začetek. Ko se otrok rodi, imajo sodobni starši na voljo številne povezane pametne naprave. Te z različnimi senzorji nadzirajo novorojenčka in njegove življenjske funkcije. Pojasnjujejo, zakaj na primer joče in ali ga je že treba nahraniti. Gre za proces, ki se hrani z negotovostjo staršev o tem, kako pravzaprav biti starš. Starši uporabljajo vse te aplikacije, ker bi bili radi dobri starši, ni res?
Gre za tako imenovane tehnologije, ki opolnomočijo. Ko sem sama odraščala, so moji starši imeli debelo knjigo, ki je bila namenjena novim staršem in je vsebovala številne nasvete, kako vzgajati otroka. Očitno vsi novi starši potrebujejo nekakšen priročnik, kako ravnati s to novo stvarjo. Ampak danes ni treba prebrati knjige, saj imaš lahko številne naprave, ki so namenjene temu, da ti pomagajo. Za svojega dojenčka lahko kupiš na primer zelo imenitne nove pleničke, in aplikacija v telefonu te bo obvestila, kdaj se je dojenček polulal in mu takoj zamenjaš pleničko, sploh ti je ni treba preverjati. Vsa ta obvestila se tudi ujemajo z odgovornostjo staršev in staršem je ta dodatna pomoč, ki jo aplikacije ponujajo, všeč. Od letošnjega januarja je eden najbolj oglaševanih izdelkov s področja baby tehnologij samovozeči voziček. Ni ga treba več porivati z rokami, še naprej se lahko pogovarjaš po telefonu ali se ukvarjaš z drugim otrokom, voziček pa bo sam peljal dalje. Ima tudi zavore. Če je treba, če se na primer začne sam spuščati po klancu navzdol, se bo samodejno ustavil, ko bo dosegel preveliko hitrost. Je torej zelo priročen, stane 800 dolarjev. To je še en primer, kako s tehnologijo olajšati starševstvo in ga napraviti prijetnejšega. Seveda je od naprave odvisno, kakšne podatke zbira, vsekakor pa so vsi poslovni modeli tehnoloških podjetij del kapitalizma nadzora. Podjetja se ne osredotočajo na to, da bi vam olajšali starševstvo kot tako, ampak da bi vas prodali kot svoje izdelke in ustvarili profit. To je treba poudariti.

Upodatkovljenje otroštva je močno povezano z mediatizacijo starševanja. Avstralska sociologinja Deborah Lupton pravi, da gre pri tem za nadzor intimnosti in uporabo podatkov za lajšanje skrbi za otroka oziroma caring dataveillance.
Zelo mi je všeč koncept, ki ga opisuje caring dataveillance, saj zelo lepo po eni strani pokaže tveganja in težave nadzora prek podatkov, torej dataveillance, hkrati pa tudi vidik skrbi, ki prihaja naravnost od izkušenj staršev. Zakaj starši začnejo uporabljati vse te naprave in aplikacije? Ne zato, ker brezupno želijo nadzorovati svoje otroke, ali ker so tako osredotočeni na nadzor, ampak zato, ker želijo biti dobri starši. In to je znak njihovega ljubečega in skrbnega odnosa z otrokom. Po njihovem mnenju je torej najbolje, kar lahko storijo ali ponudijo otroku, če kupijo še eno kul napravo ali si naložijo aplikacijo, ki jim omogoča, da so zelo dobri in kot osebe ravnajo pravilno. Menijo, da morda brez vsega tega ne bi bili tako dobri starši.

Aplikacije uporabnike in uporabnice neprestano obveščajo o različnih spremembah. Starši so tako nenehno pozorni na podatke, ki jih sporočajo. V knjigi opisujete primere, ko so podatki napačni, zaradi česar se starši po nepotrebnem vznemirijo. Za kakšne primere gre?
V Estoniji smo opravili empirične študije s starši, ki pri svojih otrocih uporabljajo tehnologije za sledenje, običajno so to šoloobvezni otroci. Opravili smo intervjuje z otroki, starimi od 8 do 13 let in njihovimi starši. V večini primerov starši pravijo, da zaupajo informacijam, ki jim jih posredujejo aplikacije. Ampak hkrati pa nam povedo zgodbe, ko so bili v stanju šoka in panike, ker je aplikacija sporočila informacije, zaradi katerih so postali zelo zaskrbljeni. No, na koncu se je izkazalo, da podatki niso bili resnični. En starš je na primer povedal zgodbo o tem, da ni mogel priklicati svoje hčerke. V tem primeru gre za žensko v poznih dvajsetih, ki jo je starš še vedno sledil z aplikacijo. To je sicer že povsem druga zgodba. Ampak starš je opazil, da je dekle na urgenci, zato je panično začel klicati dekle, v upanju, da bi izvedel, kaj se je zgodilo. Izkazalo se je, da ima dekla fanta, ki živi ob stavbi urgence. Aplikacija je torej prikazala rahlo drugačno lokacijo, ampak starš je bil zelo zelo zaskrbljen, dokler ni izvedel, kaj se v resnici dogaja z otrokom. Sicer pa je raziskava pokazala, da je večina teh otrok, starih od 8 do 13 let, precej zadovoljnih s tem, da jim starši sledijo, da nadzorujejo njihovo lokacijo. Ne vidijo, da bi bilo s tem kaj narobe. Kot pravijo, tudi njih te aplikacije pomirjajo, saj vedo, da je starš ves čas na dosegu roke, da bo vedno prišel, kadar bodo zašli v težave, in jim pomagal reševati katero koli težavo že, s katero se bodo spoprijeli. Z našega zornega kota pa rahlo skrbi dejstvo, da za nekatere otroke takšna varnost pomeni, da jim ni treba biti odgovoren za svoje vedenje in dobro počutje. Vedno namreč ta figura helikopterskega starša lebdi nad njimi, zato lahko počnejo, kar se jim zahoče. Vedno je tam starš, ki jih bo rešil. O tem skrb vzbujajočem dejstvu moramo razmišljati. Potem pa smo opravili še raziskavo v skupini staršev, ki nadzorujejo oziroma sledijo svoje odrasle otroke. Gre za otroke, stare od 18 do 30 in nekaj let. Opravili smo pogovore s starši in njihovimi otroki. Najbolj presenetljiva pri tem je bila ugotovitev, kdo je dal pobudo za tovrstno sledenje. V večini primerov so bili otroci tisti, ki so dali pobudo za takšno uporabo tehnologije za sledenje. Ti mladi odrasli niso želeli, da bi jih starši pogosto klicali po telefonu ali jim pošiljali sporočila. Po njihovem mnenju so te tehnologije za sledenje manj invazivne, saj omogočajo, da so starši mirni, na način, ki ne zahteva komunikacije oziroma njihovega odziva. S takšno uporabo tehnologije so bili torej zadovoljni in so jo še naprej priporočali svojim prijateljicam in prijateljem.

Med pojavi, ki vključujejo starše, otroke in tehnologije, je tudi tako imenovan sharenting – deljenje slik in informacij o svojih otrocih na družbenih medijih. Naivno bi bilo reči, kako to, da starši to še vedno počnejo. Gre namreč za velik posel, saj so med večjimi zaslužkarji na družbenih medijih mame vplivnice, ki ustvarijo veliko vsebin in vodijo uspešna podjetja.
Ja, to je zelo dober posel za številne starše. To temo smo raziskovali leta 2018, ampak z običajnimi mamami. Nobeden od očetov se o tem ni želel pogovarjati z nami. Tudi to kar nekaj pove o starševstvu – običajno so torej matere tiste, ki govorijo o uporabi tehnologij za sledenje, o sharentingu, o vseh stvareh v povezavi s starševstvom. Očetje pa, čeprav smo se zelo trudili, da bi jih vključili, rečejo, da to ni področje, o katerem bi kaj vedeli. No, če zdaj govorim o sharentingu. Opravili smo torej intervjuje z materami in njihovimi predadolescentnimi otroki, starimi torej od 9 do 13 let. Mame so na to gledale takole: to je moj otrok, želim pokazati, kako dobro mu gre, kakšno je njegovo življenje. Ne želim mu povzročiti škode, ampak to sem jaz, jaz sem starš. In edini način, da pokažem, da sem starš, je, da pokažem ali govorim o svojih otrocih. Otroci so imeli nekoliko drugačen pogled na vse skupaj. Pogosto so jim šle na živce odločitve, ki so jih sprejeli njihovi starši. Sicer niso bili povsem proti sharentingu, ampak poudarjali so, da bi se jih moralo vključiti v te odločitve. Želeli so soodločati o tem, kakšne fotografije starš deli na družbenih omrežjih in katere informacije razkriva. Želeli so si, da bi se starši o tem posvetovali z njimi, česar pa starši niso počeli pogosto.

Otroci v upodatkovljenem mediatiziranem in digitaliziranem svetu že zelo zgodaj začnejo uporabljati naprave in aplikacije. Kot pravite, se to zgodi zelo zgodaj, že z rojstvom. V Estoniji ste leta 2014 opravili kvantitativno raziskavo o otrocih do tretjega leta starosti, ki je pokazala, da polovica vprašanih staršev daje tablice in pametne telefone svojim otrokom, mlajšim od treh let.
To počnejo zato, ker so prepričani, da te tehnologije pomagajo otrokom, saj jim ponujajo nove vrste vsebin in jim omogočajo, da se učijo in jih seveda ob tem tudi zabavajo. Priljubljena naprava v številnih domovih je tudi pametni zvočnik. Morda nekoliko manj v Estoniji, je pa to zelo običajno za domove v ZDA. Gre za zelo prijetnega sogovornika za majhne otroke, ampak to je še ena naprava, ki zbira ogromno podatkov o življenju znotraj doma. Tako imenovani "home life data", kot je ta koncept poimenovala Veronica Barassi, nabira veliko stvari, od podatkov o tem, kje živite, o posebnostih, tudi biometrični podatki se včasih zbirajo. Gre torej za veliko stvari, o katerih po navadi ne razmišljamo, kadar kupujemo novo napravo za svoj dom.

Pametnih povezanih naprav, ki s senzorji zbirajo podatke o našem vsakdanjem življenju v hiši ali avtomobilu, še ni tako veliko, kot so napovedovali razvijalci in industrija. Pametni telefoni, tablice in televizija – to pa so naprave, ki jih uporabljamo vsakodnevno in zbirajo res veliko podatkov. V takšnem okolju se zdi vse bolj nujno razmišljati o pravicah otrok in njihovi zasebnosti.
Očitno menim, da je to pomembna tema, o kateri moramo razmišljati in se z njo ukvarjati. Ne bi pa rekla, da se starši ukvarjajo s temi vprašanji, ko se odločajo za nakup nove naprave. Pa ne samo starši, večina ljudi o teh stvareh ne razmišlja. Težava je po mojem mnenju deloma ta, da se ljudje še vedno ne zavedajo, kaj vse te tehnologije omogočajo z zbiranjem in analizo različnih podatkov. Po drugi strani pa je še vedno prisotna miselnost "saj ničesar ne skrivam". V številnih primerih vidimo, da je to tipičen odziv na številne teme, povezane z datafikacijo oziroma upodatkovljenjem. Ko se o teh stvareh pogovarjam s svojimi študentkami in študenti, rečejo, da jim je vseeno, kdo zbira njihove podatke, saj menijo, da so nepomembna majcena bitja, zato naj ne bi nikogar zanimalo, kje recimo jedo večerjo ali kam gredo. Ne vidijo vrednosti v teh podatkih. Pravijo, da dokler lahko brezplačno ali za majhno vsoto denarja uporabljajo aplikacije, z veseljem delijo vse, kar od njih zahtevajo. Večjo vrednost vidijo v uporabi teh tehnologij, kot pa v varovanju svojih podatkov.

Otroci in mladostniki danes niso le uporabniki, ampak tudi ustvarjalci vsebin. Svoje vsebine objavljajo na različnih družbenih medijih, nekateri med njimi dosežejo veliko ljudi in z objavami zaslužijo veliko denarja.
To je danes lahko zanimiva izbira v življenju in marsikateri mlajši otrok si želi, da bi postal youtuber ali vplivnež. Ko smo v Estoniji opravljali vse te raziskave na mladih in jih spraševali, kaj želijo postati v prihodnosti, ko bodo odrasli, smo ugotovili, da je postati vplivnica, vplivnež med izbirami na vrhu seznama, pred recimo odvetnico ali odvetnikom, ali bog ne daj učiteljico ali učiteljem. Vplivnice in vplivneži zagotovo močno vplivajo tudi na življenjske ideale mladih. Po njihovem mnenju jim oni predstavljajo, kako kul in zanimivo je lahko življenje, pa tudi, kako enostavno in hitro lahko zaslužiš denar, če svoje življenje deliš z vsem svetom.

Otroci in mladi uporabljajo različne družbene medije, ki s svojimi algoritmi na različne načine oblikujejo njihovo identiteto. Ne glede na to, v kakšnem mnenjskem mehurčku so vsebine, ki jih gledajo, so vse bolj enostranske in radikalne. Se tega zavedajo, kako delujejo algoritmi?
Ne, zato se tudi ne zavedajo, kakšne so potencialno škodljive posledice na njihova življenja, ker so zaprti v neki mehurček, ali pa so profilirani v specifično tipološko kategorijo ljudi, kjer drugače ne bi bili. Gre za to, da datafikacija oziroma upodatkovljenje vedno poenostavlja resnično življenje in ga spreminja v črno-beli svet, ne pa v pisanega in osenčenega, kakršno je življenje v resnici. Prihodnost mladih, njihove priložnosti in preživetje so tako lahko precej okrnjeni, ker jih različni algoritmi interpretirajo in kategorizirajo v skupine ljudi s takimi in takimi značilnostmi. Še posebej pri mladih, ki prihajajo iz ranljivejših okolij, iz marginaliziranih skupnosti, obstaja nevarnost, da bodo njihove priložnosti še manjše kot sicer.

Potem pa je še poseben primer nadzorovalnih tehnologij v šolskih okoljih, ki so se zelo razširile med epidemijo.
Šole predvsem v ZDA, pa tudi v nekaterih drugih državah, na primer v Singapurju, so na svoje naprave namestile posebno programsko opremo. Naprave pa so potem predali tistim učenkam in učencem, ki niso imeli svojih naprav, da so lahko tako kot drugi spremljali pouk na daljavo. Tako so razvili tehnologijo, ki je zapisovala vse interakcije na družbenih medijih, vse stvari, ki so jih iskali v iskalnikih, vse, kar so objavljali, ali povsod, kjer so imeli stike s svojimi prijatelji. Vse to so spremljali prek te programske opreme. To se je razvilo zato, ker so želeli in še vedno želijo pravočasno zaznati tiste učenke in učence, ki so depresivni, potencialno samomorilni, ki imajo težave z duševnim zdravjem po eni strani, po drugi strani pa tudi tiste, ki so morda nagnjeni k terorističnim dejanjem ali v primeru ZDA pobojem s strelnim orožjem v šolah. Šole so torej začele nakupovati te tehnologije, ker so imele velike upe, da bodo pomagale obvarovati učenke in učence. Kar smo lahko ugotovili iz medijske analize poročanja o teh tehnologijah, pa je, da je ta programska oprema proizvedla veliko lažno pozitivnih izidov. Kaj to pomeni? Če si omenil besedo samomor v neki domači nalogi ali eseju, je programska oprema označila to specifično besedo, učenko ali učenca pa so vzeli pod drobnogled. Šlo je torej za besede, ki so jih uporabili. Če je nekdo denimo večkrat uporabil besedo strelec, kontekst ni bil pomemben. Lahko je tvital s košarkarskega turnirja, ali pa si je šel v kino ogledat film s takšnim naslovom. Kontekst ni bil pomemben, takoj je bil označen. V medijih je bilo tako nekaj primerov mladih, ki jih je obiskala policija, ker so uporabili besedo bomba ali strelec. Ni bilo pomembno, ali so rekli, to dekle je prava seksbomba, vseeno jih je obiskala policija. Pri medijski analizi smo še ugotovili, da so bili ljudje iz marginaliziranih skupnosti, s specifičnimi etničnimi ali religijskimi porekli ali s specifičnimi seksualnimi preferencami tisti, katerih vsebina se je najpogosteje označevala. In v veliko primerih je šlo za mlade, ki so morali uporabljati šolsko opremo. Če prihajaš iz revne soseske in nimaš denarja za svoje naprave, si moral uporabljati šolsko opremo in tako so te avtomatično nadzorovali. Temu se nisi mogel izogniti.

Letošnje leto močno zaznamuje razvoj umetne inteligence in pogovor o nevarnostih, ki jih ta predstavlja. Prihodnost torej prinaša še več ustvarjanja, zbiranja in analiziranja podatkov. Umetna inteligenca bo lahko še učinkoviteje označevala uporabnice in uporabnike v različnih kontekstih. Ampak vidimo, da je pristranska. Vidimo, da dela napake. Vemo, da je zelo pomembno, kdo jo ustvarja, uporablja in nadzoruje. Kako torej gledati prihodnost, v kateri bo umetna inteligenca povsod?
Po eni strani je to nekaj, čemur se ne moremo izogniti, Pandorina skrinjica je odprta in tako naprej. Po drugi strani pa imam sama svoje subjektivne najgloblje strahove o uporabi umetne inteligence v izobraževalnem sektorju. To že zdaj vidimo v veliki meri v različnih državah. Vidimo tudi, kako začenja umetna inteligenca vplivati na to, kaj razumemo kot učenje in poučevanje, kako razumemo avtonomijo učiteljice in učitelja in kako sposobnost samostojnega odločanja učenk in učencev. Naj navedem primer iz Kitajske, ki je sicer poseben primer. Otroci v nekaterih osnovnih šolah so nosili posebne naglavne trakove, ki so skenirali njihove možganske valove, da bi videli, ali učenke in učenci spremljajo pouk ali ne. Informacije o tem so se avtomatsko prenesle na računalnike učiteljic, učiteljev in staršev. Starši so tako lahko primerjali svojega otroka z drugimi v razredu in nato doma spodbujali svoje otroke, da bi se bolj potrudili. V šolah so se znašle še številne druge podobne tehnologije, ki temeljijo na umetni inteligenci in jih spremlja velik tehnooptimizem, saj naj bi se učiteljice in učitelji lahko z njihovo uporabo bolj posvetili poučevanju. Lahko pa se zgodi, da bi s temi spremembami v prihodnosti dejansko škodili otrokom in mladim, saj jih tako umeščamo v neke predalčke, v katere jih ne bi smeli.

Znotraj tega konteksta se tako še posebej v Evropski uniji veliko govori o regulaciji. Pet let je minilo, odkar imamo splošno uredbo o varstvu osebnih podatkov oziroma GDPR, pred kratkim smo sprejeli akt o digitalnih storitvah in akt o digitalnih trgih, pravkar se na ravni EU-ja oblikuje akt o umetni inteligenci. Gre za zelo pomembno vprašanje. Se po vašem mnenju pravilno lotevamo reševanja tega vprašanja?
Regulacija tega področja je zagotovo zelo pomembna, ampak regulacija je na žalost nekaj let za dejanskim razvojem tega sektorja. Vsa regulativa, ki smo ji priča, bi morala biti tam že ves čas, že pred petimi leti ali še prej. Tako da se trudimo pogasiti požar in nisem preveč optimistična, da nam to s temi ukrepi uspeva. Očitno gre za velike razlike med državami. Evropska unija si želi biti vodja te igre, ampak številne težave izvirajo iz dejstva, da se številna tehnološka podjetja in pomembni igralci na tem področju zanašajo na ameriško zakonodajo, ki pa se ne sklada z evropsko. Tako da imamo že tukaj težave, ki jih ni lahko rešiti. Gre za zelo plodovito področje za odvetnike, ki to bitko bijejo v sodnih dvoranah, ampak običajni ljudje pa še vedno potrebujejo nekaj časa, da bodo sploh razumeli, kakšne so njihove pravice in kako jih zaščititi. Tudi sama se borim s tem vprašanjem, kako ljudem povedati, da so te stvari pomembne. Svoje študentke in študente neprestano opozarjam, bodite pozorni, te stvari so pomembne, ampak oni si mislijo, da sem neka stara paranoična oseba in ne vem, kako resnično življenje deluje. Moja rešitev za to zagato je do zdaj bila, da jim skušam omogočiti priložnosti, ko lahko sami preizkusijo, kako deluje umetna inteligenca in algoritmi. Tako lahko sami vidijo, kako se njihovi podatki interpretirajo in uporabljajo v različnih okoliščinah. Morda bi to abstraktno in široko temo lahko predstavili na način, s katerim se lahko poistovetijo in začnejo opažati, kako to po eni strani vpliva na njihovo preživetje, po drugi strani pa tudi, da tem tehnologijam ne moremo vedno zaupati. Pa tudi, da te tehnologije proizvajajo podatke, ki so za njihova življenja in identiteto popolnoma nepomembni. Mladi pogosto rečejo, da če nečesa ni na Instagramu, potem se to ni zgodilo. Tako navajeni so živeti in doživljati svet prek zaslonov, da bi morali pridobiti zavedanje o tem, kako so informacije, ki jih za sabo puščajo na različnih platformah, uporabljene in interpretirane v popolnoma drugačnih kontekstih, zunaj Instagrama in TikToka. Zato moramo bolj spodbujati tovrstno medijsko pismenost.