Norveška filmarka skozi politični triler iHUMAN upodablja temačen digitalni svet in postavlja vprašanja o umetni inteligenci, oblasti in družbenem nadzoru. Dokumentarni film sledi pionirjem na čelu nevidne revolucije umetne inteligence, da bi razkril, kako se ta tehnologija razvija in implementira.

Idejo za film je režiserka dobila leta 2014, ko je snemala film Drone, dokumentarec o tajni vojni brezpilotnih letal, ki jo vodi CIA. Tedaj se je prvič globoko zavedela, kako se je umetna inteligenca priplazila v naša življenja, ne da bi vedeli, kaj se dogaja.

V najinem pogovoru je med drugim govorila o tem, ali je tehnologija lahko demokratizirajoča sila, kaj jo je najbolj presenetilo v zakulisju tehnološke industrije in zakaj pušča telefon v drugem prostoru, ko govori o občutljivih temah.

Vabljeni k branju intervjuja.

Obdobje epidemije je v nekaterih državah, tudi na Norveškem, prineslo zagon aplikacije za sledenje stikom z okuženimi s covidom-19 in ob tem pogovore o nadzoru dostopa do identifikacijskih in lokacijskih podatkov. Ob tem se postavljajo podobna vprašanja kot v vašem filmu. Kako vidite vstop umetne inteligence v koronakrizo?
Tukaj na Norveškem so že zelo hitro zagnali aplikacijo, ne da bi jo natančno procesirali. Na srečo vlada zelo močna in zdrava socialna demokracija, ljudje so začeli nemudoma testirati aplikacijo. Izkazalo se je, da je bilo zelo preprosto vdreti vanjo. Deluje prek bluetootha, takoj se je oglasil avtor bluetootha in rekel, da ta ni dovolj natančen in ni bil ustvarjen za take vrste sledenja, ker je vključenih preveč spremenljivk. Skratka, veliko težav je znotraj same aplikacije. No, ampak kar mene najbolj skrbi, je panika, v katero zapade oblast sredi krize, in upanje, da nas bo pred pandemijo rešila tehnologija. Želim si, da bi bilo tako preprosto. Posebno skrb vzbujajoče je, kako so ravnanja avtoritarnih režimov, kot je Kitajska, postala zlati standard za obvladovanje krize. Moramo se vprašati, koliko zasebnosti in vsega, za kar smo se borili zadnjih sto let, smo pripravljeni žrtvovati.

Na Festivalu CPH: DOX je imel ob filmu predavanje Edward Snowden. Dogajanje je primerjal s stanjem po 11. septembru, ko se je vzpostavil patriotski zakon, ki je preživel krizo. Ko se odpoveš pravicam, jih je zelo težko dobiti nazaj. Zastrašujoče je, koliko držav je bilo pripravljenih hitro odvzeti pravice državljanom, in kako je arhitektura nadzora že v pripravljenosti. Na Norveškem so bili ljudje osupli nad tem, da njihovim telefonom pravzaprav že sledijo in da se podatki o njihovih premikih prodajajo naprej. S tega stališča pravzaprav obstaja pozitiven vidik, ker je bilo toliko razkritij o tem, pod kakšnim nadzorom smo. In ljudje so se temu zoperstavili.

Ste med ustvarjanjem filma dobili bolj jasen vpogled v to, kako se umakniti nadzoru, ohraniti zasebnost?
Kot raziskovalna filmarka uporabljam metode iz raziskovalnega novinarstva. Ko sem snemala film Drone, je postala praksa, da novinarji puščajo telefone v drugih prostorih, ko delajo z občutljivimi temami. Večkrat sem v položaju, ko moram pustiti telefon v ločenem prostoru, da lahko govorim s kom. Vračamo se k osnovam medčloveškega sporazumevanja, papirju. Ves čas mislimo na to, kako šifrirati podatke, kako zaščititi informacije in najpomembneje – kako zaščititi svoje vire.

Torej vaše raziskovano delo poteka tako, da se dobite s sogovorniki s svinčnikom in zvezkom?
Ja, tako je.

In to je prihodnost?
Ja. Prepričana sem, da smo del matrice, ki smo jo zgradili povsod okoli nas in je iz nje nemogoče izstopiti, je pa znotraj te matrice mogoče najti prostore varne komunikacije. Če si danes denimo izbrišeš Facebookov račun, postaneš skorajda senca, ki pritegne še več pozornosti. Težko je oceniti, kaj storiti. Imam dve najstniški hčerki, ki jima ves čas dopovedujem, da je vse, kar objaviš na spletu, javno. Ni mi popolnoma uspelo, da bi preprečila njune objave, ampak se res trudim. Tudi z izobraževanjem skozi filme lahko naredimo veliko. Film Drone smo pokazali 80.000 norveškim najstnicam in najstnikom, iHUMAN pa za zdaj 14.000. Oni so nova digitalna generacija, govorijo ta jezik na drugačen način. Zavedajo se mnogih stvari, ki se jih mi starejši ne. Ta svet ni naš na način, kot je njihov. Pomembno je, da imajo znanje o tem, kako jim sledijo po aplikacijah in kako z njimi manipulirajo. Soočeni smo z ogromnimi tehnološkimi podjetji, ki vedo vse o nas in sodelujejo z obveščevalnimi službami in oblastjo, predajajo naše podatke v trgovanje, mastno služijo.

Z našim neplačanim delom?
Ja, in morali bi zahtevati informacije o tem, kako nas izkoriščajo. Potrebujemo novo kritično razmišljanje, ki bi ga morali učiti v šolah.

V vašem filmu se pojavlja vprašanje etičnosti tehnologije. Da ne gre za to, kaj računalniki lahko storijo, ampak kaj bi morali storiti. Zdi se, da je ravno etika tista, ki bo vedno zadnja misel, dokler bo bistveno, kaj vse tehnologija zmore. Kako vidite pogoje za vzpostavitev etične komponente v digitalnem svetu?
Soočeni smo z najmočnejšo in najdaljnosežnejšo tehnologijo našega časa. Popolnoma smo odvisni od naprav, ki postajajo vse pametnejše. Najti moramo etično ravnanje, ki ne bo samo naše zasebno, ampak bo vpeto tudi v lokalno okolje, in izvajati pritisk na vlade, da delujejo tudi mednarodno. S filmom iHUMAN smo delali z oblikovalci politike v Evropski uniji, imeli smo projekcije za Združene narode in v tehnološki industriji. Vprašanja, ki jih poudarjamo v filmu, so njihove stiske na dnevni ravni, odgovorov pa ni.

Trenutno smo priča nastanku algoritemskega ustroja sveta, ki ga vodi elitna skupina mladih, belih, zelo premožnih moških. Odločitve, ki jih sprejema teh nekaj ljudi, vplivajo na večino človeštva. Facebook in Google sta vedno večja, načrtujejo le to, kako še bolj zrasti, kako zaslužiti še več denarja, ne da bi se zavedali, koliko odgovornosti prinaša njihova moč. Treba je prerazporediti moč. Glede etike pa bi bilo nujno pogledati, kdo programira kode našega sveta in prihodnosti. Kje je raznolikost? Večinoma gre za mlade fante. Kako zagotovimo zastopanost žensk, drugih narodnosti … no, vseh, ki niso beli moški.

Trenutno imajo nadzor tisti, ki, kot lahko slišimo v filmu, trdijo, da so ustvarili boga, krono kreacije.
Tehnologijo prepuščamo tehnologom. Razvija se tako hitro, da že oblikovalci politike ne dohajajo. Zato je treba začeti akcijo nemudoma, sicer bomo kmalu kakor na vesoljski ladji in v napačni galaksiji. Umetna inteligenca krepi vrednote, ki jih vanjo vgradimo – ustvarjamo monokulturo.

V filmu je tehnologija predstavljena kot sprva demokratizirajoča sila, ki je bila ugrabljena. Je umetna inteligenca zares imela demokratizirajočo silo in ali mislite, da ji je to silo mogoče vrniti?
Sem zelo optimistična oseba in resnično verjamem, da smo ljudje odporni. Nihče ne mara biti zmanipuliran, nadzorovan. Temeljne svoboščine so na nitki, moramo se zavedati tega in zgraditi digitalno prihodnost. Navdihujoče je, da je splet zgradila vojska kot platformo, na kateri bi imel vsakdo glas. Zdaj gre predvsem za dobiček in tekmovalnost, za trge, ki vodijo digitalni svet. Če omejimo moč Googla in Facebooka in najdemo alternative, sem optimistična glede prihodnosti. Opogumljajoče se mi je zdelo tudi to, kakšna ustvarjalnost je na spletu vrela v času koronakrize. K sreči smo se znašli v epidemiji, v kateri imamo digitalne svetove.

Film ste snemali, potem ko ste že več let raziskovali tematiko. Pa je bilo kljub temu kaj novega, kar vas je popolnoma presenetilo, nepričakovane informacije?
Vsekakor. Idejo za iHUMAN sem dobila leta 2014, ko sem snemala film Drone in sem se prvič globoko zavedela, kako se je umetna inteligenca priplazila v naša življenja, ne da bi mi vedeli, kaj se dogaja, brez pogovorov o tem, kaj ta tehnologija počne, kako vpliva na nas, na kakšne načine je implementirana, kakšne so posledice. To je bilo prvo ogromno presenečenje zame. Drugo pa je bilo videti zakulisje tehnološke industrije, ki ustvarja tehnoorgijo, kjer so vsi čisto vznemirjeni in vlagajo nore vsote denarja v nadaljnji razvoj, preden sploh razrešimo osnove težave. Zelo me je presenetil tudi popoln nadzor nad informacijami in aroganca velikih tehnoloških podjetij, ki imajo nadzor tudi nad tem, katere informacije o njihovem delu pridejo v javnost. Do Googla in Facebooka sploh nisem mogla priti, ne glede na to, kje na svetu smo bili. Ko smo bili v vasici v Švici v stavbi, kjer je bil Googlov oddelek, smo morali pustiti kamere zunaj te stavbe. Takšen je njihov odnos do novinarjev.

Presenetljivo je tudi to, kako pogosto se prikazujejo romantizirano. Film Socialno omrežje je denimo svetu predstavil neogrožujočega, nesrečno zaljubljenega Marka Zuckerberga.
Če bi bil to kakršen koli odgovoren vladajoč sistem, bi bili besni na njih. Ker pa so zasebno podjetje, lahko počnejo, kar želijo. Ti zelo bogati beli fantje, ki vodijo naš svet, delujejo kot mafija. Z neomejenimi količinami denarja, brez transparentnosti, prevzemanja odgovornosti.

Kot je bilo denimo v času Trumpove kampanje za ameriške volitve leta 2016. Vedela sem, da mora biti nekaj za tem. To, kam je potoval, da bi imel govore, ni imelo smisla. Potem se je izkazalo, da je bilo vse spleteno v masivno, temačno kampanjo na družbenih medijih. Skoznjo so skušali pridobiti neodločene volivce, tiste z duševnimi motnjami, samomorilne, ravno ločene, mame samohranilke z nizkimi prihodki. Res bi moralo biti prepovedano na tej ravni manipulirati z ljudmi. Vpleteni so bili v brexit in v tono drugih zadev po vsem svetu, ki so imele vse po vrsti temačne posledice.

Če primerjate čas, ko ste v javnosti predstavljali film Drone in zdaj šest let kasneje iHUMAN, ali občutite razvoj, več refleksije? So občinstva bolj obveščena o tem, kako umetna inteligenca prežema naša življenja?
Pred epidemijo smo film prikazali v Berlinu in Cannesu, tam so bili predstavniki EU-ja in ZN-a, prišel je tudi podpredsednik Micosofta in bil del naših filmskih dogodkov. Obstaja gibanje za pravo stvar. Na Norveškem smo film predvajali več skupinam z vlade, tudi oddelku, ki se ukvarja z digitalizacijo, zasebnostjo, pa policiji, obveščevalni službi. Vsi želijo film uporabiti kot del pogovora o umetni inteligenci. Odprtost in transparentnost glede vsega tega tukaj na Norveškem je zame izredno opogumljajoča. Seveda, kar zadeva občinstva, moramo prehoditi še dolgo pot. Kako manevrirati med vsem tem, kako postavljati zahteve, vse to ostaja nedorečeno. Veliko ljudi je v filmu najbolj šokiralo to, kako Google sodeluje z vojsko, kako daleč je že uporaba UI, kako je mogoče zmanipulirati volitve in biti grožnja demokraciji.

Še posebno v ZDA je zelo težko prikazovati ta film. Veliko zanimanja za projekcije je po vsem svetu, v ZDA pa ima Google neizmerno moč. Verjetno so podjetje, ki zapravi največ za lobiste v Washingtonu DC. Res si želim, da bi film dosegel tudi ZDA, tam je naše najpomembnejše občinstvo.