"Zmanjšanje tveganja izumrtja zaradi umetne inteligence bi moralo biti prednostna naloga poleg drugih družbenih tveganj, kot so pandemije in jedrska vojna," so v enostavčni izjavi za javnost posvarili na spletni strani Centra za varnost umetne inteligence (Center for AI Safety).

Izjavo je podpisalo več vodilnih znanstvenikov in podjetnikov na tem področju. Med njimi so dva od treh "botrov umetne inteligence" Geoffrey Hinton in Yoshua Bengio, direktor podjetja OpenAI (avtorji orodja ChatGPT), direktor Googlovega projekta DeepMind Demis Hassabis in Dario Amodei, direktor podjetja Anthropic.

Tretji "boter umetne inteligence" Yann LeCun je medtem tvitnil, da so apokaliptična opozorila pretirana, "najpogostejši odziv raziskovalcev umetne inteligence na te prerokbe pa je držanje za glavo".

Bengio: Največja grožnja je zloraba človeka

Direktor Inštituta za učeče algoritme v Montrealu Yoshua Bengio je v razpravi opozoril, da je glavna grožnja za zlorabo umetne inteligence človek. Zlohotni posameznik lahko namreč tehnologijo izkoristi za zloben namen, kot so nekateri uporabniki ChatGPT-ja že pozvali, naj pripravi načrt za svetovno dominacijo.

Umetna inteligenca bi lahko predstavljala grožnjo tudi, če bi prejela neustrezno določeno ali opisano nalogo. Tretja možnost pa je, da si umetna inteligenca lahko v sledenju širšemu cilju, ki ga je postavil človek, postavi lastne podcilje, razpravo povzema Deutsche Welle.

Sorodna novica Poziv k začasni ustavitvi razvoja sistemov umetne inteligence

Center za varnost opozarja na možnost razvoja orožja in destabilizacijo družbe

Center za varnost umetne inteligence je na svoji spletni strani prav tako navedel tudi nekaj mogočih scenarijev katastrofe, pri katerih bi zloraba tehnologije lahko vodila v "izumrtje človeštva". Kot prvi primer navajajo, da bi orodje za odkrivanje drog lahko uporabili za izdelavo smrtonosnega kemičnega orožja.

Kot drugi primer navajajo možnost "destabilizacije družbe in spodkopavanje zmožnosti kolektivnega odločanja" prek ustvarjenih dezinformacij. Opozarjajo tudi, da bi umetna inteligenca lahko postala vedno bolj zgoščena v vse manj rokah, kar bi režimom po svetu omogočilo "uveljavljanje ozkih vrednot z vsesplošnim nadzorom in zatiralsko cenzuro".

Tretja možnost naj bi bila "resna oslabljenost", ker bi ljudje postali odvisni od umetne inteligence, vse skupaj pa naj bi bilo podobno "scenariju iz filma Wall-E", še poroča BBC.

Marca poziv k začasni ustavitvi razvoja

Svarilo Centra za varnost umetne inteligence sledi pismu marca letos, v katerem so številni strokovnjaki in podjetniki, denimo Elon Musk, pozvali k začasni zaustavitvi razvoja naslednje generacije tehnologije.

Med podpisniki tokratnega svarila je sicer tudi nekaj bolj nenavadnih imen, kot so pevka Grimes, nekdanja estonska predsednica Kersti Kaljulaid ter nevroznanstvenik in snemalec podkastov Sam Harris.

Začetek srečanja ZDA-EU o regulaciji

Opozorila sicer sovpada z začetkom srečanja Sveta ZDA in EU-ja za trgovino in tehnologijo na Švedskem, kjer naj bi razpravljali tudi o regulaciji umetne inteligence. Evropski komisar za notranji trg in tehnologijo Thierry Breton se bo prihodnji mesec v San Franciscu tudi srečal z direktorjem Open AI Samom Altmanom, ki je v preteklosti zagrozil z umikom Chat GPT-ja iz Evrope v primeru stroge regulacije, vendar je pozneje grožnje umaknil, poroča Deutsche Welle.