sl
Italiano
English
Prof. dr. Noreen Herzfeld je članica Raziskovalne skupine za umetno inteligenco (Artificial Intelligence Research Group), povezane z Dikasterijem za kulturo in izobraževanje Svetega sedeža. Je tudi ena od soavtoric in sourednic publikacije Encountering Artificial Intelligence: Ethical and Anthropological Investigations, ki se omenja v povezavi s širšim intelektualnim ozadjem prve enciklike papeža Leona XIV. Magnifica Humanitas, posvečene varovanju človeka v dobi umetne inteligence.
Prof. dr. Herzfeld, vaše delo je v zadnjem času pritegnilo pozornost širše javnosti v povezavi z encikliko papeža Leona XIV. o umetni inteligenci, ki je bila predstavljena maja letos. Kako so vaše raziskave in sodelovanje v Raziskovalni skupini za umetno inteligenco prispevali k oblikovanju enciklike?
Raziskovalna skupina za umetno inteligenco (AIRG), ki deluje pod okriljem Dikasterija za kulturo in izobraževanje, se od leta 2020 srečuje z namenom raziskovanja posledic hitrega razvoja umetne inteligence. Leta 2024 smo kot prvo izmed več knjig, ki so nastale na podlagi naših razprav, objavili Encountering Artificial Intelligence. Po njenem izidu smo glavne ideje predstavili na posvetu v Rimu, ki so se ga udeležili tudi predstavniki drugih vatikanskih dikasterijev in delovnih skupin. Kmalu zatem je Dikasterij za nauk vere v sodelovanju z našim dikasterijem pripravil doktrinalno noto Antiqua et Nova, ki je navedena tudi v encikliki.
Če se za trenutek obrnemo k vam in vaši akademski poti: najprej ste študirali matematiko in glasbo, nadaljevali na področju računalništva, pozneje pa se usmerili še v teologijo in preučevanje duhovnosti. Kako se ta različna področja povezujejo pri vašem raziskovanju umetne inteligence?
Že v devetdesetih letih prejšnjega stoletja sem kot profesorica računalništva predavala tudi predmete s področja umetne inteligence. V tistem času so se filozofi, kot sta Hubert Dreyfus in John Searle, spraševali, ali je mogoče ustvariti človeku podobno umetno inteligenco oziroma splošno umetno inteligenco (AGI). Mene pa ni toliko zanimalo vprašanje, ali to zmoremo, temveč zakaj si to sploh želimo.
Zdelo se mi je namreč, da so računalniki najbolj uporabni prav takrat, ko nam niso podobni in opravljajo stvari, ki jih ljudje ne zmoremo dobro. Med svojim prvim sobotnim letom sem skušala to vprašanje raziskati, vendar nisem bila uspešna. Kot znanstvenica s področja računalništva namreč nisem imela pravega orodja, s katerim bi prišla do odgovora na vprašanje, ki se je nanašalo na človeško motivacijo.
Človek je dejansko z umetno inteligenco skušal ustvariti Drugega po svoji lastni podobi. To me je pripeljalo do prvega poglavja Geneze in preoblikovanja mojega raziskovalnega vprašanja: Ali je način, na katerega želimo, da računalnik odseva nas, enak načinu, na katerega si predstavljamo, da mi odsevamo Boga? Željo, da bi ustvarili umetno inteligenco, ki bi bila podobna človeku, sem začela razumeti kot duhovno iskanje.
Papež Leon XIV. v svoji prvi encikliki umetno inteligenco predstavlja kot eno ključnih antropoloških vprašanj našega časa. Se s tem strinjate in zakaj?
Da, s tem se strinjam. Naša želja, da umetno inteligenco ustvarimo po lastni podobi, nam veliko pove o tem, kaj pri sebi najbolj cenimo. Živimo v kulturi, ki daje prednost delovanju pred bivanjem in vrednost meri s produktivnostjo. Umetno inteligenco ustvarjamo zato, da bi počela to, kar počnemo mi, le hitreje.
Toda ljudje smo bitja, ki potrebujemo odnose z drugimi. Zato umetno inteligenco oblikujemo ne le kot orodje, temveč tudi kot Drugega, s katerim lahko vzpostavimo odnos. Umetna inteligenca je ogledalo nas samih, vendar to ogledalo deluje v obe smeri. Ustvarjamo jo tako, da posnema tisto, kar pri sebi cenimo, toda bolj ko vstopamo v odnose s stroji namesto drug z drugim, večja je nevarnost, da bomo tudi sami postajali vse bolj podobni strojem.
Enciklika zavrača tako transhumanistične kot posthumanistične predstave o človeku. Bi lahko na kratko pojasnili oba pojma? Kje pa vidite mejo med pozitivno in odgovorno uporabo tehnologije ter nevarnejšo idejo tehnološkega »preseganja« človeka?
Transhumanizem je želja, da bi s pomočjo tehnologije ustvarili boljšega človeka. Na neki način bi lahko rekli, da smo že danes transhumani, saj nosimo očala in slušne aparate ter uporabljamo srčne spodbujevalnike in proteze. Vendar se izraz običajno nanaša na novejše in mnogo obsežnejše posege v našo naravo, kot so genski inženiring, katerega spremembe se lahko prenesejo na potomce, ali vsaditev računalniških čipov v možgane.
Posthumanizem pa izhaja iz ideje, da smo ljudje zgolj prehodna vrsta v evoluciji inteligence in zavesti ter da bi nas lahko umetna inteligenca z nadaljnjim razvojem nekoč nadomestila.
Papež Leon XIV. upravičeno kritizira posthumanizem in velik del transhumanizma, ker temeljita na zmotnem pojmovanju popolnosti. Opozarja, da nam evangelij sicer nalaga skrb za bolne, vendar je zmotno prepričanje, da lahko premagamo vse človeške slabosti in trpljenje. Pravzaprav tega niti ne bi smeli poskušati, kajti »prav znotraj naših omejitev se odpira prostor za sočutje, iskrena skrb za potrebe drugih, velikodušnost, ki se lahko rodi tudi sredi teme in neuspeha, duhovna izkušnja ter čaščenje Boga« (Magnifica Humanitas (MH), 119).
Prav v soočanju z lastnimi omejitvami, vključno z lastno smrtnostjo, se učimo potrpežljivosti ter spoznavamo, da potrebujemo drug drugega in Boga.
Enciklika izraža tudi resno zaskrbljenost zaradi koncentracije moči na področju umetne inteligence v rokah majhnega števila tehnoloških korporacij. Vendar so bili ob predstavitvi v Vatikanu navzoči tudi predstavniki industrije, med drugim soustanovitelj podjetja Anthropic Chris Olah. Kakšen pomen ima vključevanje takšnih glasov v razpravo in kje vidite možne rešitve za koncentracijo moči na področju umetne inteligence?
Enciklike so bile zgodovinsko gledano učni dokumenti, namenjeni škofom, duhovnikom in katoliškim vernikom. Papež Frančišek je od te tradicije odstopil, ko je encikliko Laudato si’ namenil vsem ljudem dobre volje. Papež Leon nadaljuje to usmeritev.
Menim, da želi z encikliko Magnifica Humanitas nagovoriti ne le Cerkev, ampak tudi tehnološke voditelje, ki imajo moč vplivati na smer razvoja raziskav umetne inteligence. Silicijeva dolina je trenutno močno zaznamovana s transhumanističnimi in posthumanističnimi narativi. Papež Leon z encikliko skuša ponuditi alternativo, ki bi lahko razvoj umetne inteligence usmerila v varnejšo in bolj odgovorno smer.
Ne verjamem, da smo na poti k oblikovanju splošne umetne inteligence (AGI) v bližnji prihodnosti. Prvič, veliki jezikovni modeli, kot sta ChatGPT ali Claude, bodo vedno halucinirali in zato nikoli ne bodo povsem zanesljivi. Drugič, večji ko ti sistemi postajajo, več energije potrebujejo, ne le za učenje, ampak tudi za uporabo. Ne morejo jih uporabljati vsi in povsod, ne da bi to povzročilo resne obremenitve naše energetske in vodne infrastrukture, s čimer bi dodatno pospeševali podnebne spremembe.
Precej manjša orodja umetne inteligence, namenjena specifičnim nalogam, so veliko učinkovitejša in natančnejša ter jih je mogoče lažje prilagoditi konkretnim potrebam. Kitajska sledi tej poti in to bi lahko vodilo k precej boljši integraciji umetne inteligence v že obstoječe sisteme.
Papež opozarja tudi na vpliv umetne inteligence na izobraževanje. Kaj lahko po vašem mnenju storimo, da bi podpirala učenje, ne da bi pri tem slabila kritično mišljenje in celostni razvoj posameznika?
Študije so že pokazale, da tisti, ki se močno zanašajo na umetno inteligenco, tvegajo postopno izgubo določenih sposobnosti in oslabitev kritičnega mišljenja. Pri otrocih je tveganje še večje. Lahko se zgodi, da nikoli ne razvijejo sposobnosti sklepanja, raziskovanja, reševanja problemov in razumevanja, ki bi jih izobraževanje moralo spodbujati.
Rešitev ni v prepovedi umetne inteligence, ampak v omejevanju njene uporabe na določene trenutke in področja, kjer lahko služi kot orodje, ne pa kot nadomestek.
V Združenih državah so številne šole velik del pouka in šolskih obveznosti prenesle na prenosnike in tablice, zdaj pa ugotavljajo, da je bila to napaka. Otroci lahko hitro preusmerijo pozornost drugam in se radi izognejo zahtevnemu miselnemu delu, ki ga zahteva učenje. Umetna inteligenca, ki jim preprosto ponudi odgovore, to težavo poglablja. Po drugi strani pa bi umetno inteligenco lahko usmerili, da bi učencem pomagala zastavljati boljša vprašanja ali jih spodbujala h globljemu razmišljanju.
Eno najbolj perečih etičnih vprašanj zadeva njeno uporabo v vojskovanju. Umetna inteligenca se že uporablja kot pomoč pri izbiri tarč, svet pa se zdi vse bolj usmerjen v algoritemsko vojskovanje. Kaj nam to pove o našem razumevanju človeškega življenja, odgovornosti in vrednosti človeka?
Konflikta v Ukrajini in Iranu kažeta, da se je narava vojskovanja spremenila. Droni so spremenili razmerje moči in v določenem smislu izenačili pogoje med nasprotniki. Iran lahko z enim samim dronom učinkovito zapre Hormuško ožino. Ukrajina je z napadi z droni na Moskvo in rafinerije, oddaljene tudi 2500 kilometrov od meje, razširila območje vojskovanja globoko na rusko ozemlje.
V primerjavi z raketami ali težkim orožjem, kot so tanki, so droni precej poceni in preprosti za izdelavo. Njihova uporaba hkrati zmanjšuje še en »strošek« vojne – življenja vojakov.
Papež v svoji encikliki ugotavlja, »da vse večja enostavnost uporabe avtonomnih oborožitvenih sistemov povzroča, da postaja vojna bolj ‘izvedljiva’ in manj podrejena človeškemu nadzoru« (MH, 197). S tem sta ogroženi dve načeli teorije pravične vojne: načelo, da se sme oboroženo silo uporabiti le kot skrajno sredstvo, ter načelo, da mora orožje vedno ostati pod človeškim nadzorom.
Obstaja tudi nevarnost izgube moralne odgovornosti. Na delavnici, ki sem se je udeležila in jo je organizirala pravna fakulteta univerze Penn State, so sodelujoči vojaški poveljniki močno nasprotovali avtonomnemu orožju. Najbolj so bili zaskrbljeni zaradi hitrosti delovanja računalnikov.
Ali je sploh realno ohranjati človeka v procesu odločanja, če se odločitve sprejemajo s hitrostjo, ki ji človek ne more slediti? Če bi hitrost vojskovanja presegla človeške sposobnosti, bi bili častniki lahko prisiljeni odločanje prepustiti strojem.
Leon XIV. opozarja, da nekateri »govorijo o ‘umetnih moralnih akterjih’, kot da bi bili stroji sposobni razlikovati med dobrim in zlim, vendar moralne presoje ni mogoče reducirati na izračunavanje, saj vključuje vest, osebno odgovornost ter prepoznavanje drugega kot osebe« (MH, 198).
Odgovornost v vojskovanju bi se lahko hitro sesula, če bi države in vojaški poveljniki krivdo začeli prelagati na umetno inteligenco. Zato papež poziva, naj odločitve »ostanejo pod učinkovitim, samozavedajočim se in odgovornim človeškim nadzorom« (MH, 200). Ali se bo to ob trenutni oboroževalni tekmi na področju umetne inteligence dejansko zgodilo, bomo še videli.
Kot raziskovalko, ki že vrsto let razmišlja o odnosu med umetno inteligenco, religijo in človekom, vas današnji tehnološki razvoj navdaja bolj z upanjem ali z zaskrbljenostjo?
Umetna inteligenca ima potencial, da postane izjemno koristno orodje, če jo razvijamo in uporabljamo odgovorno ter v omejenem obsegu. Ima pa tudi potencial, da povzroči veliko škode.
Tisti, ki si predstavljajo umetno inteligenco v slogu Terminatorja – da se bo sama odločila, da so ljudje odveč –, se osredotočajo na napačno nevarnost. Resnična skrb je, da bi umetno inteligenco zlonamerni akterji lahko uporabili tako, da bi ogrozili naše sisteme – od infrastrukture do demokracije.
Moja največja skrb pa je, da v hitenju z razvojem in uporabo sedanjih modelov umetne inteligence ne bomo dovolj razmišljali o vplivu na okolje in bomo s tem pospešili podnebne spremembe, katerih posledice vsi že občutimo v vročini in požarih letošnjega poletja.
Kaj menite o smeri, ki jo je papež Leon XIV. nakazal na začetku svojega pontifikata? Katere teme bi lahko najbolj zaznamovale njegovo delovanje?
Menim, da Leon XIV. nadaljuje Frančiškovo usmeritev k obravnavi najbolj perečih vprašanj našega časa.
Papež ima glas in avtoriteto, ki ju večina drugih verskih skupnosti nima. Pričakujem, da bo Leon XIV. ta glas še naprej uporabljal tako, kot ga je že začel – brez strahu bo kritično nagovarjal politične voditelje ter se zavzemal za mir, socialno in ekonomsko pravičnost ter odgovoren odnos do tehnologije.
Čeprav je v encikliki Magnifica Humanitas okoljska vprašanja le omenil, upam, da bo nadaljeval Frančiškovo namero, da o tej nadvse pomembni temi spregovori še podrobneje.
S Slovenijo vas povezuje delo na Inštitutu za filozofske in religijske študije Znanstveno-raziskovalnega središča (ZRS) Koper. Kako se je to sodelovanje začelo in katerim temam se trenutno posvečate?
Leta 2008 sem v okviru ameriškega Fulbrightovega programa poučevala v Sarajevu. Nadaljnja potovanja v regijo in stiki, ki sem jih tam ohranila, so me povezali z enim od raziskovalcev ZRS Koper, ki me je povabil k projektu o človeku v dobi digitalnosti. Iz tega se je razvilo dolgoročnejše skupno delo.
Trenutno sodelujem pri projektu, ki preučuje ekoteologijo na presečišču zelenega in digitalnega prehoda, ter pri projektu, posvečenem delu in misli Nikole Tesle ter njunemu pomenu za sodobnost.
Pred kratkim smo z ZRS Koper oddali tudi prijavo na razpis za projekt, v katerem želimo raziskovati učinke družabništva med človekom in računalnikom.
FOTO: Osebni arhiv
Prispevek je nastal v okviru raziskovalnega programa Konstruktivna teologija v dobi digitalne kulture in antropocena (P6-0434), ki ga na Znanstveno-raziskovalnem središču (ZRS) Koper vodi dr. Nadja Furlan Štante. Raziskovalni program financira Javna agencija za znanstvenoraziskovalno in inovacijsko dejavnost Republike Slovenije (ARIS).
- Vir: Delo
- avtor prispevka: Nataša Čepar, ZRS Koper
- Datum objave: 22. september 2026
- Naziv izdajatelja: Delo mediji d.o.o.