Fra Paolo upozorava svijet zbog onog što nosi budućnost: ‘Ovo je najveći rizik’
Upoznajte čovjeka koji, kolokvijalno rečeno, istovremeno poznaje umjetnu inteligenciju i Boga. Franjevački fratar Paolo Benanti ima potporu pape Franje, kao i talijanske premijerke Giorgie Meloni u pozivanju na “humanocentričnu” umjetnu inteligenciju kojoj se ne bi smjelo dopustiti da bjesni.
On naglašava kako bi nas tehnologija mogla promijeniti, pri čemu bi ljudi prepustili moć izbora algoritmu koji nas predobro poznaje. “Neki ljudi tretiraju umjetnu inteligenciju kao idole, kao proročanstva, kao polubogove,” rekao je Benanti za Politico. “Rizik je da oni delegiraju kritičko razmišljanje i moć odlučivanja na te strojeve.”
50-godišnji fratar ostavio je trag u diplomaciji umjetne inteligencije kroz strateške dokumente kao što je ‘Rimski poziv za etiku umjetne inteligencije’, nastojanje Svete Stolice da uspostavi temeljna moralna pravila za tehnologiju u nastajanju.
Intelligenza Artificiale, @paolobenanti: “Il guardrail è il limite oltre il quale la macchina non deve andare per evitare incidenti con l’uomo. Il limite non è una costrizione della libertà. Oggi con l’AI i guardrail etici sono urgenti e importanti”.#InMezzora @RaiTre pic.twitter.com/gcdhGyGknO
— In mezz’ora (@Inmezzorarai) February 11, 2024
Fratar Benanti: Ovo je najveći rizik umjetne inteligencije
Ovaj skup osnovnih načela — transparentnost, uključenost, odgovornost, nepristranost, pouzdanost, sigurnost i privatnost — za dizajn umjetne inteligencije dobio je potporu tehnoloških divova Microsofta i IBM-a, vjerskih vođa diljem svijeta, talijanske vlade i UN-ove Organizacije hrane i agrokulture.
“Najveći rizik je da će umjetna inteligencija donositi ili biti korištena za donošenje odluka o životima ljudi na prikriven, nedemokratski način”, rekao je Benanti. “Zato nam je potreban proces upravljanja koji će usmjeravati inovacije prema napretku.”
Kao glavni arhitekt Rimskog poziva, Benanti je postao poznato ime među tehnološkim velikanima, a predsjednik Microsofta Brad Smith čak ga je ugostio na svom podcastu prošle godine. Ali Benanti je također strateški savjetnik talijanske vlade, a Meloni često spominje “algor-etiku”, frazu koju je on skovao. Benanti je čak bio uz talijansku premijerku na nedavnom sastanku s osnivačem Microsofta Billom Gatesom prošlog mjeseca.
Zabrinut zbog dvije moguće posljedice
Utjecaj teologa na politiku umjetne inteligencije na najvišoj globalnoj – čak i nebeskoj – razini pokazuje kako se Crkva, poput vlada diljem svijeta, bori s tehnologijom. Rasprava oko umjetne inteligencije začinjena je upozorenjima da bi se mogla razviti u oblik razumnog života temeljen na siliciju, koristiti za dizajn novog oružja ili potpuno iskorijeniti čovječanstvo.
Dok generativni AI poput OpenAI-jevog chatbota ChatGPT preuzima svijet, Benanti je uglavnom zabrinut zbog dvije potencijalne posljedice.
Prvo: utjecaj koji bi umjetna inteligencija, osobito kada je kontroliraju veliki tehnološki monopoli, mogla imati na radna mjesta. Ta se tema također našla među talijanskim prioritetima za ovogodišnje predsjedanje G7. Meloni želi dodatno unaprijediti Hirošimski proces G7 o upravljanju umjetnom inteligencijom koji je započeo prošle godine pod vodstvom Japana.
“Ono što sada vidimo nije kanarinac u rudniku ugljena, koliko lešinar koji pokušava pojesti našu strvinu”, rekao je Benanti o ranim učincima umjetne inteligencije na rad. I drugo, Benanti je uznemiren mogućnošću da bi neki ljudi mogli postati previše ovisni o AI sustavima za ključne izbore. Moramo vratiti ljudima sposobnost da odlučuju po svojoj savjesti, rekao je.
Franjevac upozorio na veliku opasnost čak i unutar Crkve: ‘Pazite se ovakvih ljudi’
Kako bi se umjetna inteligencija mogla dobro koristiti
To ne znači da on vjeruje da nema pozitivnih strana tehnologije. Benanti predlaže da bi se, na primjer, generativni AI sustavi mogli uvježbati na golemoj riznici svetih spisa. vjerskih tekstova i slika Crkve kako bi postali pristupačniji.
“Moglo bi se izgraditi sučelje koje ovo vjersko znanje čini dostupnim svim kulturama i društvenim klasama”, rekao je Benanti. „Tekstualna i umjetnička baština Crkve prožeta je kompliciranim simbolima. Umjetna inteligencija bi ih mogla objasniti na jednostavniji način.”
Rođen u Rimu, Benanti još uvijek živi u samostanu u središtu grada i predaje na Papinskom sveučilištu Gregoriana koje podržava Vatikan. Svećenički poziv prvi je put osjetio kao mladi student strojarstva. “Shvatio sam da mi je inženjerstvo samo pomoglo da približim svijet. Nije bilo dovoljno”, rekao je Benanti.
Na kraju je prihvatio i Pravilo svetog Franje kako bi postao fratar, i teološke studije, dok je i dalje ostao zainteresiran za tehnologiju. Nakon što je pročitao rad o kontroverznom caru planiranja New Yorka Robertu Mosesu, shvatio je da su sve tehnologije “strukture moći i vrste reda” kojima je potrebno upravljanje.
To bi ga naposljetku dovelo do razvoja koncepta “algor-etike” — grane etike koja se bori s načinom na koji ljudska načela provode strojevi i koju sada rutinski ponavljaju pisci govora premijerke Meloni.
Papa Franjo najviše strahuje za stare i ranjive
Benantijev utjecaj u Rimu samo je porastao, prije nekoliko tjedana imenovan je predsjednikom posebnog odbora za umjetnu inteligenciju i medije, nakon neceremonijalne smjene njegovih prethodnika, profesora, pravnika i bivšeg ljevičarskog premijera Giuliana Amata.
S druge strane rijeke Tiber u Svetoj Stolici, Benanti je sada glavni vatikanski savjetnik za umjetnu inteligenciju, uloga čija je važnost porasla zajedno sa zabrinutošću pape Franje oko disruptivne tehnologije — koja je prošle godine korištena za stvaranje viralnih lažnih slika Pape kako nosi elegantnu pufer jaknu.
“Papa je uglavnom zabrinut zbog učinka koji umjetna inteligencija može imati na starije osobe i na najranjivije među nama”, rekao je Benanti. “Boji se da bi umjetna inteligencija mogla postati množitelj nepravde i nejednakosti.”
Stvoreno prvo dijete s umjetnom inteligencijom: Komunicira, uči i donosi odluke
Objava Fra Paolo upozorava svijet zbog onog što nosi budućnost: ‘Ovo je najveći rizik’ pojavila se prvi puta na Dnevno.hr.
pročitaj cijeli članak
