Intervju protojereja Aleksandra R. Jevtića sa prezviterom Oliverom Subotićem za časopis Žički blagovesnik
- Pomaže Bog, oče Olivere! Zahvaljujemo se što ste odvojili vreme da sa Vama uradimo intervju za časopis Žički blagovesnik, na jednu od najizazovnijih savremenih tema. Šta je veštačka inteligencija, od kada počinje da se razvija i kako je taj proces tekao?
Bog pomogao! Ne postoji konsenzus u naučnim i stručnim krugovima oko toga kako možemo definisati veštačku inteligenciju, premda postoji više radnih definicija koje se koriste. Jednu (prema našem skromnom mišljenju, suviše uopštenu) definiciju je ove godine usvojio Evropski Parlament za potrebe zakonodavnog okvira EU. Neki istraživači, pritom, smatraju da je termin „veštačka inteligencija“ pogrešan i da treba koristiti druge, poput mašinskog učenja (što je termin koji se svakako koristi u ovoj oblasti). Postoje i stručnjaci iz ove oblasti koji pribegavaju jednostavnim opisnim određenjima, bez želje da definišu sam termin. Veštačka inteligencija je, dakle, pojava koja se više prepoznaje neko što se precizno definiše.
Jednostavno govoreći, veštačka inteligencija (u daljem tekstu: AI) prevashodno označava upotrebu računarskih tehnologija za oponašanje ljudskih kognitivnih sposobnosti. Cilj je rešavanje određenih praktičnih zadataka za koje je potrebno rezonovanje, koji se kreću od automatskog fokusa na elektronskim foto-aparatima, sistema pretraživanja na internetu i novih modela elektronskih prevodilaca preko složenih ekspertskih sistema primenjenih u privredi, nauci, industriji… sve do najsavremenijih modela odlučivanja koji se koriste kod vremenskih nepogoda i u vojno-bezbednosnom sektoru.
Već sada postoje oblasti ljudske delatnosti u kojima AI odlično oponaša čovekove sposobnosti rezonovanja. Tipičan primer su neki modeli AI koji se koriste u saobraćaju. Postoje oblasti u kojima se čovek odavno ne može takmičiti sa mašinom, koja je postala superiorna, posebno u matematičko-logičkoj oblasti. Tako je u slučaju šaha, recimo, ili složenih analitičkih proračuna. A postoje i oblasti ljudskog rada gde je čovek još uvek nezamenljiv – zanatlijski poslovi su najbolji primer, jer je kod njih pored znanja potrebna i fizička spretnost. Iz istog razloga ni stomatolozi ne treba da brinu da će ih AI u dogledno vreme moći zameniti, budući da je pored znanja za njihov posao potrebna dobra koordinacija oko-ruka.
Sam koncept AI se zasniva na filosofskim postavkama koje možemo pratiti još od antičkih vremena, premda je u užem smislu vezan za srednjovekovno filosofsko nasleđe (pre svega za neke Dekartove i Lajbnicove ideje). U najužem smislu konkretne tehničke primene, proces upotrebe AI, sa povremenim usponima i padovima u razvoju, traje još od vremena neposredno po završetku Drugog svetskog rata. Kao prekretnica u njegovom razvoju obično se uzima 1996. godina, odnosno trenutak kada je računar DeepBlue u dve partije šaha pobedio Garija Kasparova, a već naredne godine je pobedio i u meču. Od tada proces razvoja AI teče prilično brzo, a poseban zamah dobija u poslednjoj deceniji, kada je dostignut visok stepen procesorske moći, prikupljen dovoljan opseg podataka (uz pomoć interneta) potrebnih za „treniranje“ AI sistema i razvijeno više AI modela zasnovanih na takozvanom dubokom učenju (Deep Learning).
- Da li postoje neki zvanični stavovi pravoslavnih Pomesnih Crkava o pitanju veštačke inteligencije? Da li postoje aktuelni radovi pravoslavnih teologa na ovu temu?
Nisam čuo da je do sada neka temeljna i sistematična studija na ovu temu urađena po nalogu Sinoda neke od pomesnih Crkava. Sa druge strane, pojedinačni radovi, kao i zbornici članaka na temu AI iz aspekta pravoslavne teologije, postoje već neko vreme. Tako sam neposredno pre objave ovog intervjua imao prilike da dobijem uvid u jedan takav zbornik pod nazivom Orthodoxy and Artificial Intelligence (u izdanju Hellenic Research Foundation), koji je pre četiri godine priredio profesor Aleksandar Petrović. U novembru mesecu, Zadužbina „Petar Mandić“, čiji sam osnivač, je delegirala profesora Petrovića da održi predavanje na temu AI u Matici srpskoj. To izrazito kritički intonirano predavanje je donelo radikalno nov filosofski pristup ovoj oblasti i tehnologiji uopšte, i verujem da će pokrenuti širu raspravu.
Pokušao sam i da lično, kao sveštenik Srpske Pravoslavne Crkve sa informatičkim predznanjem, pružim doprinos na polju proučavanja ove važne problematike tako što sam ove godine objavio knjigu Digitalni Rubikon, koja na jezgrovit način obrađuje temu AI iz tehničkog, pravnog, bezbednosnog, etičkog i, naravno, bogoslovskog aspekta. Ta knjiga je, međutim, samo skroman uvod u problematiku AI i više je podsticaj da se ovom temom u okviru naše pomesne Crkve pozabavimo zajedničkim snagama. Inicijativu u tom pogledu očekujem pre svega od Centra za proučavanje i upotrebu savremenih tehnologija SPC, koji je po prirodi stvari stručno telo koje treba da pokreće kritički diskurs na ova pitanja. Nadam se da ta inicijativa neće izostati, budući da je Centar ne tako davno redovno pokretao javni diskurs na raznorazne tehnološke teme u našem društvu.
- Promoteri veštačke inteligencije ističu prednosti koje ona donosi na polju dijagnostike i razvoja novih lekova za razne bolesti. Institut za psihijatriju u Beogradu je u saradnji sa Elektrotehničkim fakultetom pokrenuo projekat za istraživanje problema šizofrenije. Uz pomoć određenih programa i veštačke inteligencije vrše se istraživanja motorike koja omogućavaju zaključke o toku ove bolesti. Zanimljivo je da se ova bolest javlja tek kada se beleže najviši civilizacijski dometi čoveka kao zrelog homosapijensa, rečnikom nauke. Šta nam to poručuje, kako pronaći granice između opasnosti i dobrobiti koje nauka donosi čovečanstvu?
Medicina je jedna od oblasti u kojoj se jasno vide dobrobiti kontrolisanog korišćenja tehnologije AI. To je pogotovo slučaj u domenu rane dijagnostike teških ili retkih bolesti. Naime, AI modeli znatno preciznije od čoveka mogu da primete neke rane pokazatelje, koji, ukoliko se na vreme uoče, mogu sačuvati život pacijenta jer pravovremeno skreću pažnju lekaru. Ovde je, dakle, jako važno naglasiti da su ovi sistemi samo podrška lekaru, a ne zamena za njega. Postoji i prostor za unapređenje procesa razvoja novih lekova, no smatram da su na tom polju stvari još uvek nedovoljno ispitane i nepouzdane, za razliku od dijagnostičkog softvera, koji je pouzdan jer ima pomoćnu funkciju i lekar je taj koji donosi odluku, sistem samo sugeriše.
Sa druge strane, stvari se u domenu AI i značajno komplikuju u naše vreme, s obzirom da ona od sektorskog, uskog rešenja (bilo da je ono medicinsko, tehničko, uslužno, administrativno…) sve više gravitira ka opštem, generalnom (takozvana AGI) rešenju, koje bi prema nekim projekcijama moglo da se dostigne u narednih deceniju-dve. Smatra se da bi AGI stepen bio ravan čoveku u domenu onog dela inteligencije koji mašina može oponašati, te da bi tada AI faktički preuzela glavne tokove funkcionisanja društva. To bi bio ozbiljan problem, budući da se u tom slučaju na mašinu prebacuje ogroman broj ingerencija, a čovek gubi kontrolu, što otvara pitanja opšte bezbednosti i sigurnosti.
Zato je već danas važno povući jasne granice o kojima Vi govorite. One se povlače pre svega etičkim načelima i pravno-tehničkim mehanizmima, kojih za sada još uvek nema u dovoljnoj meri. Decenije koje su za nama su pokazale da pravo kao oblast značajno kaska za tehnologijom, te da dobra pravno-tehnička rešenja dolaze i sa više godina zakašnjenja, što je za polje AI nedozvoljeno dug period. Istovremeno, jako je važno imati precizno definisane etičke smernice koje bi postavile budući okvir dozvoljenog i nedozvoljenog u domenu AI. Na tom polju već danas postoje gotovo nerešive etičke dileme i pitanje je da li će uopšte biti razrešene.
Mislim da je reč „neizvesnost“ ključna kada je dalji razvoj AI u pitanju, zbog čega sam moju knjigu i nazvao Digitalni Rubikon. Definitivno smo prešli granicu posle koje pouzdano ne znamo šta nas čeka: opštedruštveni boljitak ili katastrofa svetskih razmera. Ovih dana, dok radim prevod svoje knjige na engleski jezik, uočio sam da se sintagma Digitalni Rubikon koristi kod više desetina zapadnih autora već pune dve decenije, ali da je gotovo svako koristi na neki različit način. Mislim da je njeno korišćenje najadekvatnije upravo u domenu AI i trenutku u kome se nalazimo sada, koji je obeležen pojavom javno dostupnih AI modela koji prave pometnju u globalnim razmerama. Takozvani Deep Fake sadržaji (lažne fotografije, zvučni i video sadržaji sa likovima poznatih ličnosti) su dovoljan primer realnosti koja šokira svet sa neočekivanim sadržajem i tipičan je primer sui generis obmane digitalnog doba.
Dakle, dobrobiti upotrebe AI na nekim poljima su sasvim vidljive i jasne, no opasnosti su još veće. Zato je važno što pre formirati adekvatan odgovor. To je razlog zbog čega neki svetski stručnjaci već sada pozivaju na vremenski ograničen moratorijum na razvoj novih AI modela, dok se ne postave jasni sigurnosni mehanizmi. A ima i onih koji traže neuporedivo radikalnije mere. Ukoliko ljudi poput Maksa Tegmarka i Džefrija Hintona kažu da je stanje alarmantno i da je potrebna ozbiljna akcija u regulaciji AI, onda to pitanje treba svi da shvatimo ozbiljno i da se uključimo u njegovo rešavanje.
- U umetnosti koja je upućena na savremene digitalne tehnologije se postavlja pitanje „digitalnog zadovoljstva“. Naime, primećeno je da razvoj tehnologija utiče na smanjenje realnih ljudskih kontakata, čime dolazi do različitih vidova nezadovoljstva i psihičkih problema. Da li nam preti negacija čoveka kao složenog psihofizičkog bića, koje nije samo biće razuma?
Te vrste izazova nam prete decenijama unazad, a najdirektnije od pre dve decenije, kada su dijagnostikovani prvi slučajevi zavisnosti od digitalnog sadržaja. O tome sam detaljno pisao u svojoj knjizi Digitalni izazov, čije je treće izdanje takođe izašlo ove godine, uporedo sa Digitalnim Rubikonom. AI će takve stvari samo još dodatno pojačati i, sasvim nesumnjivo, dovesti do novih psiholoških poremećaja kod onih ljudi koji ne budu imali kritičku distancu. Ukoliko se ograničimo samo na pravoslavne hrišćane, mislim da je predostrožnost u doslednom držanju filokalijskog bogoslovskog okvira koji je zasnovan na podvižničkom etosu u praksi hrišćanskog života. Razni „ružičasti“ teologumeni koji negiraju potrebu podviga će upravo na polju odnosa čoveka prema AI pokazati koliko su površni i neće imati nikakvo rešenje za problem masovnih psiholoških poremećaja.
Mi već sada imamo veliki broj slučajeva širom sveta da se ljudi vezuju za mašinu kao za živo biće, i to pod uticajem novih AI modela koji oponašaju čoveka. Jedan od poznatih slučajeva jeste emotivno vezivanje za računarske aplikacije tipa Replika, no možda je najupečatljiviji nedavni primer Japanca koji se oženio lutkom-hologramom, zasnovanom na AI, što je prikazano u dokumentarnom filmu Raj ili robokalipsa: kletva i blagoslov veštačke inteligencije. Kada vidite način na koji taj usamljeni čovek pristupa jednoj tipičnoj digitalnoj opseni, shvatite da jedan broj ljudi jednostavno nema odbrambeni mehanizam koji ih brani od usamljenosti u svetu lišenom molitvenog iskustva i dodira sa Bogom. Pojave vezivanje za digitalne fantome i senke će se vremenom samo usložnjavati kako se budu pojavljivali sve jači AI modeli. Mislim da će poseban izazov na tom polju biti u narednim decenijama, kada se pojave čovekoliki roboti sa visokim stepenom „gracioznosti“. Nedavno je moj dragi prijatelj Stanko Stojiljković, dugogodišnji urednik Galaksije, u predavanju u Matici srpskoj naveo da nije daleko dan kada će mnoge ljude kući dočekivati robotica (umesto domaćice – prim.). Jedno takvo distopijsko i zastrašujuće viđenje smo nedavno imali priloge da gledamo u filmu Ex Machina.
AI će pokušati da osvoji unutrašnje prostore svih nas, pa tako i pravoslavnih hrišćana. Sa druge strane, „odbrambena taktika“ postoji i tiče se zdrave, molitveno ojačane umne sfere, što je glavni „bedem“ od digitalnih izazova koji nasrću na savremenog čoveka, želeći da ga porobe iznutra. Lično smatram da je primenjeno isihastičko bogoslovlje, sa svojim bogatim iskustvom koje se tiče umnog delanja, sasvim adekvatno da odgovori na svaki digitalni izazov, pa tako i na AI.
- Od naučnika koji govore o veštačkoj inteligenciji često se čuju izrazi kako programi uspevaju da „reprodukuju“, „generišu“, „nauče pravičnosti“. Sve ovo zvuči kao neka unifikacija iskustava, gde je malo mesta za jedinstvenost čoveka kojom ga je Bog darivao. Da li će ovo biti još jedan korak bliže „kristalnom dvorcu“ ili „ljudskom mravinjaku“ kao modernom robovlasničkom poretku o kome je Dostojevski proročki govorio kao o logičnom kraju zapadne civilizacije?
Neko je lepo primetio da AI može besprekorno da nauči sintaksu, ali da nije sposobna da razume semantiku. Činjenica da AI ne razume ljudski humor, recimo, osim ukoliko treba da ga reprodukuje, sasvim je dovoljna u tom pogledu. Naime, ono što nazivamo emocionalnom inteligencijom je AI modelima nedostupno jer se ne može oponašati na način na koji oni oponašaju mrežu neurona u mozgu odnosno sinapse kojima su povezani. Mašina će, dakle, razumske funkcije donekle uspeti da oponaša, ali će joj domen uma i srca zauvek ostati nedostupan.
No premda AI modeli nikada neće moći da „shvate“ istinu, pravdu, ljubav… , ljudi koji ih razvijaju će nesumnjivo pokušati i to da simuliraju. U kojoj meri će ta simulacija uspeti da prevari čoveka-korisnika, ostaje da vidimo. U tom domenu, međutim, imamo neke tipično etičke dileme. Naime, jedan broj svetskih stručnjaka već sada apeluje da se AI modelima postavi ograničenje, u smislu da ona ne sme biti usavršena do nivoa da obmane čoveka u pogledu toga da je živo biće koje ima osećanja. Drugim rečima, AI mora sama dati do znanja da je mašina jer bi u suprotnom stepen manipulacije nad psihički labilnim ljudima bio ogroman. Inače, odavno je prisutan stav među kritički nastrojenim istraživačima da se AI nipošto ne sme dati mogućnost da upozna čoveka i njegove psihofizičke slabosti, te da joj se tokom „treninga“ (procesa u kome AI model „uči“) ne smeju dati podaci iz oblasti kognitivne psihologije. Nažalost, ti isti istraživači primećuju da je AI to odavno dobila i proučila.
Da bi Vaši čitaoci razumeli širinu izazova koji je pred nama, predlažem da pogledaju film Ona (Her) koji je nastao pre tačno jedne decenije i gotovo hirurški precizno iscrtao stepen razvoja AI do naših dana, dajući jasno upozorenje u kom smeru može da krene cela ova avantura. U tom smislu, opet bih ponovio da nam veća opasnost od AI preti na polju okupacije unutrašnjih čovekovih prostora (tj. čovekovog vezivanja za mašinu) nego od spoljašnjeg osvajanja ljudskog društva u maniru filma Terminator. Ovim ne sporim apokaliptične scenarije niti ih potcenjujem, pogotovo uzevši u obzir tehnologiju dronova koja u ukrajinskom ratu pokazuju naličje AI vezano za vojnu primenu. No uveren sam da će glavno „poprište“ borbe čoveka i mašine biti čovekov unutrašnji, a ne spoljašnji svet, i da na tu temu treba staviti apsolutni akcenat.
- Sve je aktuelnija i tema transhumanizma. Možete li nam reći kako veštačka inteligencija utiče na ljudsku? Da li će mašine prestići čoveka u budućnosti ili će čovek postati sličan mašini? Jeste li optimista ili pesimista po pitanju razvoja i primene veštačke inteligencije u budućnosti?
Transhumanizam je, možemo to slobodno reći, jedan od glavnih izazova na polju AI, vezan za blisku budućnost. Ideje stvaranja super-čoveka uz pomoć spoja sa mašinom aktuelnije su više nego ikad upravo pod uticajem AI. San svih transhumanista (koji su zapravo ateisti-racionalisti-radikalni evolucionisti) jeste da se biološka ograničenja čoveka prevaziđu uz pomoć digitalnih i nano-tehnologija. AI je te snove samo dodatno razbuktala, premda se neki poznati transhumanisti pribojavaju kuda bi sve to moglo da ode, budući da i sami shvataju da se stvari u tom pogledu teško mogu držati pod kontrolom.
Sa druge strane, preti nam jedna paradoksalna opasnost, a to je da AI neće učini čoveka pametnijim već glupljim, budući da će sve više ljudi prestati da koristi svoje kognitivne potencijale i prebacivati svoje ingerencije na mašinu. A svaki organ koji se ne koristi – u ovom slučaju mozak – svakako atrofira. Uostalom, pitajte nastavnike u osnovnim školama kakav je stepen pažnje (koja je, podsetimo, jedan od važnih atributa inteligencije) novih generacija u odnosu na prethodne i sve će vam biti jasno kao dan. Digitalne tehnologije su značajno oslabile analitičko-kritički kapacitet novih generacija, i već sada nam je potrebna strategija izlaza. AI će problem samo uvećati, pogotovo na terenu domaćih zadataka, gde se već koristi za pomoć u pisanju eseja.
Na Vaše pitanje „Da li će mašine prestići čoveka u budućnosti ili će čovek postati sličan mašini?“ sa moje strane dolazi podpitanje: „U čemu konkretno?“. Ako se misli na tipično matematičko-logičke funkcije, njih je mašina već prestigla, a u budućnosti će se taj trend samo nastaviti – ako je Kasparov i imao pola-pola šanse protiv Deep Blue, u odnosu na nove šahovske sistema zasnovane na dubokom učenju šahovski šampioni imaju otprilike 1% šanse.
A kada je reč o drugom delu Vašeg pitanja, primetimo da savremeni čovek odavno pokazuje neke sličnosti sa mašinom – postao je hladniji, proračunatiji, distanciraniji. Setimo se da je još pre više decenija Starac Pajsije Svetogorac primećivao takav trend i objašnjavao to time što je oko nas sve više metala, zbog čega su nam srca vremenom postala metalna. U tom smislu, pandigitalizacija će nesumnjivo dovesti do novih vidova otuđenja, od kojih su neki već dijagnostikovani, o čemu sam detaljno pisao u Digitalnom izazovu.
Najveća pretnja čoveku jeste da dobrovoljno poželi fuziju sa mašinom, sa željom da postane svojevrsni hibrid radi prevazilaženja svojih ograničenja. Još 2005. godine sam pisao o tome u tekstu „Promašaj eshatologije modernizma“, ukazujući na to da tadašnje izjave svetskih futurologa o prevazilaženju smrti uz pomoć smeštanja sadržaja ljudskog mozga u memoriju računara predstavljaju ništa drugo do produžetak promašaja Dekartove misli (koja je čovekovu dušu smeštala u mozak) sa neohilijastičkim dodatkom. Ovakve i slične ideje će se tek pojavljivati i biće izazov za pravoslavne bogoslove 21. veka – ukoliko smo u prethodnim vekovima dali odgovor na trijadološka, hristološka i eklisiološka pitanja, naše vreme donosi izazove na polju antropologije. Za nova bioetička pitanja moramo biti spremni, jer će se ona pojaviti brže nego što pretpostavljamo.
Premda imam izrazito kritički intoniran stav – koji ne znači odbacivanje tehnologije, već njeno preispitivanje u svetlu kritičko-konceptualnog razmatranja – nisam pesimista, već realista kada je oblast AI u pitanju, a i jedan sam od onih ljudi koji su, u meri svojih mogućnosti, aktivni u potrazi za adekvatnim rešenjem. Optimista sam u pogledu mogućnosti nalaženja rešenja, iz jednostavnog razloga: hrišćanin sam, a hrišćani su svesni delovanja nestvorenih energija Božijih u ovom svetu. Da nije Promisla Božijeg koji sve održava, ovaj svet bi odavno nestao. Zar o tome dovoljno ne govori činjenica da decenijama unazad postoji na hiljade nuklearnih projektila sa potencijalom da „preoru“ celu planetu nekoliko puta, a da smo još uvek tu gde jesmo? To, naravno, ne isključuje mogućnost nekog nuklearnog rata u budućnosti, no činjenica da do njega već nije došlo je pravo pravcato čudo, s obzirom na napetu geopolitičku situaciju od Drugog svetskog rata do danas. Tako je i sa AI: neizvesnost u pogledu te oblasti je ogromna, opasnosti i zloupotrebe su evidentne, ali sam duboko ubeđen da će nam Bog pomoći u pokušaju da zadržimo kontrolu. Ipak, samo pod jednim uslovom: ako to budemo i sami želeli i ako se za to budemo borili.
Bog će pomoći – ako bude imao kome. I zato je važno da se svi aktivno uključimo u razmatranje izazova AI i damo svoj doprinos, da bi uz Božiju pomoć ovu sferu stavili pod kontrolu i usmerili je na pravi način.
Razgovor vodio: protojerej Aleksandar R. Jevtić
Izvor: Žički blagovesnik
