Umetna inteligenca postaja preveč srhljiva

Morda se to zdi le nekomu, ki je gledal preveč znanstvenofantastičnih filmov, vendar ko se srečamo z najnovejšimi razvoji na področju umetne inteligence, ne moremo ostati ravnodušni: umetna inteligenca je napredovala srhljivo daleč.

Pojavlja se kopica moralnih vprašanj, ki jih moramo rešiti, preden nadaljujemo z razvojem, saj se nam neverjetno hitro lahko zgodi tudi kakšen napaček korak in stvaritev napačne oblike umetne inteligence. Eden najbolj znanih znanstvenikov, Stephen Hawking, je za Independent zapisal: “Uspeh pri stvaritvi umetne inteligence bi bil največji dogodek v človeški zgodovini. Na žalost, bi lahko bil tudi zadnji.” Če se vrnemo med filme – Skynet, zloglasna umetna supertinteligenca iz franšize Terminator, ki prevzame nadzor nad svetom, morda ni tako daleč stran.

Umetna inteligenca je v taki ali drugačni obliki globoko zasidrana v našem vsakdanu, ogromno različnih sistemov, ki jih uporabljamo, je osnovanih na umetni inteligenci, poleg tega jo večinoma nosimo tudi v žepih. Pametni telefoni uporabljajo neko obliko inteligence, velika večina pa ima vgrajenega “osebnega digitalnega asistenta”, s katerim se je mogoče pogovarjati oz. vam ta pomaga pri opravilih na vaših napravah. Obseg interakcije z napravo je precejšen, vendar ima mejo, ki pa jo želimo venomer premakniti dlje. 

Google Duplex

Mejo je zadnji premaknil Google s svojim digitalnim pomočnikom Google Assistant, ki je dobil precejšnjo posodobitev. Na začetku meseca je na svoji konferenci Google predstavil izboljšano možnost sestavljanja urnika, ki se imenuje Google Duplex. To sem namenoma zapisal precej bolj dolgočasno, kot je. 

“Naša vizija za Google Asistant je, da vam pomaga opraviti stvari. In velik del tega je klicanje, morda morate priskrbeti menjavo olja, poklicati vodovodarja med tednom ali pa se naročiti k frizerju. Trdo delamo za to, da bi našim uporabnikom olajšali take trenutke,” je na odru povedal Googlov CEO Sundar Pichai in dodal: “Celo v ZDA 60 % manjših podjetij nima urejenega naročanja prek spleta. Mislimo, da lahko pri tem problemu pomaga umetna inteligenca.”

Želijo torej, da bi se uporabniki lažje naročali na take storitve, tudi če to prek spleta ni možno. Duplex omogoča, da asistent namesto uporabnika pokliče in določi termin. Pichai je to “demonstriral” s posnetkom na odru. Digitalna asistentka je poklicala v frizerski salon in se s sogovornico dogovorila za žensko striženje. Vse kar mora pred tem narediti uporabnik je, da naroči asistentu: “Naroči me k frizerju med 10. in 12. uro v sredo.” Umetna inteligenca ta ukaz razbere, najde ključne informacije, poišče frizerski salon in njihovo številko ter pokliče. Pogovor se je zdel naraven, asistentka se je celo odzvala z “mm-hmm”, ko jo je uslužbenka v salonu prosila, da malo počaka. 

Mnenja o tem novem dosežku so deljena. Na eni strani je odobravanje te naslednje stopnje v razvoju digitalnih osebnih pomočnikov, na drugi strani pa so precej močne kritike, saj je tak pogovor lahko zelo zavajajoč. Uslužbenka v salonu po besedah Googla ni vedela, s kom se bo pogovarjala in tako naj bi šlo za popolnoma pristen pogovor. Dejansko so poklicali naravnost v salon in potem urejali podrobnosti. Kaj za človeštvo pomeni svet, v katerem dvigneš telefon in ne veš, s kom govoriš, ne moreš ločiti umetne inteligence od človeka?

Na srečo umetna inteligenca še ni dosegla te stopnje, kjer bi se lahko neopaženo zlila s človeštvom. Tudi Duplex zaenkrat ni popoln, verjetno obstaja veliko smeri v katere bi lahko stekel pogovor, da ga asistentka ne bi razumela dovolj dobro. Vendar ga v tem primeru je in uspešno rezervirala termin pri frizerju za svojega uporabnika. Google je demonstriral še en pogovor, kjer je asistent želel rezervirati mizo v restavraciji in se je pogovor bolj zapletel, vendar se je Duplex uspešno spopadel z bolj kompleksnim pogovorom in na koncu mu je uspelo pridobiti zadovoljive podatke za uporabnika. Zaenkrat ta tehnologija še ni v rokah uporabnikov, tako da rezultatov iz dejanske uporabe nimamo.

Vendar je to že nevarno blizu “nevarni” umetni inteligenci, ki jo vidimo na filmskih platnih. To bi bila popolna umetna inteligenca, ki bi se zavedala sama sebe, se učila, izpopolnjevala in podobno, kar je ravno to, česar se morda lahko bojimo, na kar opozarjajo tudi besede Stephena Hawkinga, ki sem jih omenil v uvodu. “Potencialne prednosti so ogromne: vse, kar ponuja civilizacija je produkt človeške inteligence; ne moremo predvidevati, kaj vse bi prinesla ta inteligenca, ki jo še povečamo z orodji, ki jih ponuja umetna inteligenca, visoko na seznamu pa so konec vseh vojn, bolezni in revščine,” izpostavlja Hawking. Vendar tu opozarja na ogromna tveganja, ki jih to prinaša: “Gledano na kratki rok svetovne velesile razmišljajo o avtonomnih orožjih, ki samodejno prepoznajo in uničijo tarče; Združeni narodi in Humans Rights Watch so sprejeli dogovor o prepovedi takih orožij.” To je le ena izmed uporab, princip pa je podoben kot pri nedolžnem naročanju pri frizerju. Ampak to še ni vse: “Če gledamo dalje naprej, nimamo nobenih omejitev, nobenih zakonov, ki bi omejevali, kaj lahko dosežemo; nobenih zakonov, ki bi prepovedovali organizacijo te tehnologije v strukture, ki bi bile naprednejše od človeškega mišljenja.” Po njegovih besedah se lahko zgodi karkoli, taka tehnologija lahko premaga finančne trge, prehiti zmožnosti človeških raziskovalcev v razvoju in pripravi orožja, ki jih ne znamo niti razumeti. “Na dolgi rok je vpliv umetne inteligence omejen na to, kdo jo nadzoruje, na dolgi rok pa na to, ali jo sploh lahko nadzorujemo.”

Turingov test

Kje je meja med omejeno umetno inteligenco, ki jo uporabljamo sedaj in umetno inteligenco, ki se je potencialno lahko bojimo? Morda ste že slišali za Turingov test, ki je poimenovan po njegovem iznajditelju Alanu Turingu, ki je bil eden izmed očetov moderne računalniške znanosti. Njegov test ocenjuje “avtentičnost” umetne inteligence. Ta test naj bi opravila le tista umetna inteligenca, ki je človek ne bi prepoznal in tako bi bila po Turingovih besedah sposobna mišljenja. Če ocenjevalec v testu ne more določiti ali komunicira z napravo ali človekom, umetna inteligenca opravi test. V določenem časovovnem obdobju mora ocenjevalec komunicirati z umetno inteligenco in z dejanskim človekom ter na koncu prepoznati, kdo je kdo. Test je bil razvit leta 1950 in od takrat  ga dejansko še nobena naprava ni opravila. 

Leta 2014 se je pojavil chatbot (umetna inteligenca, ki se pogovarja z uporabnikom preko besedila, to bi lahko poimenovali klepetalnik) Eugene Goostman, ki je s 33 % uspešnostjo prepričal sogovornike, da je človek. Mediji so to pograbili in ga označili za prvo umetno inteligenco, ki je opravila Turingov test. Izkazalo se je, da temu ni tako, ogromno kritik je letelo na ocenjevanje in različne prijeme, ki jih je ta inteligenca uporabljala, da bi zakrila svoje nerazumevanje pogovora, recimo humor.

Štiri leta kasneje pa je umetna inteligenca uspešno prepričala dva človeka, da je dejanski človeški asistent, ki naroča nekaj za svojega delodajalca. Na žalost ali pa srečo to ni dovolj za uspešno opravljen Turingov test, je pa precej blizu. Če jim tehnologijo uspe izboljšati in omogočiti tudi daljše pogovore, da zadostijo vsem pogojem, je opravljen test popolnoma dosegljiv. 

Človek ali umetna inteligenca

In tu je težava, če gremo malo nazaj in se spomnimo Hawkingovih besed. V žepu imamo napravo, ki hrani inteligenco, ki jo po znanstvenih merilih morda ne bo mogoče razpoznati od človeka, hkrati pa je mogoče, da bo zrasla v nekaj, kar še sami ne bomo znali razumeti? V tej fazi je tehnologija še zelo nadzorovana in nikakor ne more preseči svojih okvirjev, stopa pa že v neko srednje območje, kjer se pravila spreminjajo. Ključno je vprašanje, ki smo se ga že dotaknili. Glede na to, da ne moremo izvesti celotnega Turingovega testa, kako naj vemo, kdo je na drugi strani telefonskega klica? Specialist za umetno inteligenco na univerzi v Canberri, profesor Hussein Abbass je najprej vzpostavil nujnost, na katero opozarjajo mnogi, ki so bili priča predstavitvi Duplexa. Vsak človek ima pravico vedeti s kom se pogovarja in to mora Google zagotoviti: “V videoposnetku, umetna inteligenca Duplex pravi, da kliče v imenu stranke. Človek na drugi strani ni nikoli zahteval, da se sogovornik identificira. Če umetna inteligenca Duplex uporabi človeško ime, da pridobi zaupanje, je tu jasen element zavajanja in tako bi umetna inteligenca delovala neetično,” pravi Abass. Tako se mora umetna inteligenca predstaviti, poleg tega mora biti sogovornik seznanjen s tem, kako bodo uporabljeni podatki, ki jih poda in seveda, kaj se bo dogajalo s posnetkom pogovora. Na podlagi tega se lahko človeški sogovornik odloči ali bo nadaljeval pogovor.

Na koncu dneva smo v bistvu lahko pomirjeni, saj tehnologije, ki bi nas premagala in zavladala zemlji, verjetno še ni na obzorju. Vendar moramo biti previdni, saj ne vemo, kaj točno se razvija, glede na to, da je precej dober primerek umetne inteligence že prišel do uporabnikov. Prof. Abass našteva izjemne možnosti za uporabo take tehnologije: “Asistent v avtomobilu lahko pokliče reševalce v primeru nesreče in takrat je to tehnologija, ki rešuje življenja,” hkrati pa dodaja, da se lahko taka tehnologija zlorabi za neprimerne, celo nezakonite namene. Je pa ta tehnolgija odličen primer, kako moramo imeti nekaj moralnih zadržkov. Pod pritiskom javnosti in stroke je tako Google že napovedal, da se bo pri uporabi Duplex najprej predstavil sogovorniku. Morda je Duplex majhen korak v srhljivo smer, vendar gre tudi za zelo priročno orodje, ki je lahko več kot le zgolj marketinški trik. In to velja za vso umetno inteligenco. Dolgoročno pa moramo biti pazljivi, kaj počnemo in o umetni inteligenci trezno razmišljati, da znanastvenofantastični filmi ne postanejo realnost. Gregor Klančar