Hoćemo li kontrolisati AI ili će ona kontrolisati nas? Vrhunski istraživači odmeravaju
Brzi napredak veštačke inteligencije znači da bismo mogli da dobijemo superinteligenciju u narednih 5 godina, predviđaju stručnjaci.
Generisana korišćenjem veštačke inteligencije, stvaranje ove slike samo označenje/grebotina površine za šta vodeći stručnjaci veruju da će veštačka inteligencija bti sposobna za pet godina. (Lauren Sproule/CBC)
Zamislite ovo: nežno vas probude prijatni tonovi vašeg ličnog asistenta baš kada se bližite kraju svog poslednjeg ciklusa spavanja.
Melodičan glas vas obaveštava o imejlovima koje ste propustili preko noći i kako je na njih odgovoreno u vašem odsustvu. Isti glas vam daje do znanja da se jutros očekuje kiša i preporučuje vam da obučete kaput pre nego što izađete iz kuće. Dok vas automobil vozi u kancelariju, vaš ručni sat najavljuje da je ručak u vašem lokalnom restoranu bifteka unapred poručen za isporuku pošto je nivo vašeg gvožđa u poslednje vreme malo nizak.
Predvideti i zadovoljiti sve vaše potrebe pre nego što ste i sami imali priliku da ih ostvarite jedan je od potencijala napredne veštačke inteligencije. Neki od vodećih kanadskih istraživača veštačke inteligencije veruju da bi to moglo da stvori utopiju za čovečanstvo – ako veštačka inteligencija prvo ne iskoreni našu vrstu.
Iako nije ni nov ni jednostavan, razgovor o AI i o tome kako će ona uticati na način na koji vodimo naše živote može se podeliti na tri dela: da li će se superinteligencija — entitet koji prevazilazi ljudsku inteligenciju — stvoriti, kako bi taj entitet mogao da poboljša ili uništiti život kakav poznajemo i šta sada možemo da uradimo da kontrolišemo ishod. Ali bez obzira na sve, posmatrači na terenu kažu da bi ta tema trebalo da bude među najvišim prioritetima svetskih lidera.
Trka za superinteligencijom
Za prosečnu osobu, veštačka inteligencija u današnjem kontekstu može se okarakterisati postavljanjem pitanja uređaju i čuje odgovor u roku od nekoliko sekundi.
Ili novčanik na vašem mobilnom telefonu koji se otvara pri pogledu na vaše lice.
To su odgovori koji se javljaju nakon ljudskog upita za jedan zadatak, što je uobičajena karakteristika veštačke inteligencije, ili veštačke uske inteligencije (ANI).
Sledeća faza je AGI, ili veštačka opšta inteligencija, koja je još uvek u razvoju, ali bi obezbedila potencijal mašinama da same razmišljaju i donose odluke i stoga budu produktivnije, prema Univerzitetu Vulverhempton u Engleskoj.
ASI, ili superinteligencija, će delovati izvan ljudskog nivoa i samo je pitanje godina daleko, prema mnogima u ovoj oblasti, uključujući britansko-kanadskog kompjuterskog naučnika, Džefrija Hintona, koji je razgovarao sa CBC-om iz svog studija u Torontu gde živi i trenutno služi kao profesor emeritus na Univerzitetu u Torontu.
„Ako želite da znate kako je ne biti vrhunska inteligencija, pitajte kokošku“, rekao je Hinton, često hvaljen kao jedan od kumova veštačke inteligencije.
GLEDAJTE | Da li nas je veštačka inteligencija sve osudila? Računarski naučnik Džefri Hinton, “Godfather of artificial intelligence” odmerava:
“Skoro svi vodeći istraživači veruju da ćemo dobiti superinteligenciju. Učinićemo stvari pametnijima od sebe”, rekao je Hinton. “Mislio sam da će proći 50 do 100 godina. Sada mislim da će proći možda pet do 20 godina pre nego što dobijemo superinteligenciju. Možda i duže, ali dolazi brže nego što sam mislio.”
Džef Klaun, profesor računarskih nauka na Univerzitetu Britanske Kolumbije i kanadskoj katedri za veštačku inteligenciju CIFAR na Institutu Vector, neprofitnoj organizaciji za istraživanje veštačke inteligencije sa sedištem u Torontu, ponavlja Hintonova predviđanja u vezi sa superinteligencijom. “Kum veštačke inteligencije” kaže da je zabrinut zbog “kraja ljudi”
Veštačka inteligencija bi mogla biti izazovnija „Definitivno mislim da postoji šansa, i to netrivijalna šansa, da bi se to moglo pojaviti ove godine“, rekao je on.
„Ušli smo u eru u kojoj je superinteligencija moguća sa svakim mesecom i ta verovatnoća će rasti sa svakim mesecom. Iskorenjivanje bolesti, racionalizacija sistema za navodnjavanje i usavršavanje distribucije hrane samo su neke od tehnika koje superinteligencija može da pruži da bi pomogla ljudima da reše klimatsku krizu i okončaju glad u svetu.
Međutim, stručnjaci upozoravaju da ne treba potcenjivati moć veštačke inteligencije, kako na bolje, tako i na gore.
PREDNOSTI AI
Iako se veruje da je obećanje superinteligencije, osećajne mašine koja priziva slike HAL-a iz 2001: Odiseja u svemiru ili Terminatorov SkiNet, neizbežno, to ne mora da bude smrtna kazna za celo čovečanstvo.
Clune procenjuje da može postojati čak 30 do 35 odsto šanse da sve prođe izuzetno dobro u smislu da ljudi zadrže kontrolu nad superinteligencijama, što znači da bi oblasti poput zdravstvene zaštite i obrazovanja mogle da se poboljšaju izvan naše najluđe mašte. „Voleo bih da imam učitelja sa beskrajnim strpljenjem i koji bi mogao da odgovori na svako pitanje koje imam“, rekao je on. “I u mojim iskustvima na ovoj planeti sa ljudima, to je retko, ako ne i nemoguće, pronaći.”
On takođe kaže da bi nam superinteligencija pomogla da „smrt učinimo opcionom“ naukom o turbo-punjenju i eliminisanjem svega, od slučajne smrti do raka. „Od zore naučne revolucije, ljudska naučna genijalnost je bila u uskom grlu zbog vremena i resursa“, rekao je on. „A ako imate nešto pametnije od nas što možete da napravite trilione kopija u superkompjuteru, onda govorite o stopi naučne inovacije koja je apsolutno katalizovana. Zdravstvena zaštita je bila jedna od industrija za koje se Hinton složio da će najviše zaslužiti od nadogradnje AI.
„Za nekoliko godina moći ćemo da imamo porodične lekare koji su, u stvari, pregledali 100 miliona pacijenata i koji znaju sve testove koji su urađeni na vama i vašim rođacima“, rekao je Hinton za BBC, ističući potencijal veštačke inteligencije za eliminisanje ljudske greške kada je reč o dijagnozi.
Istraživanje iz 2018. koje je naručio Kanadski institut za bezbednost pacijenata pokazalo je da je pogrešna dijagnoza na vrhu liste incidenata u vezi sa bezbednošću pacijenata koje su prijavili Kanađani. „Kombinacija AI sistema i doktora je mnogo bolja od doktora koji se bavi teškim slučajevima“, rekao je Hinton. „A sistem će biti samo bolji.
Britansko-kanadski kompjuterski naučnik Džefri Hinton, koji je poznat kao jedan od „kumova veštačke inteligencije“, veruje da ćemo moći da zadržimo kontrolu nad superinteligencijama, ali kaže da niko ne može tačno da proceni koliko ćemo autonomije zadržati. (Evan Mitsui/CBC)
Rizičan posao superinteligencije
Međutim, ovo sjajno proročanstvo moglo bi postati mnogo mračnije ako ljudi ne uspeju da zadrže kontrolu, iako većina onih koji rade u oblasti veštačke inteligencije shvataju da postoje bezbrojne mogućnosti kada je veštačka inteligencija uključena.
Hinton, koji je prošle godine takođe dobio Nobelovu nagradu za fiziku, dospeo je na naslovne strane tokom praznika nakon što je rekao za Bi-Bi-Si da postoji 10 do 20 odsto šanse da će veštačka inteligencija dovesti do izumiranja ljudi u narednih 30 godina.
“Nikada ranije nismo morali da se bavimo stvarima koje su inteligentnije od nas samih. A koliko primera znate da je inteligentnija stvar kontrolisana od strane manje inteligentne stvari?” pitao je Hinton u emisiji Bi-Bi-Sija Todai.
“Postoje majka i beba. Evolucija je uložila mnogo truda da dozvoli bebi da kontroliše majku, ali to je otprilike jedini primer za koji znam”, rekao je on.
Kada je razgovarao za CBC Nevs, Hinton je proširio svoju analogiju roditelj-dete.
„Ako imate decu, kada su sasvim mala, jednog dana će pokušati da sami vežu pertle.
A ako ste dobar roditelj, dozvolite im da pokušaju i možda im pomognete u tome. Ali morate da odete u prodavnicu i posle nekog vremena samo kažeš,
‘U redu, zaboraviću to danas.’
Tako će biti između nas i superinteligencija“, rekao je on.
„Biće stvari koje radimo, a superinteligenciji će se jednostavno zasititi činjenica da smo tako nesposobni i da će nas samo zameniti.
Pre skoro 10 godina, Elon Musk, osnivač SpaceKs-a i izvršni direktor Tesla Motorsa, rekao je američkom astrofizičaru Nilu deGrasu Tajsonu da veruje da će veštačka inteligencija pripitomiti ljude kao kućne ljubimce.
Hinton tvrdi da ćemo biti držani na isti način na koji držimo tigrove. “Ne vidim zašto ne bi. Ali mi više nećemo kontrolisati stvari”, rekao je on.
Slšajte na original web stranici
| Čega se ovaj dobitnik Nobelove nagrade plaši o budućnosti AI: As It Happens6:47 „Kum veštačke inteligencije“ dobija Nobelovu nagradu za rad na razvoju tehnologije od koje se sada plaši
Džefri Hinton je poslednjih godinu dana proveo alarmirajući tehnologiju kojoj je pomogao da se stvori. Sada je njegov temeljni rad na veštačkoj inteligenciji doneo njemu i njegovom kolegi Džonu Hopfildu Nobelovu nagradu za fiziku. Informatičar Univerziteta u Torontu razgovarao je sa domaćinom As It Happens Nilom Koksalom.
A ako se ljudi ne smatraju dovoljno dostojnim za zabavu, Hinton misli da bismo mogli biti potpuno eliminisani, iako ne veruje da je korisno igrati igru pogađanja o tome kako će čovečanstvo dočekati svoj kraj.
„Ne želim da spekulišem o tome kako bi nas se otarasili. Postoji toliko mnogo načina na koje bi to mogli da urade. Mislim, očigledan način je nešto biološko što na njih ne bi delovalo kao virus, ali ko zna?“
Kako možemo zadržati kontrolu
Iako se predviđanja za obim ove tehnologije i njen vremenski okvir mogu razlikovati, istraživači su skloni da budu ujedinjeni u svom uverenju da je superinteligencija neizbežna.
Pitanje koje ostaje je da li će ljudi moći da zadrže kontrolu.
Za Hintona, odgovor leži u izboru političara koji daju visok prioritet regulisanju veštačke inteligencije.
„Ono što treba da uradimo je da ohrabrimo vlade da primoraju velike kompanije da urade više istraživanja o tome kako da ove stvari budu bezbedne kada ih razviju“, rekao je on. VATCH | Kako vlade mogu regulisati AI:
Međutim, Clune, koji takođe služi kao viši istraživački savetnik za Google DeepMind, kaže da mnogi vodeći igrači veštačke inteligencije imaju ispravne vrednosti i da „pokušavaju da urade ovo kako treba“.
„Ono što me mnogo manje brine od kompanija koje ga razvijaju su druge zemlje koje pokušavaju da sustignu i druge organizacije koje imaju daleko manje skrupula nego što mislim da vodeće laboratorije AI imaju.“
Video Pitanja i odgovori: Poziv na javnu debatu i promišljenu regulaciju sistema veštačke inteligencije Kako se AI može bezbedno razviti?
Trenutno postoji globalni samit koji se bavi ovim Jedno praktično rešenje koje Clune nudi, slično nuklearnoj eri, jeste da pozove sve glavne igrače veštačke inteligencije u redovne razgovore.
On veruje da bi svi koji rade na ovoj tehnologiji trebalo da sarađuju kako bi bili sigurni da je razvijena.
„Ovo je najveće bacanje kockica koje su ljudi napravili u istoriji i čak veće od stvaranja nuklearnog oružja“, rekao je Clune, sugerišući da ako istraživači širom sveta drže jedni druge u toku svog napretka, mogu da uspore ako ima potreba.
“Ulozi su izuzetno visoki. Ako ovo popravimo, dobijamo ogroman preokret. A ako pogrešimo, možda ćemo govoriti o kraju ljudske civilizacije.”
