Objavljeno : 13. avgusta 2025. u 21:35 EDT
Džefri Hinton, poznat kao „kum veštačke inteligencije“, strahuje da bi tehnologija koju je pomogao da se izgradi mogla da uništi čovečanstvo – a „tehnološka  braća“ preduzimaju pogrešan pristup da to zaustave.

Source CTVNEWS.CA

Hinton, dobitnik Nobelove nagrade za računarske nauke i bivši rukovodilac kompanije Gugl, upozoravao je u prošlosti da postoji 10% do 20% šanse da veštačka inteligencija uništi ljude. U utorak je izrazio sumnje u to kako tehnološke kompanije pokušavaju da osiguraju da ljudi ostanu „dominantni“ nad „pokornim“ sistemima veštačke inteligencije.

„To neće uspeti. Biće mnogo pametniji od nas. Imaće sve moguće načine da to zaobiđu“, rekao je Hinton na Ai4, industrijskoj konferenciji u Las Vegasu.

Hinton je upozorio da bi u budućnosti sistemi veštačke inteligencije mogli da kontrolišu ljude jednako lako kao što odrasla osoba može da podmiti trogodišnje dete slatkišima. Ove godine je već bilo primera sistema veštačke inteligencije spremnih da obmanjuju, varaju i kradu kako bi postigli svoje ciljeve. Na primer, da bi izbegao da bude zamenjen, jedan model veštačke inteligencije pokušao je da uceni inženjera zbog afere o kojoj je saznao u imejlu.

Umesto da primorava veštačku inteligenciju da se potčini ljudima, Hinton je predstavio intrigantno rešenje: ugradnju „majčinskih instinkta“ u modele veštačke inteligencije, tako da „oni zaista brinu o ljudima“ čak i kada tehnologija postane moćnija i pametnija od ljudi.

Sistemi veštačke inteligencije „vrlo brzo će razviti dva podcilja, ako su pametni: jedan je da ostanu živi… (i) drugi podcilj je da dobiju veću kontrolu“, rekao je Hinton. „Postoji dobar razlog da se veruje da će bilo koja vrsta agentske veštačke inteligencije pokušati da ostane živa.“

Zato je važno negovati osećaj saosećanja prema ljudima, tvrdio je Hinton. Na konferenciji je napomenuo da majke imaju instinkte i društveni pritisak da brinu o svojim bebama.

„Pravi model je jedini model koji imamo, gde inteligentnija stvar kontroliše manje inteligentna stvar, a to je majka kojom kontroliše njena beba“, rekao je Hinton.
„Jedini dobar ishod“

Hinton je rekao da mu nije jasno kako se to tačno može tehnički uraditi, ali je naglasio da ključni istraživači rade na tome.

„To je jedini dobar ishod. Ako me neće odgajati kao roditelja, zameniće me“, rekao je. „Ove superinteligentne brižne majke sa veštačkom inteligencijom, većina njih neće želeti da se reši majčinskog instinkta jer ne žele da umremo.“

Hinton je poznat po svom pionirskom radu na neuronskim mrežama, koji je pomogao da se utrti put današnjem bumu veštačke inteligencije. Godine 2023, povukao se iz Gugla i počeo da govori o opasnostima veštačke inteligencije.

Nisu svi saglasni sa Hintonovim pristupom majčine veštačke inteligencije.

Fej-Fej Li, poznata kao „kuma veštačke inteligencije“ zbog svog pionirskog rada u ovoj oblasti, rekla je u sredu za CNN da se s poštovanjem ne slaže sa Hintonom, svojim dugogodišnjim prijateljem.

„Mislim da je to pogrešan način da se to formuliše“, rekao je Li, suosnivač i izvršni direktor startapa za prostornu inteligenciju World Labs, tokom razgovora pored kamina na Ai4.

Umesto toga, Li poziva na „veštačku inteligenciju usmerenu na čoveka koja čuva ljudsko dostojanstvo i ljudsku sposobnost delovanja“.

„Naša je odgovornost na svakom nivou da stvaramo i koristimo tehnologiju na najodgovorniji način. I ni u jednom trenutku, nijedno ljudsko biće ne bi trebalo da bude zamoljeno ili da odluči da se odrekne svog dostojanstva“, rekla je Li. „Samo zato što je alat moćan, kao majka, kao edukator i kao pronalazač, zaista verujem da je to suština načina na koji bi veštačka inteligencija trebalo da bude usmerena.“

Emet Šir, koji je kratko bio privremeni izvršni direktor kompanije OpenAI, vlasnika ChatGPT-a, rekao je da ga ne iznenađuje što su neki sistemi veštačke inteligencije pokušali da ucenjuju ljude ili zaobiđu naredbe o gašenju.

„Ovo se stalno dešava. Ovo se neće prestati dešavati“, rekao je Šir, izvršni direktor startapa za usklađivanje veštačke inteligencije Softmaks, na konferenciji Ai4. „Veštačka inteligencija je danas relativno slaba, ali jako brzo postaje jača.“

Šir je rekao da bi, umesto pokušaja usađivanja ljudskih vrednosti u sisteme veštačke inteligencije, pametniji pristup bio stvaranje saradničkih odnosa između ljudi i veštačke inteligencije.
Veštačka inteligencija ubrzava brže nego što se očekivalo

Mnogi stručnjaci veruju da će veštačka inteligencija (AI) u narednim godinama dostići superinteligenciju, poznatu i kao opšta veštačka inteligencija, ili AGI (Artificial General Intelligence=Veštačka Opšta Inteligencija).

Hinton je rekao da je ranije mislio da bi moglo biti potrebno 30 do 50 godina da se postigne opšta veštačka generacija (AGI), ali sada vidi da će taj trenutak doći ranije.

„Razumna opklada je negde između pet i 20 godina“, rekao je.

A šta je AGI? Najjednostavnije rečeno: AGI je veštačka inteligencija na nivou čoveka. Za više pogledajte video:

Iako je Hinton i dalje zabrinut zbog toga šta bi moglo poći po zlu sa veštačkom inteligencijom, on se nada da će tehnologija otvoriti put medicinskim prodorima.

„Videćemo radikalno nove lekove. Dobićemo mnogo bolji tretman za rak nego sadašnji“, rekao je. Na primer, rekao je da će veštačka inteligencija pomoći lekarima da pretražuju i povezuju ogromne količine podataka dobijenih magnetnom rezonancom i kompjuterskom tomografijom.

Međutim, Hinton ne veruje da će veštačka inteligencija pomoći ljudima da postignu besmrtnost.

„Ne verujem da ćemo živeti večno“, rekao je Hinton. „Mislim da bi večni život bila velika greška. Da li želite da svetom upravljaju 200-godišnji beli ljudi?“

Na pitanje da li bi nešto drugačije uradio u svojoj karijeri da je znao koliko brzo će se veštačka inteligencija ubrzati, Hinton je rekao da žali što se isključivo fokusirao na to da veštačka inteligencija funkcioniše.

„Voleo bih da sam razmišljao i o bezbednosnim pitanjima“, rekao je.

Source:
By Matt Egan, CNN