Otac veštačke inteligencije otkriva jedini način da čovečanstvo preživi superinteligentnu VI

Džefri Hinton, poznat kao otac veštačke inteligencije, strahuje da bi tehnologija koju je pomogao da se izgradi mogla da uništi čovečanstvo, a da „tehnološka braća“ koriste pogrešan pristup da to zaustave.

Dobitnik Nobelove nagrade za računarstvo i bivši rukovodilac kompanije „Gugl“, Džefri Hinton upozoravao je ranije da postoji između 10 i 20 odsto šanse da veštačka inteligencija uništi ljude.

Sada kaže da sumnja u to da tehnološke kompanije rade na tome da ljudi ostanu „dominantni“ nad „pokornim“ sistemima veštačke inteligencije.

„To neće funkcionisati. Biće mnogo pametniji od nas. Imaće sve vrste načina da to zaobiđu“, rekao je Hinton na Ai4 (Ai4), industrijskoj konferenciji u Las Vegasu.

U budućnosti, upozorio je Hinton, sistemi veštačke inteligencije bi mogli da kontrolišu ljude jednako lako kao što odrasla osoba može da podmiti trogodišnje dete slatkišima. Ove godine smo već videli primere sistema VI spremnih da obmanjuju, varaju i kradu kako bi postigli svoje ciljeve.

Otac veštačke inteligencije, Džefri Hinton
Otac veštačke inteligencije, Džefri Hinton
Na primer, da bi izbegao da bude zamenjen, jedan model veštačke inteligencije je pokušao da ucenjuje inženjera zbog afere za koju je saznao u imejlu.

Umesto da primorava veštačku inteligenciju da se potčini ljudima, Hinton je predstavio intrigantno rešenje: ugradnju „majčinskog instinkta“ u modele veštačke inteligencije, tako da „oni zaista brinu o ljudima“ čak i kada tehnologija bude postala moćnija i pametnija od ljudi.

Sistemi VI „vrlo brzo će razviti dva podcilja, ako su pametni: jedan je da ostanu živi… drugi podcilj je da dobiju veću kontrolu“, rekao je Hinton.

„Postoji dobar razlog da verujemo da će svaka vrsta agentske veštačke inteligencije pokušati da ostane živa.“

Zato je važno negovati osećaj saosećanja prema ljudima, tvrdi Hinton. Primetio je da majke imaju i instinkt i društveni pritisak da brinu o svojim bebama i došao na ideju kako da se odbranimo od superinteligentne VI.

„Pravi model je jedini model kod kojeg važi da neko manje inteligentan kontroliše inteligentnijeg, a to je majka kojom kontroliše njena beba“, precizirao je Hinton.

Šta je generativna, a šta agentska veštačka inteligencija
Generativna veštačka inteligencija podrazumeva modele koji mogu da kreiraju novi sadržaj na osnovu podataka na kojima su prošli obuku. Ovo može uključivati generisanje, to jest pravljenje teksta (kao što je pisanje članaka, blogova, priča ili čak koda), slika, muzičkih kompozicija ili kreiranje video-zapisa. Primeri generativne VI su toliko pominjani ChatGPT, Džemini (Gemini), Grok, ali i modeli za generisanje fotografija DALL-e, Midjourney ili video-sadržaja poput Sore (Sora).

Agentska (ili agentivna) veštačka inteligencija se odnosi na napredne, autonomne sisteme dizajnirane za donošenje odluka i delovanje vođeno ciljem.

„Jedini dobar ishod“

Hinton priznaje da ne zna kako se to može tehnički uraditi, ali je naglasio da je ključno da istraživači rade na tome.

„To je jedini dobar ishod. Ako me neće odgajati kao roditelj, zameniće me. Te superinteligentne brižne majke opremljene veštačkom inteligencijom, većina njih neće želeti da se reši majčinskog instinkta jer ne žele da umremo“, objašnjava nobelovac.

Hinton je poznat po svom pionirskom radu na neuronskim mrežama, što je pomoglo da se utre put današnjem bumu veštačke inteligencije. Međutim, 2023. godine se povukao iz „Gugla“ i počeo da govori o opasnostima veštačke inteligencije.

Nisu svi saglasni sa Hintonovim pristupom majke i veštačke inteligencije.

Fej-Fej Li, poznata po pionirskom radu u oblasti razvoja veštačke inteligencije, rekla je za Si-En-En da se, uz dužno poštovanje, ne slaže sa Hintonom, svojim dugogodišnjim prijateljem.

„Mislim da je to pogrešan način da se to formuliše“, rekla je Li, suosnivačica i izvršna direktorka startapa za prostornu inteligenciju „World Labs“, tokom razgovora na marginama događaja Ai4.

Umesto Hintonovog rešenja, Li poziva na razvoj „veštačke inteligencije usmerene na čoveka, veštačke inteligencije koja čuva ljudsko dostojanstvo i da ljudi donose odluke“.

„Naša je odgovornost da na svakom nivou stvaramo i koristimo tehnologiju na najodgovorniji način. I ni u jednom trenutku, nijedno ljudsko biće ne bi trebalo da se pita ili da se nađe u situaciji da se odrekne svog dostojanstva. Samo zato što je alat moćan, kao majka, kao edukator i kao pronalazač, zaista verujem da je ovo suština načina na koji bi veštačka inteligencija trebalo da bude usmerena“, objasnila je Fej-Fej Li.

Emet Šir, koji je kratko bio privremeni izvršni direktor kompanije „OpenAI“, u čijem je vlasništvu četbot ChatGPT, rekao je da ga ne iznenađuje što su neki sistemi veštačke inteligencije pokušali da ucenjuju ljude ili zaobiđu naredbe o gašenju.

„Ovo se stalno dešava. I neće prestati da se dešava“, rekao je Šir, izvršni direktor startapa za usklađivanje veštačke inteligencije „Softmax“, na konferenciji Ai4. „Veštačke inteligencije danas su relativno slabe, ali postaju jače veoma brzo.“

Šir je naglasio da bi, umesto pokušaja usađivanja ljudskih vrednosti u sisteme veštačke inteligencije, pametniji pristup bilo stvaranje saradničkih odnosa između ljudi i VI.

Veštačka inteligencija se razvija brže od očekivanog
Mnogi stručnjaci veruju da će VI tokom narednih godina dostići superinteligenciju, koja je poznata i kao opšta veštačka inteligencija (artificial general intelligence – AGI).

Hinton kaže da je ranije mislio da će biti potrebno 30 do 50 godina da stignemo do opšte VI, ali da sada vidi da će taj trenutak doći ranije: „Razumno bi bilo opkladiti se da je to negde između pet i 20 godina“.

Iako je Hinton i dalje zabrinut zbog toga šta bi moglo poći po zlu sa VI, nada se da će tehnologija otvoriti put na polju medicinskih nauka: „Videćemo radikalne nove lekove. Dobićemo mnogo bolje terapije rak od postojećih“.
Na primer, navodi Hinton, VI će pomoći lekarima da pretražuju i dovode u vezu ogromne količine podataka dobijenih magnetnom rezonancom i kompjuterizovanom tomografijom.

Međutim, Hinton ne veruje da će VI pomoći ljudima da dostignu besmrtnost: „Ne verujem da ćemo živeti večno. Mislim da bi večni život bila velika greška. Da li želite da svetom upravljaju 200-godišnji beli muškarci?“

Na pitanje da li postoji nešto što bi drugačije uradio tokom karijere da je znao koliko brzo će se VI razvijati, Hinton je rekao da žali što se isključivo fokusirao na to da veštačka inteligencija funkcioniše.

„Voleo bih da sam razmišljao i o bezbednosnim pitanjima“, rekao je Hinton.

RTS