Nobelovac Džefri Hinton upozorio američke zakonodavce da možda imaju još oko godinu dana za uvođenje zaštitnih mehanizama prije nego što napredna vještačka inteligencija postane teško kontrolisana.
Čovječanstvo možda ima još svega oko godinu dana da uvede odgovarajuće sigurnosne mehanizme za naprednu vještačku inteligenciju prije nego što postane znatno teže zadržati ljudsku kontrolu nad tom tehnologijom, upozorio je nobelovac i pionir razvoja AI, Džefri Hinton.
Hinton je upozorenje iznio 16. septembra tokom zatvorenog brifinga za članove američkog Senata i Predstavničkog doma, koji je organizovao senator Berni Sanders. Prema izvještaju NBC News-a, Hinton je nakon sastanka rekao da Kongres možda ima „još godinu, ali ne mnogo više od godinu“ za uspostavljanje zaštitnih mehanizama.
On je ukazao na to da su ranije procjene o pojavi takozvane superinteligencije govorile o periodu od nekoliko decenija. Procjene su se vremenom skraćivale, dok danas dio istraživača smatra da bi sistemi sa znatno naprednijim sposobnostima mogli biti razvijeni za svega nekoliko godina.
Posebnu pažnju Hinton je skrenuo na mogućnost takozvanog rekurzivnog samousavršavanja, odnosno situacije u kojoj vještačka inteligencija može učestvovati u stvaranju još naprednijih AI sistema.
„Možda godinu, ali ne mnogo više od godinu“, rekao je Hinton, govoreći o vremenu koje, prema njegovoj procjeni, zakonodavci imaju za uspostavljanje zaštitnih mjera.
Hintonovo upozorenje ne predstavlja naučno utvrđeni rok, već njegovu procjenu rizika i brzine razvoja tehnologije. Sam brifing održan je iza zatvorenih vrata, pa ne postoji javni stenogram niti formalno svjedočenje pred Kongresom, dio detalja prenesen je na osnovu izjava učesnika i izvještaja medija.
Na sastanku su učestvovali stručnjaci za rizike napredne vještačke inteligencije, dok su američki zakonodavci razgovarali o mogućim mjerama za povećanje bezbjednosti i zadržavanje ljudske kontrole nad budućim AI sistemima.
Hinton, profesor emeritus Univerziteta u Torontu, jedan je od najpoznatijih pionira neuronskih mreža i dubokog učenja. Za doprinos razvoju mašinskog učenja dobio je Nobelovu nagradu za fiziku 2024. godine.
Njegovo najnovije upozorenje dolazi u trenutku kada u Vašingtonu raste pritisak da se ubrza rasprava o regulisanju napredne vještačke inteligencije. Istovremeno, među stručnjacima i tehnološkim kompanijama ne postoji jedinstven stav o tome koliko brzo bi najnapredniji sistemi mogli biti razvijeni niti koliki je stvarni rizik od gubitka ljudske kontrole.
Zajednički fokus debate, međutim, sve više je na jednom pitanju, da li će sigurnosni mehanizmi biti razvijeni dovoljno brzo da prate tempo napretka vještačke inteligencije.
Izvor :NBC News
ETOportal / V.M.
