NJUJORK – Nekontrolisani razvoj vještačke inteligencije mogao bi da stvori uslove za događaje u kojima bi stradalo i do milijardu ljudi, upozorio je suosnivač „Majkrosofta” Bil Gejts, pozivajući američke vlasti da zakonom utvrde obavezne mjere bezbjednosti i nadzora nad najmoćnijim sistemima vještačke inteligencije.

Gejts je u intervjuu za En-Bi-Si njuz, čiji su djelovi objavljeni uoči emitovanja cijelog razgovora u emisiji „Meet the Press”, ocijenio da više nije dovoljno da tehnološke kompanije same određuju granice razvoja svojih sistema.

„Vještačka inteligencija je svakako dovoljno moćna da pokrene događaje koji bi mogli da dovedu do smrti milijardu ljudi”, rekao je Gejts.

On nije tvrdio da je takav ishod izvjestan, već je upozorenje povezao prije svega sa mogućnošću zloupotrebe sve naprednijih sistema od strane ljudi koji žele da nanesu masovnu štetu.

„Nikada ranije nije postojalo oružje moćno kao kombinacija ljudi sa zlim namjerama i najnovijih alata vještačke inteligencije”, kazao je Gejts.

Suosnivač „Majkrosofta” odbacio je ideju da industrija može sama da reguliše pitanje bezbjednosti i založio se za direktno uključivanje države.

„Niko ne misli da je samoregulacija dovoljna. Potrebno je da se organi za sprovođenje zakona i političari uključe u raspravu o tome kako treba da izgledaju mjere zaštite i nadzora. I to mora da bude obavezno”, naveo je Gejts.

Prema njegovim riječima, nova pravila donijela bi dodatne obaveze kompanijama, ali ne bi morala dramatično da uspore razvoj tehnologije.

Upozorenje iz samog središta industrije

U Sjedinjenim Američkim Državama vodi se sve oštrija rasprava o brzini razvoja najmoćnijih modela vještačke inteligencije i o tome ko bi trebalo da kontroliše njihovu bezbjednost.

Debata je dodatno pojačana poslije ostavke istraživača Džejkoba Koksona, koji je radio na razvoju modela najprije u „OpenAI-ju”, a potom u kompaniji „Antropik”. On je prilikom odlaska iz industrije upozorio da najveće laboratorije „jure pravo ka samounapređujućoj superinteligenciji i kockaju se našim životima”.

Kokson je naveo i da ljudi koji neposredno razvijaju najmoćnije sisteme vještačke inteligencije ozbiljno razmatraju mogućnost da bi budući modeli mogli da postanu prijetnja čovječanstvu.

Poslije tih upozorenja, izvršni direktor „Antropika” Dario Amodei zatražio je da vodeće kompanije prilagode tempo razvoja tako da bezbjednosni mehanizmi mogu da prate rast sposobnosti novih modela. „Antropik” se založio i za veće učešće nezavisnih stručnjaka koji bi imali uvid u procese, sisteme i podatke neophodne za procjenu rizika.

Podršku jačem nezavisnom nadzoru i usporavanju u slučaju pojave ozbiljnih bezbjednosnih problema dali su i drugi istaknuti predstavnici industrije, među kojima su Sem Altman iz „OpenAI-ja” i Ilon Mask.

Vašington podijeljen

Rasprava se u međuvremenu prenijela i u američki Kongres. Republikanska kongresmenka Ana Paulina Luna zatražila je da sistemi vještačke inteligencije koje koriste američke oružane snage imaju mehanizam koji omogućava njihovo trenutno isključivanje u slučaju opasnosti.

Ona je ocijenila da napredna vještačka inteligencija mora da ima ugrađene zaštitne mehanizme, posebno kada je integrisana u odbrambene sisteme.

Predsjednik Predstavničkog doma Majk Džonson, međutim, protivi se ishitrenom uvođenju širokih ograničenja. On upozorava da bi pretjerana regulativa mogla da uspori američke kompanije i ugrozi prednost SAD u tehnološkom nadmetanju sa Kinom.

„Ako Kongres prosto utrči i na hitnoj sjednici pokuša da reguliše vještačku inteligenciju, izgubićemo trku sa Kinom, a to predstavlja prijetnju svakom Amerikancu”, rekao je Džonson.

I izvršni direktor kompanije „Meta” Mark Zakerberg odbacio je potrebu za zajedničkim usporavanjem cijele industrije. Prema njegovom stavu, svaka laboratorija treba sama da zaustavi ili uspori razvoj kada uoči bezbjednosni problem i da nastavi tek kada procijeni da su rizici otklonjeni.

Smit traži mogućnost isključivanja sistema

Predsjednik „Majkrosofta” Bred Smit zauzeo je drugačiju poziciju. Govoreći o bezbjednosti vještačke inteligencije tokom zasjedanja Generalne skupštine UN u Njujorku, on je poručio da kompanije ne bi trebalo da čekaju državu ukoliko znaju da razvijaju tehnologiju koja može predstavljati opasnost.

Smit se založio i za uvođenje mehanizama kojima se napredni sistemi mogu isključiti.

„Ljudi koji stvaraju model treba da imaju mogućnost da ga isključe. Provajderi infrastrukture u oblaku, poput nas, treba da imaju tu mogućnost. I ljudi koji postavljaju kontrole oko agenata vještačke inteligencije treba da mogu da ih isključe”, rekao je Smit.

Na taj način pitanje vještačke inteligencije u SAD sve manje ostaje samo tehnološka tema. Poslije upozorenja ljudi koji neposredno razvijaju najnaprednije sisteme, rasprava se sve više svodi na dva pitanja – koliko daleko industrija smije da ide bez spoljne kontrole i ko će imati ovlašćenje da zaustavi sistem u trenutku kada njegove mogućnosti počnu da prevazilaze postojeće mehanizme nadzora.