Šef Anthropica poziva na usporavanje razvoja AI: „Dodatna godina ili dve mogle bi drastično da smanje rizik“

Razvoj najmoćnijih sistema veštačke inteligencije trebalo bi usporiti kako bi kompanije, istraživači i države dobili više vremena da razumeju i kontrolišu rizike koje donose sve sposobniji AI modeli, upozorio je izvršni direktor kompanije Anthropic Dario Amodei.

Njegovo upozorenje dolazi u trenutku intenzivne trke najvećih tehnoloških kompanija za razvoj nove generacije AI sistema, čije sposobnosti napreduju velikom brzinom.

Amodei ne zagovara potpuno zaustavljanje razvoja veštačke inteligencije. Umesto toga, smatra da bi razvoj najnaprednijih modela trebalo odvijati kontrolisanijim tempom, uz znatno ozbiljnije bezbednosne provere pre nego što sistemi dostignu nove nivoe sposobnosti.

Prema njegovom stavu, čak i dodatna godina ili dve pre nego što AI modeli dostignu kritične nivoe sposobnosti mogle bi biti dragocene ukoliko bi taj period bio iskorišćen za razvoj boljih metoda kontrole i usklađivanja AI sistema sa ljudskim ciljevima.

AI postaje sposoban da učestvuje u razvoju sopstvenih naslednika

Jedan od razloga za zabrinutost jeste napredak AI modela u programiranju, istraživanju i drugim oblastima koje su direktno povezane sa razvojem novih sistema veštačke inteligencije.

Time se otvara mogućnost da AI sve značajnije učestvuje u stvaranju narednih generacija AI modela.

Takav razvoj mogao bi dodatno da ubrza tehnološki napredak, ali istovremeno komplikuje pitanje kontrole: kompanije bi mogle da dobiju sisteme koji napreduju brže nego što ljudi uspevaju da razviju metode za njihovu bezbednu upotrebu.

Amodei zato smatra da se bezbednost ne može rešavati tek nakon što nova generacija modela bude završena i puštena korisnicima.

Anthropic traži nezavisne provere

Među predloženim merama je uključivanje nezavisnih stručnjaka koji bi procenjivali sposobnosti i rizike najnaprednijih AI modela tokom njihovog razvoja.

Ideja je da kompanija koja razvija model ne bude jedina koja odlučuje da li je njen sistem dovoljno bezbedan.

Pored nezavisnog nadzora, Amodei zagovara zajedničke bezbednosne standarde za kompanije koje razvijaju najmoćnije modele, kao i veću međunarodnu koordinaciju.

Problem je, međutim, konkurencija.

Ako samo jedna kompanija odluči da uspori razvoj zbog bezbednosti, konkurenti mogu da iskoriste tu priliku i preuzmu tehnološku prednost. Isto važi i za države, zbog čega je pitanje razvoja AI odavno prestalo da bude isključivo tehnološko i postalo geopolitičko.

Već zabeleženi zabrinjavajući slučajevi

Upozorenja više nisu zasnovana isključivo na hipotetičkim scenarijima.

Anthropic je ranije saopštio da je otkrio i zaustavio pokušaje zloupotrebe svojih AI sistema za aktivnosti koje bi mogle predstavljati ozbiljan bezbednosni rizik.

Istovremeno, sve autonomniji AI agenti otvaraju novo pitanje: šta se događa kada sistem više ne izvršava samo pojedinačne naredbe korisnika, već samostalno planira niz aktivnosti, koristi različite alate i donosi međukorake potrebne za ostvarivanje zadatog cilja?

Upravo je autonomnost jedna od oblasti kojoj kompanije koje razvijaju najnaprednije modele trenutno posvećuju posebnu pažnju.

Koliko je realan najgori scenario?

U delu AI zajednice postoje i mnogo dramatičnije procene prema kojima bi dovoljno napredna i nekontrolisana veštačka inteligencija jednog dana mogla predstavljati egzistencijalni rizik za čovečanstvo.

Takve procene, uključujući pokušaje da se rizik izrazi konkretnim procentima, nisu utvrđene naučne činjenice i predmet su velikih neslaganja među istraživačima.

Jedan deo stručnjaka smatra da je potrebno ozbiljno razmatrati čak i scenarije sa veoma malom verovatnoćom ukoliko bi njihove posledice mogle biti katastrofalne.

Drugi upozoravaju da preveliki fokus na hipotetičke buduće scenarije može skrenuti pažnju sa problema koje AI već danas stvara – od prevara i dezinformacija do sajber napada, diskriminacije i zloupotrebe ličnih podataka.

Paradoks AI industrije

Posebno je zanimljivo što pozivi na oprez sve češće dolaze upravo od ljudi koji predvode kompanije odgovorne za ubrzani razvoj najnaprednijih modela.

Anthropic je jedan od vodećih učesnika globalne AI trke i kompanija koja razvija porodicu modela Claude.

Istovremeno, kompanija bezbednost veštačke inteligencije predstavlja kao jedan od centralnih principa svog razvoja.

Amodeijev predlog zato ne znači odustajanje od razvoja AI, već pokušaj da se promeni logika trenutne trke: umesto pitanja ko će prvi napraviti najmoćniji model, sve važnije postaje pitanje da li će industrija imati dovoljno vremena da razume ono što je napravila pre nego što napravi nešto još sposobnije.

Ukoliko se sadašnji tempo razvoja nastavi, upravo bi odnos između brzine napretka i sposobnosti ljudi da kontrolišu nove sisteme mogao postati jedno od najvažnijih tehnoloških pitanja narednih godina.