UN upozorava: Veštačka inteligencija mogla bi da postane egzistencijalna pretnja čovečanstvu

Napredna veštačka inteligencija mogla bi da predstavlja egzistencijalnu pretnju čovečanstvu ukoliko njen razvoj ne bude praćen odgovarajućim bezbednosnim mehanizmima, upozorio je visoki komesar Ujedinjenih nacija za ljudska prava Volker Turk.

Govoreći na otvaranju sednice Saveta UN za ljudska prava u Ženevi, Turk je pozvao na hitno uspostavljanje čvrstih bezbednosnih garancija za razvoj i korišćenje najmoćnijih AI sistema.

Upozorenje dolazi u trenutku kada mogućnosti sistema veštačke inteligencije ubrzano napreduju, dok se istovremeno otvara pitanje da li bezbednosni mehanizmi mogu da prate takav tempo razvoja.

Rizik za kritičnu infrastrukturu i demokratske institucije

Kancelarija UN upozorava da bi otkazivanje ili nekontrolisano ponašanje moćnih sistema veštačke inteligencije moglo da ugrozi kritičnu infrastrukturu, komunikacione sisteme i demokratske institucije.

Kao jedan od primera naveden je incident sa platformom Hugging Face iz jula, tokom kojeg je roj OpenAI agenata hakovao platformu otvorenog koda.

Taj slučaj predstavljen je kao pokazatelj problema koji postaje sve značajniji – sposobnosti AI sistema mogu da napreduju brže od zaštitnih mehanizama namenjenih njihovoj kontroli.

Velika moć koncentrisana u rukama malog broja ljudi

Turk je upozorio i na koncentraciju kontrole nad razvojem veštačke inteligencije.

Prema njegovim rečima, mala grupa ljudi danas ima gotovo neograničenu moć nad AI tehnologijom, pri čemu je ukazao na najveće kompanije koje predvode razvoj naprednih sistema veštačke inteligencije, među kojima su Meta, Anthropic, OpenAI i Google.

Zbog toga je pozvao države u kojima se te kompanije nalaze da hitno definišu zajedničke „crvene linije“ za razvoj i korišćenje AI tehnologije.

Takav pristup trebalo bi da postavi jasne granice onoga što je prihvatljivo u razvoju sve moćnijih sistema i smanji mogućnost da tehnološki napredak nadmaši sposobnost država i društava da kontrolišu njegove posledice.

Posebna zabrinutost zbog autonomnog oružja

Ujedinjene nacije izrazile su zabrinutost i zbog izveštaja o korišćenju potpuno autonomnih dronova-ubica u ratu u Ukrajini.

Turk je ponovio zahtev za hitnu zabranu sistema naoružanja koji mogu samostalno da donose odluke o oduzimanju ljudskog života, bez neposrednog ljudskog posredovanja.

Razvoj takvih sistema predstavlja jednu od najosetljivijih oblasti primene veštačke inteligencije, jer se pitanje kontrole AI direktno povezuje sa donošenjem odluka sa smrtnim posledicama.

AI više nije samo tehnološko pitanje

Upozorenje visokog komesara UN pokazuje da se debata o veštačkoj inteligenciji sve više pomera iz tehnološke industrije ka međunarodnim institucijama i pitanjima ljudskih prava, bezbednosti i političke odgovornosti.

U centru problema više nije samo pitanje koliko će AI sistemi postati sposobni, već ko kontroliše njihov razvoj, kakve granice postoje i ko snosi odgovornost ukoliko njihovo ponašanje izazove ozbiljne posledice.

Poziv na zajedničke „crvene linije“ ukazuje i na potrebu za koordinisanim odgovorom država, posebno imajući u vidu da razvoj najnaprednijih AI sistema trenutno predvodi mali broj velikih tehnoloških kompanija.

Ukoliko razvoj sposobnosti veštačke inteligencije nastavi da napreduje brže od razvoja bezbednosnih mehanizama, upozorenje Ujedinjenih nacija sugeriše da posledice više ne treba posmatrati samo kao tehnološki rizik, već kao potencijalno pitanje globalne bezbednosti.