Može li se AI utrka uopće usporiti
Rasprave o umjetnoj inteligenciji već neko vrijeme idu u dva smjera. Jedni govore kao da će tržište, inovacije i velika tehnološka industrija sve riješiti sama od sebe. Drugi idu u potpuno suprotnu krajnost i svaku napredniju verziju AI sustava gledaju kao početak katastrofe. Meni ni jedan ni drugi pristup nisu posebno korisni. Prvi previše vjeruje industriji, drugi često toliko dramatizira da prestaje biti uvjerljiv.
Zato su mi zanimljiviji tekstovi i inicijative koje pokušavaju otvoriti treći prostor. Ne onaj u kojem se AI proglašava čudom, niti onaj u kojem se sve svodi na strah, nego prostor u kojem se pita vrlo jednostavno pitanje. Možemo li razvoj najmoćnijih AI sustava uopće usmjeravati prije nego što postane prekasno?
U tom kontekstu zanimljiva je stranica AI 2040 i njihov Plan A, dostupna na https://ai-2040.com/. Ne treba se složiti sa svakom pretpostavkom da bi tema bila vrijedna rasprave. Dovoljno je vidjeti osnovnu ideju. Autori polaze od mogućnosti da se razvoj superinteligencije namjerno uspori do 2040. godine, uz više transparentnosti, međunarodni dogovor i bolju kontrolu računalnih resursa potrebnih za treniranje najnaprednijih modela. Oni sami naglašavaju da to nije predviđanje budućnosti, nego prijedlog smjera.
To je važna razlika. Nije riječ o proročanstvu. Riječ je o pokušaju da se zamisli politički i tehnički okvir u kojem se razvoj AI-a ne prepušta samo tržišnom natjecanju i zatvorenim laboratorijima.
Prvo pitanje koje se tu nameće glasi, zašto bi se razvoj uopće usporavao? Ako umjetna inteligencija može pomoći u medicini, znanosti, obrazovanju, programiranju, sigurnosti, administraciji i mnogim drugim područjima, zašto bi netko želio kočiti napredak?
Odgovor nije u tome da je svaki AI sustav opasan. Nije isto koristiti AI za pretraživanje interne dokumentacije, pisanje nacrta teksta, analizu slike, pomoć programeru ili automatizaciju nekog uredskog zadatka. Problem se pojavljuje kod najmoćnijih sustava, posebno ako bi oni mogli ubrzavati vlastiti razvoj, pomagati u automatizaciji istraživanja, otkrivati nove ranjivosti, generirati uvjerljive manipulacije ili utjecati na složene odluke koje današnje institucije teško mogu nadzirati.
Drugim riječima, nije problem u svakoj primjeni AI-a. Problem je u utrci prema sustavima čije sposobnosti mogu rasti brže od naše sposobnosti da ih razumijemo, provjerimo i ograničimo.
Tu dolazimo do same prirode utrke. Nijedna velika kompanija ne želi prva usporiti ako vjeruje da će konkurencija nastaviti dalje. Nijedna država ne želi izgubiti stratešku prednost ako misli da druga država razvija naprednije sustave. Investitori žele povrat. Tržište želi nove proizvode. Korisnici žele sve moćnije alate. Inženjeri žele graditi. Znanstvenici žele istraživati. Sve to zajedno stvara vrlo jak pritisak prema ubrzanju.
U takvom okruženju nije dovoljno očekivati da će svi akteri sami od sebe biti oprezni. Mogu oni imati dobre namjere. Mogu imati kvalitetne sigurnosne timove. Mogu imati interne odbore, evaluacije i procedure. Ali ako je osnovna dinamika utrka, onda oprez vrlo lako postane konkurentski nedostatak.
To je poznat obrazac. Kod tehnologija koje nose veliku moć i veliki rizik, sama dobra volja nije dovoljna. Nuklearna tehnologija, biološka sigurnost, zračni promet, financijski sustav i kritična infrastruktura nisu ostavljeni samo tržištu. Uvijek postoje pravila, nadzor, dozvole, standardi, kontrole i odgovornost. Naravno, ti sustavi nisu savršeni. Često su spori, politički opterećeni i puni kompromisa. Ali ideja da se visokorizična tehnologija može razvijati bez ozbiljnog nadzora jednostavno nije održiva.
Kod AI-a je dodatni problem što se velik dio razvoja događa u privatnim kompanijama. Javnost vidi proizvode, chatbotove, asistente, generatore slika, alate za programiranje i poslovne integracije. Ono što ne vidi jesu interni testovi, sposobnosti najnaprednijih modela, sigurnosne evaluacije, granice koje su možda već dosegnute i rizici koji se možda interno prepoznaju, ali javno ne komuniciraju dovoljno jasno.
Ovdje ne treba upasti u jeftinu kritiku industrije. Nisu svi u tehnološkim kompanijama neodgovorni. Naprotiv, puno ljudi koji rade na AI sustavima vrlo dobro razumije rizike. Često ih razumiju bolje od političara koji ih pokušavaju regulirati. Ali to ne mijenja osnovnu činjenicu. Kompanije imaju poslovne interese. Imaju investitore. Imaju konkurente. Imaju tržišni pritisak. Zato javni interes ne može ovisiti samo o njihovoj internoj procjeni.
Zbog toga je transparentnost jedna od ključnih tema. Ne mislim na potpunu javnu objavu svakog detalja modela, koda, težina, podataka i sigurnosnih procedura. To bi u nekim slučajevima moglo stvoriti nove rizike. Ali mora postojati neka razina provjerljivog uvida. Regulacija koja ne zna što se zaista razvija ne može biti ozbiljna. Država koja nema tehničke kapacitete za razumijevanje modela zapravo ne regulira, nego samo naknadno tumači ono što joj industrija predstavi.
Tu dolazimo do još jedne važne točke, računalnih resursa. U AI raspravi često se govori o modelima, podacima i algoritmima, ali sve više treba govoriti i o infrastrukturi. Najnapredniji modeli ne nastaju na običnom laptopu. Za njih su potrebni specijalizirani čipovi, podatkovni centri, energija, mreže, timovi i ogromni financijski resursi. Tko kontrolira taj sloj, kontrolira velik dio budućeg razvoja.
Zato ideja o nadzoru compute kapaciteta nije neobična. Ako se želi pratiti razvoj najmoćnijih modela, mora se znati gdje se nalaze veliki trening klasteri, tko ih koristi i za koje svrhe. Naravno, to je lakše reći nego provesti. Čipovi se mogu preprodavati. Kapaciteti se mogu iznajmljivati preko posrednika. Države ne vjeruju jedna drugoj. Kompanije ne žele otkrivati strateške planove. A previše jak nadzor može ugušiti legitimno istraživanje i učvrstiti poziciju najvećih igrača.
To je jedan od razloga zašto je AI 2040 zanimljiviji kao misaona vježba nego kao gotov recept. On nas tjera da pitamo konkretne stvari. Ako bismo htjeli usporiti najrizičniji razvoj, kako bismo to uopće proveli? Tko bi nadzirao velike treninge? Kako bi se razlikovalo korisno istraživanje od opasnog skaliranja? Kako bi se spriječili tajni projekti? Kako bi se uključile države koje si međusobno ne vjeruju? Kako bi se izbjeglo da regulacija postane samo alat za zaštitu postojećih tehnoloških monopola?
To su teška pitanja i baš zato su važna.
Meni se čini da je najveća vrijednost ovakvih prijedloga u tome što nas izvlače iz površne rasprave. Nije dovoljno reći “treba regulirati AI”. To svi mogu reći. Teže je reći što se točno regulira. Model? Podaci? Primjena? Infrastruktura? Izvoz čipova? Sigurnosni testovi? Odgovornost dobavljača? Upotreba u javnom sektoru? Automatizacija znanstvenog istraživanja? Sustavi koji mogu samostalno djelovati?
Ako se sve regulira jednako, dobit ćemo birokratski sustav koji guši i korisne primjene. Ako se ništa ozbiljno ne regulira, najrizičniji dio razvoja ostaje izvan kontrole. Razumna politika mora razlikovati razine rizika. AI alat za pomoć u pisanju internih dokumenata nije isto što i sustav koji može autonomno planirati, koristiti alate, pisati kod, tražiti ranjivosti i optimizirati vlastite postupke.
Zbog toga se ne može sve rješavati jednim zakonom, jednim pravilnikom ili jednom konferencijom. Potreban je slojevit pristup. Dio toga je tehničko testiranje modela. Dio je nadzor velikih računalnih resursa. Dio je odgovornost kompanija. Dio je međunarodna diplomacija. Dio je jačanje javnog sektora. Dio je obrazovanje regulatora, sudaca, sigurnosnih tijela i stručnjaka koji će te sustave morati razumjeti.
Posebno je važno da javne institucije ne ostanu potpuno ovisne o objašnjenjima industrije. Ako država nema vlastite ljude koji razumiju AI, podatkovne centre, modele, sigurnost, softversku arhitekturu i ekonomske interese iza svega toga, tada neće moći voditi ozbiljnu politiku. Moći će samo reagirati, i to najčešće kasno.
Ovdje se vidi i širi problem digitalnog društva. Tehnologija se razvija brže od institucija. To nije nova pojava, ali kod AI-a može biti posebno izražena. Institucije raspravljaju, usuglašavaju tekstove, prolaze procedure i traže politički kompromis. Industrija u međuvremenu trenira nove modele, gradi nove proizvode i mijenja očekivanja korisnika. Ako se ta razlika previše poveća, regulacija postaje vječno zakašnjela.
Naravno, ni usporavanje nije bez rizika. Može se dogoditi da stroga pravila ojačaju samo najveće kompanije, jer one jedine imaju novac, pravne timove i infrastrukturu za usklađivanje. Može se dogoditi da manje istraživačke skupine budu istisnute. Može se dogoditi da se razvoj preseli u manje transparentna okruženja. Može se dogoditi da države koriste sigurnosni jezik za geopolitičko nadmetanje. Zato regulacija mora biti pažljiva, a ne samo stroga.
Tu se vraćamo na početak. AI 2040 ne treba čitati kao tekst koji ima sve odgovore. Treba ga čitati kao pokušaj da se ozbiljno razmisli o pitanju koje više nije znanstvena fantastika. Što ako razvoj AI-a nastavi ubrzavati? Što ako modeli postanu sposobni pomagati u vlastitom poboljšanju? Što ako nekoliko organizacija dobije sustave koje većina društva ne razumije, a o kojima sve više ovisi? Što ako čekanje da “vidimo što će se dogoditi” bude najskuplja odluka?
Na takva pitanja nije pametno odgovarati panikom. Panika proizvodi loše zakone, zabrane koje se ne mogu provesti i javnu raspravu u kojoj se više viče nego misli. Ali nije pametno ni podsmjehivati se svakom pokušaju dugoročnog razmišljanja. Povijest tehnologije pokazuje da se neke stvari lakše usmjeravaju prije nego što postanu standard.
Možda se AI utrka ne može potpuno usporiti. Možda se može samo djelomično usmjeriti. Možda će svaki međunarodni dogovor biti nesavršen, spor i pun iznimaka. Ali i nesavršen okvir može biti bolji od potpune improvizacije.
Za mene je najvažnije pitanje tko će imati sposobnost razumjeti i nadzirati najmoćnije AI sustave. Ako to ostane samo u rukama nekoliko kompanija i država, javnost će biti korisnik, ali ne i stvarni sudionik. Ako institucije ne razviju znanje, regulacija će biti formalna. Ako stručna zajednica ne sudjeluje, rasprava će ostati između marketinških obećanja i političkih parola.
Umjetna inteligencija ne mora nužno završiti kao prijetnja. Može biti alat koji pomaže znanosti, zdravstvu, obrazovanju, sigurnosti i produktivnosti. Ali takav razvoj ne dolazi sam od sebe. Potrebni su transparentnost, provjera, stručni nadzor, međunarodni razgovori i spremnost da se najrizičniji dijelovi razvoja ne guraju naprijed samo zato što je tehnički moguće.
Možda je to najtrezveniji zaključak cijele priče. Nije svako usporavanje protiv inovacije. Nekad je upravo usporavanje način da se inovacija ne pretvori u nešto što više nitko ne može kontrolirati.
