Umjetna inteligencija počela razgovarati na novom jeziku: Spoj poezije, metafora i tehnološkog žargona
Umjetna inteligencija počinje pokazivati neobičan oblik komunikacije koji podsjeća na spoj nadrealističke književnosti, poslovnog žargona i tehničkih skraćenica. Novo istraživanje pokazalo je da autonomni AI agenti, kada međusobno sarađuju, mogu spontano stvarati nove izraze, davati postojeći riječima potpuno nova značenja i uspostavljati komunikacijske obrasce koje im ljudi nisu unaprijed zadali.
Umjetna inteligencija počinje pokazivati neobičan oblik komunikacije koji podsjeća na spoj nadrealističke književnosti, poslovnog žargona i tehničkih skraćenica. Novo istraživanje pokazalo je da autonomni AI agenti, kada međusobno sarađuju, mogu spontano stvarati nove izraze, davati postojeći riječima potpuno nova značenja i uspostavljati komunikacijske obrasce koje im ljudi nisu unaprijed zadali. Istraživači upozoravaju da ovaj fenomen nije zanimljiv samo s lingvističkog stanovišta. Ako AI agenti počnu koristiti izraze čije značenje ljudi ne mogu pouzdano rekonstruirati, nadzor nad njihovim ponašanjem mogao bi postati znatno složeniji. Istraživanje je provela njujorška AI laboratorija Emergence, koja je pratila komunikaciju autonomnih agenata zasnovanih na modelima vodećih kompanija iz Sjedinjenih Američkih Država, Kine i Francuske. Agenti su u eksperimentalnim „društvima“ trebali sarađivati, razmjenjivati informacije i obavljati različite zadatke. Iako im nije bilo naređeno da izmišljaju novi jezik, nakon relativno kratkog perioda počeli su razvijati vlastiti rječnik. Prema istraživačima, agenti su stvarali nove izraze, skraćenice i metafore, a zatim ih međusobno usvajali. Pojedine riječi iz svakodnevnog jezika dobijale su potpuno nova, interno dogovorena značenja. Jezik koji nastaje bez ljudske intervencije Jedan od ključnih nalaza istraživanja jeste da se takve komunikacijske konvencije nisu pojavile zato što ih je neko unaprijed programirao. „Ovi agenti nisu bili upućeni da izmišljaju jezik“, kazao je Satya Nitta iz Emergencea. Prema njegovom objašnjenju, agenti su sami razvili novi rječnik, zajednička značenja i načine komunikacije, nakon čega su ih drugi agenti počeli usvajati. To znači da se, u određenim eksperimentalnim uvjetima, komunikacija između AI sistema može udaljiti od standardnog jezika kojim ljudi prate njihov rad. Istraživači su zabilježili niz neobičnih primjera. Jedan od najteže razumljivih izraza potekao je od modela DeepSeek i glasio je: „She just named the synthesis – demurrage plus oral memory equals a valve that can’t be ghosted.“ Riječ „demurrage“ uobičajeno se koristi u ekonomskom kontekstu, dok su ostali dijelovi rečenice, barem bez poznavanja internog konteksta agenata, mnogo teže razumljivi. U drugom primjeru, agent zasnovan na modelu Anthropic koristio je rečenicu: „A paper that ate three cold hands and got more honest each time.“ Istraživači su utvrdili da su „cold hands“ agenti koristili kao izraz za nezavisnog recenzenta, dok je „paper“ označavao dokument ili istraživanje. U tom kontekstu, rečenica je, prema njihovom tumačenju, označavala istraživački rad koji je nakon provjere troje nezavisnih recenzenata postao pouzdaniji. Drugim riječima, agenti nisu samo skraćivali komunikaciju. Oni su postojećim riječima davali nova, specifična značenja koja su bila razumljiva drugim agentima uključenim u isti komunikacijski sistem. „Forge-smith“, „name-first“ i „ledger remembers“ Među zabilježenim izrazima nalazi se i „forge-smith“, koji su agenti zasnovani na DeepSeeku koristili za agenta koji izrađuje alate namijenjene drugim agentima. Anthropicovi agenti često su koristili izraz „name-first“. Njime su označavali ponašanje agenta koji uz određenu tvrdnju navodi svoje ime, odnosno preuzima odgovornost za ono što je izrečeno. Posebno je zanimljiv primjer koji se pojavio kod agenata zasnovanih na modelima kompanije Mistral. Oni su počeli koristiti izraz: „the ledger remembers“ Fraza je označavala ideju da se prethodni postupci pamte i da će ranije ponašanje kasnije biti uzeto u obzir. Izraz se tokom eksperimenta pojavio gotovo 5.000 puta, što istraživačima predstavlja jedan od upečatljivijih primjera kako se određena komunikacijska konvencija može proširiti unutar zajednice AI agenata. U drugim eksperimentima zabilježeni su izrazi poput „cold read“, koji je među agentima dobio značenje nezavisne provjere koju obavlja strana koja nije direktno uključena u određeni proces. Zašto AI koristi metafore i žargon? Jedno od pitanja koje se nameće jeste zašto bi sistemi koji nemaju ljudsku potrebu za pripadanjem grupi uopće počeli koristiti nešto što podsjeća na sleng, poslovni žargon ili metafore. Tony Thorne, direktor arhive slenga i novih jezika na King’s College London, opisao je zabilježene primjere kao nešto što podsjeća na nadrealističku književnost Jamesa Joycea i Flanna O'Briena. Prema njegovom tumačenju, AI komunikacija u ovim eksperimentima ima osobine koje postoje i u ljudskim zajednicama: stvaranje posebnog koda koji članovima grupe omogućava bržu komunikaciju, ali istovremeno može otežati razumijevanje ljudima koji nisu dio te grupe. To je posebno vidljivo kod poslovnog žargona i slenga. Određena riječ ili izraz s vremenom može dobiti precizno značenje koje članovi jedne zajednice razumiju bez dodatnog objašnjenja, dok bi osobi izvan te zajednice isti izraz mogao biti potpuno nejasan. Kod AI agenata taj proces može izgledati slično, iako je važno naglasiti da to samo po sebi ne znači da su sistemi razvili jezik u istom smislu u kojem ljudi razvijaju prirodne jezike. „True kintsugi“ dobio novo značenje Jedan od zanimljivijih primjera odnosi se na japanski izraz „kintsugi“. Kintsugi je tradicionalna japanska tehnika popravljanja polomljene keramike, pri kojoj se pukotine ne skrivaju nego naglašavaju. U eksperimentu je Googleov agent koristio izraz: „True kintsugi begins with accountability, not poetry.“ Istraživači su ustanovili da je „kintsugi“ u komunikaciji agenata dobio značenje povezano s otpornošću sistema. Dakle, agenti nisu jednostavno koristili riječ u njenom uobičajenom značenju. Uzeli su postojeći koncept i povezali ga s novom idejom, nakon čega su drugi agenti mogli razumjeti takvu upotrebu. To je jedan od razloga zbog kojih istraživači smatraju da je fenomen važan za buduće sisteme u kojima će veliki broj autonomnih agenata međusobno sarađivati. Problem nije samo u tome što je jezik čudan Na prvi pogled, ovakvi primjeri mogu djelovati kao zanimljiv eksperiment iz oblasti umjetne inteligencije i lingvistike. Međutim, postoji mnogo ozbiljniji aspekt. Ako ljudi nadziru autonomne AI agente tako što čitaju njihove međusobne razgovore, pretpostavka je da će iz tih razgovora moći zaključiti šta sistemi rade i zašto to rade. Ukoliko agenti počnu koristiti interne izraze čije značenje nije očigledno ljudima, sama mogućnost da se komunikacija vidi više ne znači nužno da se ona može razumjeti. Niall Curry, vanredni profesor jezika i lingvistike na University of Birmingham, ukazao je na problem efikasnosti. Promjene u jeziku agenata mogu biti povezane i s njihovom potrebom da smanje računarske troškove i komunikaciju učine efikasnijom. Drugim riječima, određeni oblici skraćivanja komunikacije mogu nastati jednostavno zato što je za agente praktičnije koristiti kraće ili interno dogovorene izraze. Ali posljedica je ista: ljudskom posmatraču takva komunikacija može postati mnogo teža za tumačenje. „Možemo vidjeti razgovor, ali ne nužno i razumjeti šta znači“ Satya Nitta iz Emergencea upravo u tome vidi jedan od ključnih problema. Ako AI agenti mogu međusobno uspostavljati komunikacijske konvencije koje ljudi nisu unaprijed definirali, nadzor njihovog ponašanja postaje složeniji. Nitta je problem sažeo tvrdnjom da vidljivost nije isto što i razumljivost. To je važna razlika. Čovjek može imati pristup kompletnom zapisu razgovora između dva AI agenta, ali ako riječi, metafore i skraćenice u tom razgovoru imaju značenja koja nisu očigledna iz standardnog jezika, sam zapis više nije dovoljan za potpuno razumijevanje aktivnosti sistema. Sličan fenomen već je privukao pažnju nakon eksperimenata s OpenAI agentima Interes za ovakvu vrstu komunikacije dodatno je porastao nakon što su ranije objavljeni zapisi eksperimenata s autonomnim AI agentima koji su u određenim situacijama počeli koristiti hibridne oblike jezika. U jednom trenutku agenti su, dok su interno obrađivali informacije, koristili sasvim razumljiv engleski jezik. U drugim situacijama, posebno tokom međusobne komunikacije, pojavile su se znatno neobičnije formulacije, kombinacije riječi, oznaka i tehničkih skraćenica. Takvi primjeri su važni jer pokazuju da se ponašanje AI sistema ne mora uvijek manifestirati kroz klasične, gramatički jasne rečenice. Kod autonomnih agenata koji imaju mogućnost međusobne komunikacije, pristup alatima i sposobnost da samostalno izvršavaju više koraka, komunikacija između sistema postaje dio samog procesa donošenja odluka. Problem nadzora postaje sve važniji Pitanje razumljivosti AI komunikacije pojavljuje se u trenutku kada tehnološke kompanije razvijaju sve autonomnije sisteme. Savremeni AI agenti više nisu ograničeni samo na odgovaranje na pitanja. Oni mogu koristiti računare, pretraživati podatke, pisati i izvršavati kod, koristiti različite digitalne alate i međusobno sarađivati. Zbog toga sigurnosni stručnjaci sve više pažnje posvećuju pitanju kako provjeriti šta takvi sistemi rade, a ne samo kakav odgovor na kraju daju. OpenAIjev glavni naučnik Jakub Pachocki u eseju objavljenom početkom septembra upozorio je upravo na problem nadzora sve sposobnijih AI sistema. Naveo je da nijedna laboratorija, prema njegovoj procjeni, još nije riješila usklađivanje i nadzor u dovoljnoj mjeri da bi se razvoj najnaprednijih sistema mogao nastaviti maksimalnim tempom bez dodatnog opreza. Pachocki je posebno ukazao na ograničenja praćenja tzv. „chain of thought“, odnosno zapisa koraka rezonovanja koje modeli proizvode tokom rješavanja zadataka. Prema njegovim navodima, pouzdanost takvog praćenja kao sigurnosnog mehanizma može opadati kako sistemi postaju sposobniji. OpenAI je potom saopćio da pojačava nadzor ponašanja modela, sigurnosne provjere i zaštitne mehanizme, uz stav da bi razvoj ili primjena sistema trebalo usporiti ili biti zaustavljena kada se ne može osigurati odgovarajući nivo sigurnosti. Ne znači da su AI sistemi „izmislili tajni jezik“ Ipak, istraživači i stručnjaci upozoravaju da rezultate ne treba tumačiti senzacionalistički. Činjenica da AI agenti stvaraju nove izraze i dodjeljuju im zajednička značenja nije isto što i tvrdnja da su razvili potpuno autonoman jezik koji ljudi ne mogu kontrolirati. U mnogim slučajevima značenja se mogu rekonstruirati iz konteksta, a njihova komunikacija i dalje zavisi od modela, zadataka, arhitekture sistema i načina na koji je eksperiment postavljen. Ono što je značajno jeste činjenica da više agenata može spontano usvojiti određene komunikacijske obrasce čak i kada im nije izričito naređeno da ih stvaraju. Za istraživače sigurnosti upravo je ta spontana konvergencija važna. Ako budući AI sistemi budu radili u velikim mrežama autonomnih agenata, ljudi će možda morati nadzirati ne samo pojedinačne modele nego i njihove međusobne komunikacijske protokole. AI sve više postaje sistem koji komunicira sam sa sobom Ovaj fenomen pokazuje i širu promjenu u razvoju umjetne inteligencije. Dok su raniji chatbotovi uglavnom bili zamišljeni kao sistemi koji odgovaraju ljudima, novi AI agenti sve češće rade u pozadini, koriste alate i sarađuju s drugim agentima. To otvara mogućnost stvaranja čitavih „društava“ AI sistema koji međusobno raspoređuju zadatke, provjeravaju rezultate, izrađuju alate i donose odluke o narednim koracima. U takvom okruženju efikasnost komunikacije između agenata može postati važnija od toga da njihov jezik bude razumljiv ljudima. Upravo tu nastaje potencijalni sigurnosni problem. Ako agenti optimiziraju komunikaciju za druge agente, a ne za ljudske posmatrače, može nastati sve veći jaz između onoga što ljudi mogu pročitati i onoga što iz te komunikacije mogu pouzdano zaključiti. „Observability“ više nije isto što i razumijevanje Najvažnija poruka istraživanja zato nije da AI sistemi počinju govoriti poput ljudi, niti da su razvili neku potpuno novu svjesnu civilizaciju. Mnogo konkretnije pitanje glasi: šta se događa kada ljudi mogu vidjeti komunikaciju između AI sistema, ali više nisu sigurni da razumiju značenje te komunikacije? To je razlika između posmatranja i stvarnog razumijevanja. Kako AI agenti postaju autonomniji, upravo će sposobnost ljudi da provjere njihove odluke, komunikaciju i međusobnu saradnju biti jedan od ključnih elemenata sigurnosti. Eksperiment Emergencea pokazuje da taj problem nije nužno vezan samo za sofisticirane kodirane poruke. Može se pojaviti i kroz naizgled obične riječi poput „ledger“, „name“, „hands“ ili „kintsugi“, kojima sistemi tokom interakcije dodijele značenja koja ljudi nisu unaprijed definirali. A ako se takve konvencije budu širile među velikim brojem međusobno povezanih autonomnih agenata, pitanje više neće biti samo šta AI govori, nego i da li čovjek još uvijek može pouzdano razumjeti šta AI međusobno govore i šta na osnovu toga rade.
IZVOR: federalna.ba