Šef AI diva više ne krije opasnost: Svije s pravom treba strahovati
Istovremeno je priznao da su strahovi ljudi opravdani jer se mogućnosti AI alata razvijaju izuzetno brzo
Sam Altman, čelnik OpenAI-ja, smatra da javnost treba vjerovati njegovoj i sličnim kompanijama da će odgovorno razvijati umjetnu inteligenciju, uprkos rastućoj zabrinutosti zbog rizika povezanih s ovom tehnologijom. - Svijet nam treba vjerovati da ćemo uraditi pravu stvar jer je to ispravno i jer osjećamo težinu ove odgovornosti - izjavio je Altman jučer na konferenciji u San Franciscu. Istovremeno je priznao da su strahovi ljudi opravdani jer se mogućnosti AI alata razvijaju izuzetno brzo. - Više nam ne treba toliko mašte kao ranije da zamislimo kako bi stvari mogle krenuti po zlu. Mislim da se svijet s pravom toga plaši - rekao je Altman, piše BBC. Reakcije nakon upozorenja o rizicima Altman je govorio na godišnjoj konferenciji kompanije Salesforce, što je bio njegov prvi javni nastup nakon što je prošle sedmice veliku pažnju privukla objava istraživača koji je napustio AI kompaniju Anthropic. Istraživač je ustvrdio da bi umjetna inteligencija, ukoliko ne bude adekvatno nadzirana, mogla uništiti čovječanstvo do kraja decenije. Nekoliko drugih direktora i stručnjaka iz oblasti umjetne inteligencije složilo se s tom procjenom, ali nisu detaljno objasnili na čemu temelje takav zaključak niti kako bi se takav scenarij konkretno mogao odvijati. Reakcije na ove tvrdnje posljednjih dana dodatno su pojačale nadzor nad razvojem umjetne inteligencije. Izvršni direktor Anthropica Dario Amodei zbog toga je pozvao na usporavanje razvoja i zatražio od vlada da regulišu industriju. Njegovu objavu podržali su Altman, suosnivač Googleovog DeepMinda Demis Hassabis te Elon Musk. Međutim, do utorka su brojni lideri u sektoru počeli zagovarati samoregulaciju umjesto državne intervencije. Argumenti za samoregulaciju Altman je izjavio kako vjeruje da su AI kompanije sposobne same sebe regulisati. - Uspjet ćemo u tome. Potpuno sam uvjeren u sposobnost naše kompanije i cijele industrije da ovo izvedemo sigurno - rekao je. Dodao je kako je uvjeren da će „usklađenost i sigurnost uvijek biti ispred samih mogućnosti sistema“, a ako to ne budu mogli osigurati, „usporit će ili potpuno stati“. Nakon Altmanovih izjava, čelnik Mete Mark Zuckerberg na platformi X napisao je da svaki AI laboratorij ima i mogućnost i motivaciju da samostalno poduzima korake prema stvaranju sigurnih alata. „Svaki laboratorij koji se ne fokusira na usklađivanje sistema s ljudskim vrijednostima zaostat će“, napisao je Zuckerberg. „Laboratoriji snose veliku odgovornost ako njihovi modeli izazovu štetu, pa imaju snažan poticaj da to spriječe.“ Jensen Huang, čelnik Nvidije, na istoj je konferenciji rekao da bi AI kompanije same trebale odlučivati o puštanju novih tehnologija. „Ne trebaju nam novi zakoni ni regulacije“, poručio je Huang i dodao da izbor između brzine inovacija i sigurnosti ne smije biti lažna dilema. Nvidia je trenutno najvrednija kompanija na svijetu, a njen profit snažno je porastao zbog ogromne potražnje za čipovima za umjetnu inteligenciju. Skepticizam i pozivi na oprez Neki akteri u industriji smatraju da su strahovi od umjetne inteligencije pretjerani i da služe prije svega medijskoj promociji sektora. Ipak, ideja da se direktorima AI kompanija prepusti potpuna samoregulacija mnogima djeluje kao loš pristup. Jack Clark, direktor i suosnivač Anthropica, rekao je u ponedjeljak za BBC da je ostavljanje AI industrije bez regulacije „kockanje s ogromnim rizicima“. Patrick Hillman, operativni direktor kompanije Logical Intelligence, ukazao je na to koliko malo povjerenja javnost ima u tehnološke kompanije. „Jedina institucija kojoj Amerikanci danas možda vjeruju manje nego Washingtonu jeste Silicijska dolina. Radio sam i živio u oba okruženja i uvjeravam vas da su oba zaslužila taj skepticizam“, rekao je Hillman. - Ako vjerujete da je ono što gradite opasno, pokažite nam čega ste se spremni odreći - dodao je. Pokušaji dogovora unutar sektora Čelnici OpenAI-ja i Anthropica potvrdili su da su nedavno počeli raditi na sporazumu o sigurnosti na nivou cijele industrije. Amodei je na konferenciji kratko izjavio da Anthropic sada vodi „dijalog s ostatkom industrije“ o obavezivanju na bolje sigurnosne standarde. Rekao je i da jedno od najvećih iznenađenja nije bio sam napredak tehnologije, nego njen širi utjecaj. - Nismo bili svjesni da će to dovesti do tako brzog rasta kompanija i da će one tako brzo postati ključne za veliki broj stvari - rekao je Amodei. Chris Lehane iz OpenAI-ja prošle je sedmice izjavio da kompanija sarađuje s drugim laboratorijima, uključujući Anthropic i Google DeepMind, na „unapređenju standarda za naprednu umjetnu inteligenciju“. Cilj je, kako je naveo, izgraditi dobrovoljni okvir, sa podrškom vlade ili bez nje. - Ulozi su preveliki da bismo dozvolili da savršenstvo postane neprijatelj dobrog - napisao je Lehane.
IZVOR: avaz.ba