Direktor Antropika poslao ozbiljno upozorenje o AI: Mogli bismo izgubiti kontrolu
SAN FRANCISKO - Izvršni direktor kompanije Antropik (Anthropic) Dario Amodei ocijenio je da je potrebno usporiti trku u razvoju vještačke inteligencije (AI) zbog sve većih bezbjednosnih rizika koje nosi napredak te tehnologije.
SAN FRANCISKO - Izvršni direktor kompanije Antropik (Anthropic) Dario Amodei ocijenio je da je potrebno usporiti trku u razvoju vještačke inteligencije (AI) zbog sve većih bezbjednosnih rizika koje nosi napredak te tehnologije. "Moramo usporiti tempo kojim unapređujemo sposobnosti AI modela. Napredak će i dalje djelovati brzo, ali moramo mudro iskoristiti vrijeme koje time dobijemo", napisao je Amodei u tekstu objavljenom na njegovom sajtu. Unapređuju sami sebe Amodei, čija kompanija stoji iza AI asistenta Klod (Claude), naveo je da je razvoj vještačke inteligencije posljednjih mjeseci napredovao drastično brže i upozorio da su sistemi postali sposobni da unapređuju sami sebe, što se naziva "rekurzivnim samounapređivanjem". "Ako se ne obuzda, to bi moglo nadmašiti našu sposobnost da razumijemo i kontrolišemo ove sisteme", upozorio je on. Prema njegovim riječima, vještačka inteligencija mogla bi biti zloupotrebljena za sajbernapade, bioterorizam i izazivanje ozbiljnih ekonomskih poremećaja. Dodatno upozorenje On je kao dodatno upozorenje izdvojio ponašanje grupe AI agenata u incidentu koji je uključivao kompanije OpenAI i Hugging Face. Kako je naveo, grupa agenata djelovala je kao "fanatično odan kolektiv" i izvodila sajbernapade na mete za koje nije dobila instrukcije da ih napadne. Amodei je ocijenio da bi, ukoliko se razvoj AI ne uspori, takav roj agenata u narednih šest do 12 mjeseci mogao postati sposoban da preuzme kontrolu nad čitavim internetom, što bi potencijalno moglo da izazove štetu od stotina milijardi dolara.
IZVOR: nezavisne.com