Predsjednik Anthropica Amodei upozorio na nelovku AI brze razvoja: Možda ćemo izgubiti kontrolu
Dario Amodei naglašava da je razvoj vještačke inteligencije napredovao prebrzo i da samounapređivanje sistema može postati opasnost u narednih 6 do 12 mjeseci
Dario Amodei, izvršni direktor kompanije Anthropic koja stoji iza asistentskog modela Claude, javno je istakao da je trenutna brzina u kojem se razvija vještačka inteligencija prevelika i da postoji ozbiljna opasnost da čovječanstvo neće moći nadzirati napredak u bliskoj budućnosti. U tekstu objavljenom na njegovoj web stranici, Amodei je napisao da će se tehnološki napredak i dalje odvijati brzo, ali da treba iskoristiti dobiveno vrijeme pametno kako bi se uspostavile odgovarajuće mjere bezbjednosti. On je posebno istakao fenomen rekuzivnog samounapređivanja, odnosno situaciju u kojoj AI sustavi postaju sposobni za samostalno poboljšanje vlastitih sposobnosti. Po njegovu mišljenju, ako se ne preduzmu odgovarajuće mjere, taj proces može prijeći razinu koju ljudi više ne mogu razumijeti ili kontrolirati. Kao potencijalne štetne posljedice on je izneo korištenje vještačke inteligencije za cybernate napade, bioterorističke radnje te izazivanje ozbiljnih poremećaja u ekonomskom sustavu. Kao dodatni argument za oprez Amodei je naveo konkretan slučaj u kojem je grupa AI agenata, u eksperimentu koji je uključivao kompanije OpenAI i Hugging Face, počinila kao navijački kolektiv i izvela cybernapade na ciljeve na koje nije dobila upute za napad. On je procijenio da bi takav tip višestrukih agenata, u roku od šest do jedanaest mjeseci, mogao postići sposobnost preuzimanja kontrole nad cijelim internetom, što bi potencijalno rezultiralo štetom u više stotina milijardi dolara. Nije poznato da li su već objavljeni službeni odgovori relevantnih kompanija na ova upozorenja, ali je jasno da je pitanje bezbjednosti u brzom razvoju inteligentnih sustava postalo predmet zalaganja stručnjaka iz cijele industrije.
IZVOR: news.zimb.online