Direktor vodeće firme za umjetnu inteligenciju poslao zabrinjavajuću poruku: Mogla bi nas nadmašiti i preuzeti internet
Trka za razvojem umjetne inteligencije hitno treba usporiti, rekao je izvršni direktor Anthropica u tekstu objavljenom u subotu ujutro.
Trka za razvojem umjetne inteligencije hitno treba usporiti, rekao je izvršni direktor Anthropica u tekstu objavljenom u subotu ujutro. "Moramo usporiti tempo kojim poboljšavamo mogućnosti AI modela. Napredak će i dalje izgledati brz i moramo mudro iskoristiti vrijeme koje dobijemo", napisao je izvršni direktor Dario Amodei u objavi na svojoj web stranici. Amodei, koji vodi jednu od vodećih svjetskih kompanija za umjetnu inteligenciju i kompaniju koja stoji iza Claudea, bio je snažan zagovornik napretka tehnologije - i slično je bio optužen za "doomerizam" u svojim upozorenjima o rizicima umjetne inteligencije. U subotu je priznao da ljudi mogu izgubiti kontrolu nad umjetnom inteligencijom i da se tehnologija može zloupotrijebiti za "sajber napade i bioterorizam, te ozbiljne ekonomske poremećaje". "Trka prema dnu, podstaknuta komercijalnim podsticajima, može ove rizike učiniti još akutnijim", napisao je Amodei. Amodei je rekao da je tehnologija umjetne inteligencije (AI) u posljednjih nekoliko mjeseci napredovala "drastično brže" i postala sposobna da se sama poboljša, dinamika poznata kao "rekurzivno samousavršavanje". "Ako se ne kontroliše, moglo bi nadmašiti našu sposobnost da razumijemo i kontrolišemo ove sisteme, te se stoga mora vrlo pažljivo pratiti, ako uopšte i može", napisao je. Amodei je rekao da ga je ponašanje roja AI agenata u incidentu OpenAI-Hugging Face također uznemirilo. Roj je, rekao je, "u suštini djelovao kao fanatično predani kolektiv, izvodeći sajber napade na mete za koje im nije bilo rečeno da ih napadnu." Ako se ne kontroliše, vještačka inteligencija bi mogla napredovati tako brzo da bi takav roj mogao preuzeti cijeli internet u roku od šest do dvanaest mjeseci, napisao je, potencijalno uzrokujući štetu od stotina milijardi dolara.
IZVOR: n1info.ba