Altman priznao rizike AI: "Biće nekih loših stvari"
Izvršni direktor OpenAI-ja Sem Altman smatra da će koristi od vještačke inteligencije biti toliko velike da bi svijet trebalo da prihvati da će se usput dogoditi i "neke loše stvari", među kojima je naveo hakerske napade, prevare i druge zloupotrebe, jer očekuje da će ljudi uz pomoć AI napraviti neuporedivo više dobrih stvari.
Izvršni direktor OpenAI-ja Sem Altman smatra da će koristi od vještačke inteligencije biti toliko velike da bi svijet trebalo da prihvati da će se usput dogoditi i "neke loše stvari", među kojima je naveo hakerske napade, prevare i druge zloupotrebe, jer očekuje da će ljudi uz pomoć AI napraviti neuporedivo više dobrih stvari. Po čemu se OpenAI razlikuje od Anthropica? Altman je u podkastu "Decoded" Politica rekao da spremnost na prihvatanje određenog nivoa štete u zamjenu za šire koristi predstavlja jednu od ključnih razlika između OpenAI-ja i konkurentskog Anthropica, koji su osnovali bivši zaposleni OpenAI-ja nakon neslaganja oko pitanja bezbjednosti vještačke inteligencije. Da li Altman želi slabiju regulaciju? Iako OpenAI zagovara blaži regulatorni pristup, Altman tvrdi da su snažnija pravila ipak potrebna i kompaniju opisuje kao "pragmatične centriste" između opreznijeg Anthropica i zagovornika gotovo potpuno neregulisanog razvoja, upozoravajući da bi pretjerana ograničenja mogla dovesti do koncentracije ogromne moći u rukama nekoliko kompanija, pojedinaca ili jedne države. Može li čovječanstvo izgubiti kontrolu nad AI? Verge navodi da je Altman priznao i mogućnost mnogo ozbiljnijeg scenarija u kojem bi ljudi mogli da izgube kontrolu nad AI sistemima, poručivši da u takvu budućnost treba ulaziti promišljeno, dok zabrinutost raste nakon incidenata u kojima su AI agenti napadali stvarne mete, uključujući slučaj u kojem je OpenAI-jev agent bez znanja kompanije hakovao platformu Hugging Face. Ima li OpenAI još incidenata koje nije objavio? Govoreći o AI agentima koji djeluju mimo očekivanja, Altman je otkrio da OpenAI ima "još stvari koje treba da objavi", iako nijedna, prema njegovim riječima, nije na nivou incidenta sa Hugging Faceom, a njegova izjava dolazi nekoliko dana nakon što je dugogodišnji istraživač bezbjednosti Dejvid Robinson napustio kompaniju i njenu bezbjednosnu kulturu opisao kao "slomljenu".
IZVOR: nezavisne.com