OpenAI uvodi nevidljivi vodeni žig za AI tekst: Evo kako će funkcionisati
OpenAI počinje da uvodi tehnologiju za nevidljivo označavanje tekstova generisanih putem AI, u skladu sa zahtjevima evropskog Akta o vještačkoj inteligenciji.
OpenAI počinje da uvodi tehnologiju za nevidljivo označavanje tekstova generisanih putem AI, u skladu sa zahtjevima evropskog Akta o vještačkoj inteligenciji. Tehnologija, nazvana "textGrain", dodaje statistički signal u izbor riječi koje model koristi. Taj signal ljudima nije vidljiv, ali bi specijalizovani detektor kasnije mogao da utvrdi da je tekst generisao AI sistem. textGrain će najprije biti dostupan korisnicima OpenAI API-ja širom svijeta kao opcija koju je potrebno ručno uključiti. U Evropskoj uniji OpenAI planira da u narednim nedjeljama počne automatski da primjenjuje ovaj sistem na tekstualne odgovore koje generišu ChatGPT i Codex. Kompanija istovremeno upozorava da tehnologija nije nepogrešiva. Prema internim testovima, detektor je prepoznavao vodeni žig u oko 80 odsto tekstova dužine 200 tokena, dok je kod tekstova od 400 tokena uspješnost dostizala oko 95 odsto u određenim oblastima. Rezultati su znatno slabiji kod matematike i drugih sadržaja u kojima postoji manje slobode u izboru riječi. Problem predstavlja i naknadno uređivanje teksta. U jednom testu, zamjena samo 10 odsto riječi sinonimima smanjila je uspješnost detekcije sa 92 na 66 odsto, dok je zamjena četvrtine riječi spustila rezultat na svega 17 odsto. OpenAI zato naglašava da vodeni žig ne može da pokaže koliki je bio ljudski doprinos nastanku teksta, niti utvrđuje autorstvo, vlasništvo ili zakonitost sadržaja. Takođe, ne povezuje tekst sa konkretnim korisnikom ili nalogom. Kompanija planira da objavi i izvorni kod textGraina, kako bi istraživači i razvojna zajednica mogli da ga dodatno testiraju i unapređuju. (B92)
IZVOR: nezavisne.com