Internet Watch Foundation upozorava na ogroman porast AI materijala seksualnog zlostavljanja djece
Materijal seksualnog zlostavljanja djece generiran umjetnom inteligencijom sve se više širi internetom, a količina nezakonitog sadržaja koji je ove godine istražen već je premašila ukupnu količinu zabilježenu tokom 2025. godine, prenosi The Guardian.
Materijal seksualnog zlostavljanja djece generiran umjetnom inteligencijom sve se više širi internetom, a količina nezakonitog sadržaja koji je ove godine istražen već je premašila ukupnu količinu zabilježenu tokom 2025. godine, prenosi The Guardian. Analitičari organizacije Internet Watch Foundation (IWF) pronašli su više fotorealističnog materijala seksualnog zlostavljanja djece u prvoj polovini 2026. godine nego tokom cijele prethodne godine. IWF sa sjedištem u Velikoj Britaniji, koja globalno prati materijal seksualnog zlostavljanja djece, saopćila je da je analizirala 6.310 AI-generiranih fotografija koje ispunjavaju zakonsku definiciju seksualnog zlostavljanja djece, što je 40 posto više od prošlogodišnjeg ukupnog broja od više od 4.500 takvih fotografija. Sve više AI-generiranog materijala Broj slučajeva AI-generiranog materijala seksualnog zlostavljanja djece raste već nekoliko godina, uz ogroman porast posebno kada je riječ o videosnimcima, iako se najnoviji podaci IWF-a odnose samo na fotografije. Većina fotografija koje su analizirali stručnjaci prikazivala je djevojčice, kao i djecu u dobi od sedam do 13 godina. IWF je saopćio da podaci ukazuju na potrebu za novim zakonskim propisima koji bi regulirali upotrebu umjetne inteligencije. Vlada Andyja Burnhama nije najavila da je novi zakon fokusiran na ovu tehnologiju uskoro pred usvajanjem. Hannah Swirsky, šefica odjela za javne politike u IWF-u, podržala je pozive parlamentaraca za „obavezujućim zakonodavstvom o umjetnoj inteligenciji“, kojim bi se kompanije obavezale na razvoj sigurnijih modela. „Na tehnološkim kompanijama je odgovornost da naprave alate koji se na ovaj način ne mogu zloupotrijebiti“, kazala je. „Ovaj problem je stvorila tehnologija i, ako kompanije neće praviti alate koji su sigurni po dizajnu, potrebno je djelovati.“ AI omogućio i izradu lažnih eksplicitnih fotografija djece AI-generirani materijal seksualnog zlostavljanja djece nezakonit je u Velikoj Britaniji, a vlada je također zabranila prilagođavanje AI modela za stvaranje materijala seksualnog zlostavljanja djece ili distribuciju takvih modela drugima. Razvoj modela namijenjenog proizvodnji hiperrealističnog materijala seksualnog zlostavljanja djece može biti kažnjen zatvorskom kaznom do pet godina. Glasnogovornik britanske vlade kazao je: „Britanski zakon jasno propisuje da je materijal seksualnog zlostavljanja djece nezakonit, bez obzira na to je li generiran umjetnom inteligencijom ili ne. Idemo i korak dalje zabranom AI modela koji se koriste za stvaranje ovakvog materijala i proizvodnju bolesnih, hiperrealističnih prikaza koji često sadrže likove stvarne djece.“ Umjetna inteligencija također je omogućila internetskim predatorima da stvaraju eksplicitne fotografije djece. Servis Report Remove, koji sprečava objavljivanje intimnih fotografija na internetu, primio je 420 prijava djece u vezi s fotografijama na kojima su prikazana ona sama, a za koje su vjerovala da su lažirane ili manipulirane kako bi izgledale eksplicitno. Taj broj već je premašio ukupan broj prijava iz 2025. godine, kada ih je bilo 397. Korištenje AI alata za stvaranje materijala seksualnog zlostavljanja navelo je National Crime Agency i IWF da pozovu roditelje i staratelje da fotografije svoje djece ne objavljuju na društvenim mrežama. Smjernice preporučuju da profili na društvenim mrežama budu privatni ili da se fotografije djece dijele samo unutar grupe „bliskih prijatelja“.
IZVOR: federalna.ba