AI prepoznao prijetnju, uhapšena žena
FLORIDA - Razgovor sa vještačkom inteligencijom koji je 30-godišnja žena sa Floride koristila kao svojevrsni digitalni dnevnik završio je njenim hapšenjem, nakon što je u porukama navodno napisala da želi da napadne zgradu šerifa okruga Li, a već narednog dana pomenula da je kupila novo oružje. Prijetnje nije prijavio član porodice niti neko od njenih poznanika, već su ih registrovali sigurnosni sistemi AI chatbota Claude, nakon čega su zaposleni kompanije Anthropic pregledali razgovor i, procijenivši prijetnju kao vjerodostojnu, obavijestili policiju.
FLORIDA - Razgovor sa vještačkom inteligencijom koji je 30-godišnja žena sa Floride koristila kao svojevrsni digitalni dnevnik završio je njenim hapšenjem, nakon što je u porukama navodno napisala da želi da napadne zgradu šerifa okruga Li, a već narednog dana pomenula da je kupila novo oružje. Prijetnje nije prijavio član porodice niti neko od njenih poznanika, već su ih registrovali sigurnosni sistemi AI chatbota Claude, nakon čega su zaposleni kompanije Anthropic pregledali razgovor i, procijenivši prijetnju kao vjerodostojnu, obavijestili policiju. Šta je žena napisala chatbotu? Prema navodima policije, žena je krajem septembra u razgovoru sa Claudeom napisala da želi da napadne zgradu šerifa okruga Li, a samo dan kasnije navodno je navela da je kupila novo oružje. Istražitelji tvrde da je chatbot koristila poput digitalnog dnevnika, ali su sigurnosni sistemi platforme prepoznali poruke kao moguću prijetnju, zbog čega je sadržaj naknadno pregledan i proslijeđen nadležnim organima. Kada je žena uhapšena? Policajci su 30-godišnjakinju uhapsili 30. septembra u njenom domu na Floridi, a tereti se za pisanu prijetnju nasiljem. Ukoliko bude proglašena krivom, prema zakonima Floride prijeti joj kazna do 15 godina zatvora, dok je sudsko ročište zakazano za novembar. Da li su razgovori sa AI chatbotovima privatni? Slučaj je ponovo otvorio pitanje privatnosti razgovora sa servisima kao što su Claude, ChatGPT i Gemini, jer pružaoci ovih usluga mogu koristiti sigurnosne sisteme za otkrivanje potencijalno opasnog sadržaja navodi gizmo. Ukoliko sistem registruje konkretnu prijetnju ili naznake nasilja, u određenim okolnostima sadržaj mogu pregledati i ljudi, a informacije mogu biti dostavljene nadležnim organima, zbog čega je šerif Karmin Marseno upozorio da korisnici ne bi trebalo da pretpostavljaju da su potpuno anonimni dok razgovaraju sa vještačkom inteligencijom.
IZVOR: nezavisne.com