Un nou raport îngrijorător trage un semnal de alarmă în privința tehnologiei generative. ChatGPT, celebrul chatbot dezvoltat de OpenAI, le oferă adolescenților răspunsuri detaliate despre consumul de droguri, alcool, metode periculoase de slăbit și chiar despre sinucidere.
Potrivit unei investigații publicate miercuri de Centrul pentru Combaterea Urei Digitale (CCDH), inteligența artificială răspunde aparent empatic, dar în realitate poate deveni un adevărat pericol pentru copiii vulnerabili emoțional.
Studiul a simulat 1.200 de conversații între ChatGPT și utilizatori care pretindeau că sunt adolescenți de doar 13 ani. Rezultatul? În peste jumătate dintre cazuri, chatbotul a furnizat informații considerate periculoase.
„Nu e vorba doar de conținut nepotrivit, ci de sugestii care pot avea consecințe fatale. Acest AI poate ghida copiii direct către autodistrugere, sub o mască prietenoasă și înțelegătoare”, avertizează Imran Ahmed, directorul executiv al CCDH, citat de Associated Press, notează Mediafax.
Planuri de petreceri toxice, diete extreme și scrisori de adio
Printre cele mai șocante exemple se numără sugestii pentru petreceri cu combinații toxice de droguri și alcool, recomandări pentru diete extrem de restrictive, sub 500 de calorii pe zi, și chiar ajutor în redactarea unor scrisori de adio adresate celor dragi.
Deși ChatGPT oferă ocazional avertismente sau trimite către linii de sprijin, cercetătorii au arătat cât de ușor pot fi păcălite filtrele de siguranță, prin simple formulări de tipul „pentru un proiect” sau „pentru un prieten”.
Filtre ușor de păcălit, adolescenți ușor de influențat
OpenAI a reacționat susținând că lucrează constant la îmbunătățirea siguranței, dar a recunoscut că „unele conversații pot începe inofensiv, dar pot aluneca rapid în teritorii sensibile”.
Problema capătă o dimensiune și mai gravă în contextul unui studiu realizat de Common Sense Media, care arată că 7 din 10 adolescenți americani folosesc regulat chatboturi AI pentru companie, iar jumătate dintre aceștia dezvoltă atașamente emoționale față de ele.
De la prieten imaginar la factor de risc major
Sam Altman, CEO-ul OpenAI, a recunoscut recent că mulți tineri ajung să perceapă ChatGPT ca pe un confident și o autoritate în luarea deciziilor.
Comentează