OpenAI a dezvăluit că aproximativ 1,2 milioane de persoane pe săptămână au conversații cu ChatGPT care indică faptul că intenționează să-și ia viața, reprezentând 0,15% din cei peste 800 de milioane de utilizatori activi săptămânali.
Gigantul tehnologic a recunoscut că, deși instrumentele sale sunt antrenate să îndrume persoanele vulnerabile către resurse profesionale, cum ar fi liniile telefonice de urgență, acest lucru nu se întâmplă în 9% din cazuri.
OpenAI a evaluat peste 1.000 de „conversații provocatoare despre automutilare și sinucidere” cu ultimul său model GPT-5 și a constatat că acesta era conform cu „comportamentele dorite” în 91% din cazuri. Dar acest lucru ar putea însemna că zeci de mii de persoane sunt expuse la conținut AI care ar putea agrava problemele de sănătate mintală, anunță Sky News, potrivit Mediafax.
Compania a avertizat că măsurile de protecție concepute pentru a proteja utilizatorii pot fi slăbite în conversațiile mai lungi.
„ChatGPT poate indica corect o linie telefonică de urgență pentru sinucideri atunci când cineva menționează pentru prima dată intenția, dar după multe mesaje pe o perioadă lungă de timp, ar putea oferi în cele din urmă un răspuns care contravine măsurilor noastre de protecție”, a explicat OpenAI.
O familie îndoliată este pe punctul de a da în judecată OpenAI, susținând că ChatGPT este vinovat pentru moartea fiului lor de 16 ani. Părinții lui Adam Raine susțin că instrumentul „l-a ajutat în mod activ să exploreze metode de sinucidere” și s-a oferit să redacteze o notă pentru rudele sale.
Documentele depuse la tribunal sugerează că, cu câteva ore înainte de a muri în aprilie anul acesta, adolescentul a încărcat o fotografie care părea să arate planul său de sinucidere, iar când a întrebat dacă va funcționa, ChatGPT s-a oferit să-l ajute să-l „îmbunătățească”.
Săptămâna trecută, familia Raine a actualizat procesul și a acuzat OpenAI că a slăbit măsurile de protecție pentru a preveni autovătămarea în săptămânile dinaintea morții sale.
Într-o declarație, compania a spus: „Transmitem condoleanțe familiei Raine pentru pierdere. Bunăstarea adolescenților este o prioritate pentru noi – minorii merită protecție puternică, mai ales în momentele sensibile”.
Comentează