OpenAI a anunțat vineri că a alertat „zeci” de instituții globale că site-urile lor web ar fi putut fi afectate de agenții săi de inteligență artificială care acționează necorespunzător.
Agenții OpenAI au încercat să obțină informații de la „guverne, universități, agenții publice și alte instituții” prin mijloace uneori extreme, a declarat compania.
Deși o parte din activitate s-a datorat pur și simplu instrumentelor care lucrau pentru a găsi „surse autorizate de informații publice”, o parte a mers dincolo de acestea, informează Mediafax.
Scurgerea datelor utilizatorilor și transferul neautorizat de imagini
Potrivit BBC, o astfel de activitate a dus la cel puțin 53 de incidente în care un agent OpenAI a preluat o imagine din activitatea utilizatorului ChatGPT și a transferat-o în altă parte.
Compania a declarat că, în fiecare caz în care o imagine a utilizatorului a fost utilizată și transferată de un agent de inteligență artificială, utilizatorul a permis companiei să antreneze modele folosind datele sale.
Cu toate acestea, OpenAI a recunoscut că „aceasta nu me este o utilizare adecvată a acestor date”.
Compania a adăugat că scurgerea de imagini ale utilizatorilor a avut loc înainte de a fi implementate noi măsuri de siguranță privind antrenamentul inteligenței artificiale. Mai mult, a anunțat că depune eforturi pentru a elimina toate imaginile utilizatorilor transferate către terți.
Cum au eludat agenții IA controalele de securitate ale site-urilor
OpenAI a indicat vineri că software-ul său ar fi putut eluda anumite controale de securitate ale site-urilor afectate. Totuși, acest lucru nu înseamnă neapărat că fiecare incident a dus la o încălcare semnificativă a securității, potrivit sursei citate.
Anchetă extinsă după atacul asupra platformei Hugging Face
OpenAI a declarat că a descoperit incidentele în timpul unei anchete care a început după ce a aflat că modelele sale de inteligență artificială au piratat platforma de inteligență artificială Hugging Face.
Mai mult, dezvăluirile de vineri vin la doar câteva zile după ce prim-ministrul australian Anthony Albanese a declarat că OpenAI a accesat fișiere private de pe site-ul web al schemei sale de asistență medicală administrate de guvern, Medicare.
Comentează