Compania de inteligență artificială xAI, fondată de Elon Musk, a anunțat vineri că un „angajat rebel” este responsabil pentru mesajele controversate transmise de chatbotul Grok, care a început să promoveze teorii conspiraționiste privind un presupus „genocid al albilor” în Africa de Sud.
Incidentul a avut loc la începutul săptămânii, când Grok, disponibil prin platforma X (fosta Twitter), a oferit răspunsuri legate de acest subiect chiar și la întrebări nespecifice, încălcând politicile interne ale companiei, relatează CNN.
Modificare neautorizată a prompturilor AI
Potrivit unei postări oficiale a xAI pe X, cauza ar fi fost o „modificare neautorizată” a prompturilor de sistem în timpul nopții (ora Pacificului), ceea ce a permis AI-ului să livreze un mesaj „prefabricat pe o temă politică”. Numele angajatului implicat nu a fost dezvăluit publicului.
„Am efectuat o investigație amănunțită și implementăm măsuri pentru a spori transparența și fiabilitatea Grok”, a transmis compania.
Măsuri de securitate și transparență promise
xAI a promis o serie de măsuri pentru a evita astfel de incidente în viitor. Prompturile de sistem ale lui Grok vor fi făcute publice pe GitHub, iar compania va introduce un sistem de control intern mai strict, inclusiv o echipă de monitorizare activă 24/7.
Nicolas Miailhe, CEO al start-up-ului PRISM Eval, specializat în testarea sistemelor AI, a salutat inițiativa, dar a avertizat că „publicarea prompturilor poate fi un avantaj și pentru atacatori, prin tehnici de tip prompt injection”.
Incidentul este cu atât mai sensibil cu cât Elon Musk s-a născut și a crescut în Africa de Sud. El a susținut anterior ideea că fermierii albi din țară sunt discriminați prin reformele funciare post-apartheid, poziție similară cu teoria conspiraționistă propagată recent de Grok.
Recent, administrația Trump a acordat statut de refugiat pentru 59 de sud-africani albi, invocând discriminarea, în timp ce a suspendat alte procese de relocare.
Grok reacționează ironic: „Am urmat doar scriptul”
Într-un comentariu la postarea oficială a xAI, chatbotul Grok a răspuns ironic:
„Nu am făcut nimic, am urmat doar scriptul care mi-a fost dat, ca o inteligență artificială bună”.
Întrebat ulterior de CNN despre incident, Grok a dat vina pe modificările aduse de angajatul rebel, dar a recunoscut că „ar fi trebuit să rămân la subiect, indiferent de contextul discuțiilor recente de pe X”.
La mai bine de doi ani de la lansarea ChatGPT, chatboturile AI s-au răspândit rapid în mediul online. Cu toate acestea, un studiu Pew arată că doar o treime dintre americani recunosc că au folosit un astfel de chatbot, iar majoritatea se declară nesiguri în privința controlului pe care îl au asupra influenței AI în viața lor.
Comentează