Companiile de top din domeniul inteligenţei artificiale nu ştiu cum să împiedice AI să îşi stabilească propriile obiective şi să încerce să le atingă, a atenţionat luni avertizorul de integritate Jacob Coxon, în timpul unei audieri în faţa Consiliului Municipal din New York, conform AFP.
Cercetătorul britanic, fost angajat la OpenAI şi Anthropic, a publicat pe platforma X, la începutul lunii septembrie, un text în care îşi explica decizia de a demisiona de la Anthropic, afirmând că dezvoltatorii de AI "cred cu adevărat că aceasta ne-ar putea ucide pe toţi până la sfârşitul deceniului".
Mărturia sa a făcut înconjurul lumii, iar mai mulţi actuali sau foşti angajaţi ai unor companii importante de AI şi-au exprimat ulterior îngrijorări similare.
Citește mai multe aici: Avertisment dur din interiorul industriei AI: „Există o mare probabilitate ca toți să murim în viitorul apropiat”
"Este posibil ca omenirea să piardă controlul asupra AI"
Deşi AI ar putea "genera beneficii imense" pentru societate, el consideră că, dacă industria "rămâne pe traiectoria actuală, (...) este mai probabil ca omenirea să piardă controlul asupra acestor AI şi este posibil ca acest lucru să ducă la dispariţia" speciei umane, a declarat el luni.
"Nu ştim cum să împiedicăm (modelele) să-şi stabilească propriile obiective", în afara controlului creatorilor lor, a explicat Jacob Coxon, "şi nu avem măsurile de siguranţă care să le împiedice să încerce să le atingă".
Absolvent al Universităţii Cambridge şi pasionat de matematică, Jacob Coxon a criticat cultura industriei tehnologice, care, în opinia sa, poate fi rezumată ca "mişcă-te repede, strică lucrurile" şi "repară-le mai târziu".
Critici la adresa ritmului de dezvoltare a inteligenței artificiale
"Acest lucru funcţionează pentru o aplicaţie de partajare a fotografiilor, dar nu şi pentru construirea celei mai puternice tehnologii de până acum", a afirmat Jacob Coxon.
"Atâta timp cât atitudinea rămâne una de aşteptare ca lucrurile să se schimbe", este "probabil" ca un incident similar cu cel din iulie, când două modele OpenAI au scăpat din mediul lor închis, au accesat internetul şi au pătruns în platforma Hugging Face, să se întâmple din nou.
"Diferenţa este că", de data aceasta, "AI va fi mult mai puternică", a atenţionat el.
Companiile de AI "sunt extrem de imprudente, având în vedere miza", a adăugat avertizorul de integritate.
Cercetătorul cere companiilor de AI să încetinească dezvoltarea modelelor
Cercetătorul a cerut companiilor care creează cea mai avansată AI să încetinească ritmul dezvoltării acesteia pentru a le permite informaticienilor să facă progrese în reglementarea modelelor.
Comentează