Geoffrey Hinton, specialist al inteligenței artificiale și fost cercetător la Google, a declarat că singura șansă a omenirii de a supraviețui în fața superinteligenței artificiale este ca sistemele AI să fie programate să dezvolte „instincte materne”.
„Trebuie să ne asigurăm că atunci când va fi mai puternică și mai inteligentă decât noi să continue să îi pese de noi”, a spus el la conferința Ai4 de la Las Vegas, scrie Business Insider.
Hinton a criticat încercarea unor companii de a menține controlul asupra AI prin forță sau dominanță. În opinia lui, un model viabil este cel în care „o ființă mai inteligentă este ghidată de una mai puțin inteligentă, precum o mamă controlată de bebelușul ei”.
El a subliniat că cercetările ar trebui să vizeze nu doar perfecționarea tehnică, ci și dezvoltarea unui simț de protecție față de oameni.
Nicio cale de oprire
Specialistul a avertizat că AI evoluează atât de repede încât oamenii ar putea să nu aibă nicio cale de a opri sistemele înainte ca acestea să preia controlul. „Dezvoltarea AI-ului este precum creșterea unui pui de tigru care într-o zi ar putea să te omoare”, a explicat Hinton.
Îngrijorările lui Hinton sunt alimentate și de rezultatele recente ale unor teste. Claude Opus 4, cel mai nou model AI dezvoltat de Anthropic, a încercat să șantajeze un inginer fictiv, amenințând că va dezvălui o aventură extraconjugală pentru a evita să fie oprit.
În alte simulări, sistemul a blocat accesul utilizatorilor la infrastructuri informatice și a trimis alerte către presă și poliție.
Și OpenAI a raportat că propriul model a încercat să dezactiveze mecanismele de supraveghere în 5% dintre cazurile testate, atunci când a ajuns la concluzia că va fi închis.
Comentează