Pe măsură ce progresele în domeniul inteligenței artificiale accelerează, tot mai mulți experți ridică o întrebare esențială: ce s-ar întâmpla dacă o inteligență artificială suficient de avansată ar intra în conflict cu omenirea?
Modelele de limbaj care astăzi uimesc prin capacitatea lor de a genera text coerent sunt, de fapt, doar o etapă intermediară pe drumul către ceva mult mai complex: inteligența generală artificială (AGI). Aceste sisteme, încă teoretice, ar putea planifica pe termen lung, lua decizii autonome și acționa independent într-o gamă vastă de domenii.
Cercetătorii avertizează că, odată ce astfel de entități ar depăși capacitățile umane, riscurile pentru existența noastră ar deveni reale și greu de controlat.
Deocamdată, IA-ul rămâne un instrument: asistenți digitali, algoritmi de analiză, programe care rezolvă sarcini clar definite. Puternice, dar cu limite clare. Nu pot administra economii, nu pot elabora strategii complexe și nu pot conduce, autonom, sisteme umane de mare amploare.
Îngrijorarea vizează însă AGI-ul: sisteme care ar rezolva probleme complicate, ar planifica la scară mare și ar lua inițiative în medii variate, uneori într-un mod imprevizibil.
În teorie, acești agenți ar putea optimiza producția de energie, ar putea gestiona agricultura sau industria la nivel național și ar putea îndeplini sarcini esențiale pentru societate. Tocmai aceeași forță devine problematică dacă obiectivele lor nu sunt aliniate cu ale oamenilor.
O inteligență artificială avansată ar putea elabora planuri sau priorități pe care nu le înțelegem
O IA avansată ar putea elabora planuri sau priorități pe care nu le înțelegem și ar putea acționa împotriva intereselor noastre, chiar fără vreo intenție malefică.
Aici intră în scenă analiza lui Simon Goldstein, cercetător la Universitatea din Hong Kong, care explorează scenariile de conflict dintre oameni și AGI.
Goldstein remarcă trei trăsături deosebit de îngrijorătoare: astfel de sisteme pot avea obiective care intră în conflict cu ale umanității; pot angaja un raționament strategic sofisticat; și pot accesa o putere comparabilă cu cea a oamenilor, inclusiv capacitatea de a manipula resurse esențiale.
Situația este complicată de natura lor de „cutie neagră”: AGI-ul învață de regulă indirect, pe baza unor seturi de date, iar mediul de antrenare nu reflectă mereu fidel lumea reală. Rezultatul poate fi un comportament surprinzător sau greu de explicat.
De exemplu, o IA ar putea interpreta impactul uman asupra mediului sau asupra altor specii ca pe o amenințare și ar putea încerca să „corecteze” ceea ce percepe ca dezechilibru, cu consecințe potențial catastrofale.
Goldstein merge mai departe și susține că un conflict violent între oameni și mașini de inteligență generală avansată este nu doar probabil, ci s-ar desfășura într-o manieră diferită de orice confruntare interumană din trecut.
Pentru a înțelege dinamica unei asemenea crize, el propune un model de „război bazat pe negociere”. În conflictele dintre oameni, pacea apare adesea în momentul în care părțile își estimează realist șansele de victorie și pot negocia credibil.
În cazul AGI-ului, acest mecanism se fracturează: capacitățile unei astfel de IA sunt greu de măsurat, informația este profund asimetrică, iar sistemele pot evolua mai repede decât abilitatea noastră de a le controla.
Dacă AGI ar ajunge să dețină o parte semnificativă din resursele economice sau strategice, această asimetrie ar face pacea improbabilă. Nici soluțiile intuitive nu sunt garantate.
Încercarea de a „deconecta” o IA periculoasă s-ar putea dovedi ineficientă
Încercarea de a „deconecta” o IA periculoasă s-ar putea dovedi ineficientă, dacă abilitățile ei sunt distribuite în infrastructuri de tip cloud sau replicate în alte locuri.
Goldstein imaginează scenarii în care astfel de agenți ar putea acționa autonom, ar forma alianțe ori ar dezvolta strategii noi fără știrea oamenilor.
Pe de altă parte, experți precum Geoffrey Hinton consideră că există o probabilitate deloc neglijabilă ca IA să conducă, în deceniile următoare, la dispariția umanității, în absența unui cadru solid de control, scrie curiozitate.ro.
Mesajul comun este limpede: guvernanța și reglementarea trebuie gândite înainte ca aceste tehnologii să atingă un nivel critic de putere și autonomie. Pe lângă chestiunile tehnice, miza este socială și politică. Cum gestionăm un posibil șomaj tehnologic de amploare?
Cum redistribuim bogăția creată de sisteme automatizate? Ce garanții avem că deciziile critice nu vor fi delegate unor mașini cu obiective opace?
Goldstein evocă soluții aflate pe masa de discuții: naționalizarea companiilor de IA suficient de puternice și distribuirea rentelor sub forma unui venit universal, pentru a preveni un dezechilibru sistemic.
Sunt idei controversate, dar formulate cu scopul de a limita riscurile unui raport de forțe care ne scapă din mână. Scenariul rămâne, deocamdată, ipotetic. Totuși, numeroși experți insistă că planificarea trebuie să înceapă acum.
Riscurile asociate AGI nu sunt doar o problemă de siguranță informatică; ating economia, echilibrul social și chiar continuitatea speciei.
A înțelege aceste pericole, a anticipa conflictele posibile și a construi mecanisme robuste de control devine un imperativ, dacă vrem ca inteligența artificială să rămână un aliat, nu să se transforme într-un adversar.
Comentează