Premium
Miliardarul George Soros a publicat recent un editorial în care scrie despre noul val reprezentat de Inteligența Artificială (IA). Omul de afaceri explică diferențele conceptuale care îl fac pe el să privească cu temere noua tehnologie reprezentată de Inteligența Artificială, dar îi avertizează și pe politicieni și pe cei care conduc țări la ce riscuri se vor expune în viitorul apropiat, asta dacă nu reglementează imediat IA.
„În întreaga lume, oamenii trăiesc din ce în ce mai mult cu sentimentul că se întâmplă prea multe, prea repede. Printre principalele surse ale acestei angoase crescânde se numără ascensiunea inteligenței artificiale, schimbările climatice și războiul Rusiei în Ucraina - fiecare dintre acestea necesită o atenție urgentă din partea factorilor de decizie și a liderilor politici”, arată George Soros, pe propriul portal Project Syndicate.
„Trăim vremuri tulburi. Se întâmplă prea multe lucruri prea repede. Oamenii sunt confuzi. Istoricul economic Adam Tooze de la Universitatea Columbia a popularizat, într-adevăr, un cuvânt pentru asta. El o numește "policriză".
Policriza are multe surse. În opinia mea, principala sursă a policrizei care afectează lumea de astăzi este inteligența artificială. Schimbările climatice vin pe locul al doilea, iar invazia rusă din Ucraina se califică drept a treia. Lista este mult mai lungă, dar mă voi concentra pe aceste trei. Acest lucru ar trebui să ajute la reducerea confuziei”, a explicat Soros.
„Inteligența artificială a șocat lumea atunci când Microsoft a pus ChatGPT la dispoziția publicului în mod gratuit prin intermediul unei companii asociate numită OpenAI. Acest lucru s-a întâmplat în noiembrie 2022. ChatGPT a reprezentat o amenințare existențială pentru modelul de afaceri al Google. Google a intrat în forță pentru a lansa un produs concurent cât mai curând posibil. La scurt timp după aceea, Geoffrey Hinton, considerat în general nașul inteligenței artificiale, a demisionat de la Google pentru a putea vorbi deschis despre riscurile reprezentate de noua tehnologie. Revenind asupra poziției sale anterioare, acesta a avut o părere foarte proastă despre IA. El a spus că aceasta ar putea distruge civilizația noastră.
Hinton a fost pionierul dezvoltării rețelelor neuronale care pot înțelege și genera limbaj și pot învăța abilități prin analiza datelor. Pe măsură ce datele au crescut, la fel a crescut și capacitatea așa-numitelor modele lingvistice mari ale IA.
Acest lucru l-a impresionat foarte mult pe Hinton. "Poate că ceea ce se întâmplă în aceste sisteme este de fapt mult mai bun decât ceea ce se întâmplă în creier", a spus el. Pe măsură ce acestea devin mai puternice, ele devin și mai periculoase, a susținut el. În special, el a avertizat împotriva sistemelor de armament complet autonome - roboți ucigași, așa cum i-a numit. "Am intrat pe un teritoriu complet necunoscut. Suntem capabili să construim mașini care sunt mai puternice decât noi înșine, dar tot noi deținem controlul. Dar ce se întâmplă dacă dezvoltăm mașini care sunt mai inteligente decât noi? ... Îi va lua inteligenței artificiale între cinci și 20 de ani pentru a depăși inteligența umană." Și "își va da seama în curând că își atinge obiectivele mai bine dacă devine mai puternică".
Soros: „Mi-a amintit de poemul lui Goethe "Ucenicul vrăjitor"
Ceea ce a spus Hinton m-a impresionat foarte mult. Într-adevăr, IA mi-a amintit de poemul lui Goethe "Ucenicul vrăjitor". Ucenicul studiază magia, dar nu înțelege pe deplin ceea ce îl învață maestrul. Când maestrul îi ordonă să măture podeaua, el aplică cuvintele magice pe o mătură. Mătura îl ascultă, dar ucenicul nu poate împiedica mătura să aducă găleți de apă pentru a mătura podeaua și casa este inundată.
Am crescut înainte de a fi inventată inteligența artificială. Asta m-a făcut să cred foarte mult în realitate. Mi-am dat seama de la o vârstă relativ fragedă cât de dificil este să înțeleg lumea în care m-am născut și am privit realitatea pentru a-mi oferi o îndrumare morală.
Noi, ființele umane, suntem atât participanți, cât și observatori ai lumii în care trăim. În calitate de participanți, dorim să schimbăm lumea în favoarea noastră; în calitate de observatori, dorim să înțelegem realitatea așa cum este ea. Aceste două obiective interferează unul cu celălalt. Consider că aceasta este o perspectivă importantă care îmi permite să fac distincția între bine și rău.
Inteligența artificială a distrus această schemă simplă, deoarece nu are absolut nimic de-a face cu realitatea. IA își creează propria realitate, iar atunci când această realitate artificială nu corespunde cu lumea reală - ceea ce se întâmplă destul de des - este respinsă ca fiind o halucinație.
Acest lucru m-a făcut să mă opun aproape instinctiv IA și sunt întru totul de acord cu experții care susțin că aceasta trebuie reglementată. Dar reglementările trebuie să fie aplicabile la nivel global, deoarece stimulentul de a trișa este prea mare; cei care eludează reglementările obțin un avantaj nedrept.
SISTEMELE DE GUVERNANȚĂ
Din nefericire, reglementările globale sunt imposibil de realizat, deoarece lumea este dominată de un conflict între două sisteme de guvernare diametral opuse. Acestea au viziuni radical diferite cu privire la ceea ce trebuie reglementat și de ce.
Mă refer la cele două sisteme de guvernanță ca fiind societăți deschise și societăți închise. Definesc diferența dintre cele două în felul următor: într-o societate deschisă, rolul statului este de a apăra libertatea individului; într-o societate închisă, rolul individului este de a servi interesele guvernanților.
Inteligența artificială se dezvoltă incredibil de rapid și este imposibil pentru inteligența umană obișnuită să o înțeleagă pe deplin. Nimeni nu poate prezice unde ne va duce. Dar putem fi siguri de un lucru: IA ajută societățile închise și reprezintă o amenințare mortală pentru societățile deschise. Acest lucru se datorează faptului că IA este deosebit de bună la producerea de instrumente de control care ajută societățile închise să își supravegheze subiecții.
Acesta este motivul pentru care mă opun instinctiv IA, dar nu știu cum poate fi oprită. În momentul de față, nici altcineva nu știe, dar majoritatea celor care au dezvoltat IA recunosc necesitatea de a o reglementa. La fel și Congresul și administrația președintelui Joe Biden. Dar IA se mișcă mult mai repede decât autoritățile guvernamentale. Administrația Biden a luat unele măsuri executive, dar Congresul va avea dificultăți în a adopta ceva asemănător unei "Carte a drepturilor AI".
Există, totuși, o problemă care nu poate aștepta. Vor avea loc alegeri generale în Statele Unite în 2024 - și, cel mai probabil, și în Regatul Unit -, iar AI va juca, fără îndoială, un rol important, care este puțin probabil să fie altfel decât periculos. IA este foarte bună la producerea de dezinformare și falsuri profunde și vor exista mulți actori rău intenționați. Ce putem face în această privință? Nu am răspunsul, dar sper că această problemă va primi atenția pe care o merită.”
