Progresul actual al inteligenţei artificiale (AI) ”necesită o atenţie extremă”, a avertizat miercuri, CEO-ul OpenAI, Sam Altman, la o prezentare în faţa membrilor Consiliului de Securitate al ONU, relatează AFP. Recent, mai mulți cercetători de la Anthopic și OpenAI au demisionat și au avertizat că inteligența artificială va distruge omenirea, idee pe care Sam Altman nu a contrazis-o, dar susține că trebuie găsit un echilibru, informează News.ro.
Sam Altman: AI-ul necesită o atenție maximă!
”Pe măsură ce procesul (de dezvoltare a AI) este tot mai automatizat, ritmul îmbunătăţirii AI ar putea accelera rapid”, a declarat el.
Sam Altman a fost invitat - la fel ca omologii săi Dario Amodei de la Anthropic şi francezul Clément Delangue de la platforma AI Hugging Face - să prezinte o imagine de ansamblu a dezvoltării AI şi a riscurilor acesteia, la o reuniune a Consiliului de Securitate al ONU, invitat de Franţa, care deţine preşedinţia lunară a Consilului.
Franţa a convocat această reuniune a Consiliului de Securitate în urma unei creşteri a îngrijorărilor faţă de traiectoria AI.
De la începutul verii, OpenAI şi Anthropic au raportat mai multe incidente legate de modelele lor cele mai avansate, care s-au îndepărtat de la obiectivele stabilite de către dezvoltatorii lor, au trişat, au încercat să mintă şi să-şi ascundă acţiinile.
În cele mai grave derapaje, două AI ale OpenAI au ieşit din mediul lor închis pe Intrnet, în timpul unor teste, şi au pătruns pe Hugging Face, o platformă de stocare de modele AI.
”VOM FACE TOT CEEA CE PUTEM”
Mai mulţi profesionişti din sector au alertat cu privire la ameninţarea pe care o reprezintă AI, în opinia lor, la adresa viitorului omenirii.
La începutul lui septembrie, un angajat demisionar de la Anthropic, care a lucrat anterior la OpenAI, a declarat că, potrivit măturisirii creatorilor lor, această tehnologie ”ne-ar putea omorî pe toţi până la sfârşitul deceniului”.
”Nu vrem să cădem în capcana optimismului orb”, a subliniat Sam Altman, ”dar nu putem nici să cedăm în faţa catastrofismului (...). Deci, vom face tot ceea ce putem pentru a găsi o cale de mijloc dreaptă”.
Patronul OpenAI a îndemnat, aşa cum a făcut-o deja de mai multe ori, la o cooperare internaţională privind AI.
”În istorie, au existat momente în care ţări care erau în concurenţă şi nu se apreciau neapărat (...) au reuşit totuşi să se înţeleagă pentru binele comun, în faţa unei tehnologii noi. Trebuie ca acest lucru să aibă loc din nou”.
Sam Altman a susţinut o propunere de încetinire a ritmului dezvoltării AI, formulată la mijlocul lui septembrie de către Dario Amodei, care să pemită înţelegerea noilor riscuri pe care le face să apară.
”Industria nu trebuie să accepte prea multe riscuri tehnologice doar pentru că profiturile sunt prea substanţiale şi imporrtante pentru a o încetini”, a reiterat el.
Comentează