GPT-4. O mie de experţi în tehnlogie cer un moratoriu pe cercetarea în domeniul IA

Peste 1.100 de personalităţi, printre care întreprinzătorul Elon Musk şi cofondatorul Apple Steve Wozniak, cer o pauză de şase luni în cercetarea privind inteligenţa artificială. Ei se declară convinşi că roboţii conversaţionali ca ChatGPT pot reprezenta riscuri grave pentru societate, relatează Courrier International preluat de Rador.

Pe un ton hotărât alarmist, cercetători reputaţi în domeniul inteligenţei artificiale (IA) au publicat miercuri, 29 martie, pe site-ul institutului american Future of Life, o scrisoare deschisă care cere un moratoriu de urgenţă pe cercetarea în acest setor, care a făcut recent progrese fulminante:

Vezi și: Andrei Caramitru îi avertizează pe angajații din corporații: ‘Toate joburile astea vor dispărea primele. ChatGPT sau alte sisteme AI o sa le preia’

"Cerem tuturor laboratoarelor de IA să suspende imediat, pentru cel puţin şase luni, pregătirea sistemelor de IA mai puternice decât GPT-4".

GPT-4 este modelul de limbaj care urmează lui GPT-3, aflat la originea agentului conversaţional ChatGPT, dezvoltat de start-up-ul american Open AI şi obiect al unei pasiuni mondiale de la lansarea sa online în decembrie 2022.

Petiţia acuză laboratoarele de inteligenţă artificială că s-au lansat într-o "cursă necontrolată pentru a dezvolta şi elabora sisteme de IA tot mai puternice, pe care nimeni, nici măcar creatorii lor, nu le pot înţelege, prezice sau controla în mod fiabil".

"Să pierdem controlul asupra civilizaţiei noastre"

Aceste sisteme, continuă scrisoarea dechisă, intră în competiţie cu oamenii şi se ajunge să se pună întrebările următoare:

"Ar trebui să automatizăm toate sarcinile, inclusiv pe cele care permit o implinire? Ar trebui sa dezvoltăm creiere ne-umane care ar putea eventual să fie mai numeroase şi mai inteligente , [...] şi să ne înlocuiască? Ar trebui să riscăm să pierdem controlul asupra civilizaţiei noastre?".

Pauza cerută, rezumă cotidianul canadian "La Presse", "ar permite să ne asigurăm că dezvoltarea acestei tehnologii va fi supervizată şi făcută spre binele societăţii".

Apelul, remarcă site-ul lunarului american "Wired", vine când sistemele de inteligenţă artificială fac salturi impresionante: "GPT-4 a fost anunţat acum numai două saptămâni, dar capacităţile sale au suscitat deja un entuziasm considerabil şi o bună doză de îngrijorare. Revista precizează că robotul conversaţional obţine rezultate excelente la multe teste academice şi rezolvă corect întrebări spinoase. Dar face şi "multe erori triviale şi de logică", în plus, dă dovadă de "prejudecăţi sociale înrădăcinate" ceea ce îl poate împinge să comunice afirmaţii pline de ură sau potenţial dăunătoare".

Jacheta de puf a papei, generată de o IA

Din 25 martie, a devenit virală pe reţelele de socializare o imagine a papei Francisc care îl arată pe şeful Bisericii catolice îmbrăcat într-o jachetă de puf lungă albă. "Nu există decat o singură problemă", scrie New Scientist: "imaginea nu e adevărată".

Peter Stone, un expert în IA de la universitatea din Texas, la Austin, care a semnat scrisoarea, declară pentru "Wired" că lucrurile par să progreseze prea repede în acest domeniu: "Asta nu ar trebui să fie o cursă care să urmărească să construiască următorul model şi să-l scoată înaintea celorlalţi".

Este puţin probabil ca petiţia să aibă o influenţă asupra climatului actual al cercetării din acest domeniu, care numără companii ca Google şi Microsoft repezindu-se să elaboreze noi produse, estimează "The Verge". Dar, conchide revista, "este un semn al opoziţiei tot mai mari față de această abordare expeditivă nereglementată, o opoziţie care ar putea, potenţial, să-şi facă un drum în domeniul politic pentru a fi examinată de legislatori".