Premium
Dezbaterile zgomotoase privind riscurile și reglementările în materie de inteligență artificială (IA) au crescut cu mulți decibeli săptămâna trecută, devenind în același timp și mai greu de descifrat, scrie Sharon Goldman, într-un editorial Venture Beat.
A existat o ripostă de la tweet-urile senatorului Chris Murphy (D-CT) despre ChatGPT, inclusiv că "Ceva se apropie. Nu suntem pregătiți". Apoi a fost plângerea către FTC cu privire la OpenAI, precum și interzicerea ChatGPT de către Italia. Și, mai ales, scrisoarea deschisă semnată de Elon Musk, Steve Wozniak, care a propus o "pauză" de șase luni în ceea ce privește dezvoltarea inteligenței artificiale la scară largă. Aceasta a fost emisă de o organizație axată pe "risc x", numită Future of Life Institute, și, potrivit lui Eliezer Yudkowsky, nici măcar nu a mers suficient de departe.
Nu este surprinzător faptul că dezbaterea aprigă despre etica și riscurile IA, atât pe termen scurt, cât și pe termen lung, a fost amplificată de popularitatea masivă de care s-a bucurat ChatGPT de la OpenAI de când a fost lansat la 30 noiembrie. Iar numărul tot mai mare de instrumente de inteligență artificială conduse de industrie și construite pe modele lingvistice mari (LLM) - de la Bing de la Microsoft și Bard de la Google până la o serie de startup-uri - a dus la o scară mult mai mare a discuțiilor despre inteligența artificială în mass-media, în pub-urile din industrie și pe platformele sociale.
Dezbaterile privind inteligența artificială au deviat spre politic
Dar se pare că, pe măsură ce inteligența artificială părăsește laboratoarele de cercetare și se lansează în plină floare în spiritul cultural, promițând oportunități tentante, dar prezentând și pericole reale pentru societate, intrăm, de asemenea, într-o lume nouă și ciudată a puterii și politicii în materie de inteligență artificială. Dezbaterile privind IA nu mai sunt doar despre tehnologie, știință sau chiar realitate. Ele se referă, de asemenea, la opinii, temeri, valori, atitudini, credințe, perspective, resurse, stimulente și pur și simplu ciudățenii.
Acest lucru nu este în mod inerent rău, dar duce la elefantul din cameră desenat de DALL-E: De luni de zile încerc să-mi dau seama cum să acopăr colțurile confuze, oarecum înfricoșătoare și semiînfricoșătoare ale dezvoltării IA. Acestea se concentrează pe posibilitatea ipotetică ca inteligența generală artificială (AGI) să distrugă omenirea, cu fire de ceea ce a devenit recent cunoscut sub numele de ideologii "TESCREALE" - inclusiv "altruismul eficient" și "long termismul" și "transumanismul" - împletite. Veți găsi ceva science-fiction cusut în acest pulover al echipei AI, cu cuvintele "siguranța AI" și "alinierea AI" brodate în roșu.
Fiecare dintre aceste domenii ale peisajului IA are propria gaură de iepure în care să cobori, dintre care unele par relativ echilibrate, în timp ce altele duc la articole despre problema maximizării Paperclip; un viitor postuman creat de superinteligența artificială; și un muzeu pop-up din San Francisco dedicat evidențierii dezbaterii AGI cu un semn pe care scrie "ne pare rău că am ucis cea mai mare parte a umanității".
Deconectarea dintre inteligența artificială aplicată și predicțiile inteligenței artificiale
O mare parte din reportajele mele din VentureBeat se concentrează pe efectele inteligenței artificiale asupra întreprinderilor. Sincer, nu vedeți directori de la C-suite îngrijorându-se dacă AI va extrage atomii lor pentru a se transforma în agrafe de hârtie - ei se întreabă dacă AI și învățarea automată pot stimula serviciile pentru clienți sau pot face lucrătorii mai productivi.
Deconectarea este că există o mulțime de voci în companiile de top, de la OpenAI și Anthropic la DeepMind și peste tot în Silicon Valley, care au o agendă bazată, cel puțin parțial, pe unele dintre problemele și sistemele de convingeri TESCREAL. Este posibil ca acest lucru să nu fi contat prea mult în urmă cu 7, 10 sau 15 ani, când cercetarea în domeniul învățării profunde era la început, dar cu siguranță atrage multă atenție acum. Și devine din ce în ce mai dificil să discernem agenda din spatele unora dintre cele mai mari titluri de primă pagină.
Acest lucru a dus la suspiciuni și acuzații: De exemplu, săptămâna trecută, un articol din Los Angeles Times a evidențiat contradicția conform căreia Sam Altman, directorul general al OpenAI, a declarat că era "puțin speriat" de tehnologia companiei pe care "în prezent ajută la construirea și urmărește să o disemineze, în scop lucrativ, pe cât mai mult posibil".
În articol se spunea: "Să luăm în considerare pentru o secundă logica din spatele acestor declarații: De ce ai reveni în mod repetat pe scena publică, ca director general sau director executiv al unei companii tehnologice de profil înalt, pentru a proclama cât de îngrijorat ești de produsul pe care îl construiești și îl vinzi? Răspuns: În cazul în care apocalipticele discursuri despre puterea terifiantă a IA servesc strategiei dumneavoastră de marketing."
Trecerea de la tehnologie și știință la politică
În weekend, am postat un mesaj pe Twitter. Am scris că nu știam cum să abordez problemele care se ascund sub scrisoarea de "pauză" a IA, informațiile care au dus la tweet-urile senatorului Murphy, dezbaterile polarizante care au loc despre IA cu sursă deschisă și închisă, postarea în stil de profeție biblică a lui Sam Altman despre AGI. Toate aceste discuții sunt conduse parțial de cei care au convingeri despre care majoritatea publicului habar nu are - atât faptul că au aceste convingeri, cât și ceea ce înseamnă ele.
Ce ar trebui să facă un reporter umil care încearcă să fie echilibrat și rezonabil de obiectiv? Și ce poate face toată lumea din comunitatea IA - de la cercetare la industrie și politică - pentru a înțelege ce se întâmplă?
Fostul consilier politic al Casei Albe, Suresh Venkatasubramanian, a răspuns că problema este că "există o agendă politică uriașă în spatele a ceea ce se pretinde a fi o discuție despre tehnologie". Și alții au fost de acord că discursul în jurul inteligenței artificiale s-a mutat de pe tărâmul tehnologiei și al științei pe cel al politicii - și al puterii.
Tehnologia a fost întotdeauna politică, bineînțeles. Dar poate că este util să recunoaștem că dezbaterile actuale privind IA au urcat în stratosfera (sau s-au scufundat în mocirlă, în funcție de părerea dumneavoastră) discursului politic.
Petreceți timp cu riscurile din lumea reală
Au existat și alte recomandări utile pentru modul în care putem obține cu toții o anumită perspectivă: Rich Harang, arhitect principal de securitate la Nvidia, a scris pe Twitter că este important să vorbim cu oameni care construiesc și implementează aceste modele LLM. "Întrebați-i pe cei care vorbesc despre "x-risc" în materie de inteligență artificială care este experiența lor practică în ceea ce privește munca aplicată în acest domeniu", a sfătuit el, adăugând că este important să "petrecem ceva timp cu riscurile din lumea reală care există în prezent și care provin din cercetarea și dezvoltarea ML". Există o mulțime, de la probleme de securitate la probleme de mediu și până la exploatarea forței de muncă".
Și B Cavello, director pentru tehnologii emergente la Institutul Aspen, a subliniat că "predicțiile sunt adesea spații de dezacord". Aceștia au adăugat că au lucrat pentru a se concentra mai puțin asupra dezacordului și mai mult acolo unde oamenii sunt aliniați - mulți dintre cei care nu sunt de acord cu privire la AGI, de exemplu, sunt de acord cu necesitatea reglementării și cu faptul că dezvoltatorii de inteligență artificială trebuie să fie mai responsabili.
