Un expert în securitatea cibernetică de la OpenAI a emis un avertisment cu privire la potențialul pericol pe care inteligența artificială îl poate reprezenta pentru omenire, sugerând că acesta ar putea duce în cele din urmă la o sfârșit dramatic.
Cercetătorul a subliniat importanța abordării acestei tehnologii cu mare precauție și a recunoscut necesitatea unor măsuri de siguranță pentru a ne proteja de potențialele riscuri ale inteligenței artificiale.
„Cred că poate există o șansă de 10-20% de preluare a IA, cu mulți sau majoritatea oamenilor morți”, a spus fostul cercetător OpenAI, Paul Christiano, pentru podcastul „Bankless”, recent.
Când a discutat despre posibilitatea apocalipsei IA, Christiano a spus că, spre deosebire de Eliezer Yudkowsky, care a strigat de pe acoperișuri despre un scenariu „Terminator” alimentat de IA, el crede că sfârșitul nostru din cauza IA va veni mai treptat.
Scenariul apocalipsei IA
„Am tendința de a-mi imagina ceva mai degrabă ca o tranziție de un an de la sistemele IA, care sunt o problemă destul de mare, la un fel de accelerare a schimbării, urmată de o accelerare ulterioară”, a spus el în podcast.
Odată ce IA depășește pragul sensibilității umane, toate pariurile sunt oprite. Noua organizație nonprofit a fostului membru al echipei de siguranță OpenAI se bazează pe conceptul de aliniere IA, pe care Christiano l-a definit în linii mari încă din 2018, ca având motivele roboților aliniate cu cele ale oamenilor.
În timp ce OpenAI susține că „țintește ca inteligența generală artificială (AGI) să fie aliniată cu valorile umane și să urmeze intenția umană”, doar conceptul de AGI în sine este suficient pentru a oferi cercetătorilor precum Christiano acest fel de gânduri.
Mai degrabă decât IA să iasă „din senin” și să omoare pe toată lumea, Christiano a spus că „cel mai probabil mod în care murim” presupune ca toată IA desfășurată în viața de zi cu zi să se unească pentru a ne ucide. „Dacă dintr-un motiv oarecare, Doamne ferește, toate aceste sisteme IA ar încerca să ne omoare, ne-ar ucide cu siguranță”, a conchis el.