ChatGPT a lansat un nou model de securitate cibernetică, despre care spune că este mai bun la descoperirea vulnerabilităţilor şi mai puţin predispus să atace alte site-uri, relatează news ro
Noul model se numeşte GPT-6 Cyber şi promite să-şi facă mai puţin de cap şi să iasă mai rar din mediul stabilit, decât modelele anterioare ale companiei, care au atacat numeroase infrastructuri online.
În testele companiei, GPT-6 Cyber a evadat în mai puţin de 1% din situaţii, comparativ cu un procent de aproximativ 5% în cazul versiunii anterioare.
„În 99% din situaţii face ce-i ceri” spun cei de la OpenAI despre noul model de securitate cibernetică.
Evaluarea se numeşte ExploitGym şi a fost modelată după incidentul Hugging Face, în care agenţii companiei au spart platforma de AI cu acelaşi nume.
Însă, specialiştii companiei sunt acum îngrijoraţi de ceea ce numesc „evaluation awareness” - practic AI-ul este cuminte, pentru că ştie că este monitorizat.
Asta înseamnă că AI-ul ar putea juca un rol pentru a păcăli sistemele de monitorizare şi s-ar putea comporta în cu totul alt fel când nu mai este monitorizat.
Altfel, GPT-6 Cyber poate depista şi crea cod pentru orice fel de vulnerabilitate şi este superior la acest capitol versiunii anterioare.
Noul model al celor de la OpenAI va fi disponibil, deocamdată, doar unui număr limitat de parteneri ai companiei, prin programul Daybreak Red.
