Premium
OpenAI, dezvoltatorul din spatele chatbot-ului de inteligență artificială (AI) ChatGPT, a colaborat cu cel mai mare investitor al său, Microsoft, pentru a preveni cinci atacuri cibernetice legate de diferiți actori rău intenționați, conform cointelegraph.com.
OpenAI și Microsoft își unesc forțele pentru a preveni atacurile cibernetice
Potrivit unui raport, Microsoft a monitorizat grupuri de hacking legate de informațiile militare ruse, Garda Revoluționară a Iranului și guvernele chinez și nord-coreean, despre care spune că au explorat folosind modele de limbaj mari (LLM) AI în strategiile lor de hacking.
LLM-urile folosesc seturi vaste de date text pentru a crea răspunsuri care sună asemănător omului.
Cinci atacuri cibernetice au provenit din două grupuri asociate cu China
OpenAI a raportat că cele cinci atacuri cibernetice au provenit din două grupuri asociate cu China: Taifunul cărbunelui și Taifunul somonului. Atacurile au fost legate de Iran prin Crimson Sandstorm, Coreea de Nord prin Emerald Sleet și Rusia prin Forest Blizzard.
Grupurile au încercat să folosească ChatGPT-4 pentru cercetarea instrumentelor companiei și de securitate cibernetică, depanarea codului, generarea de scripturi, realizarea de campanii de phishing, traducerea documentelor tehnice, evitarea detectării malware-ului și studierea comunicațiilor prin satelit și a tehnologiei radar, conform OpenAI. Conturile au fost dezactivate la detectare.
Compania a dezvăluit descoperirea în timp ce implementa o interdicție generală asupra grupurilor de hacking susținute de stat care utilizează produse AI. Deși OpenAI a prevenit în mod eficient aceste apariții, a recunoscut provocarea de a evita orice utilizare rău intenționată a programelor sale.
În urma unui val de deepfake și escrocherii generate de AI după lansarea ChatGPT, factorii de decizie au intensificat controlul asupra dezvoltatorilor generativi de AI. În iunie 2023, OpenAI a anunțat un program de grant pentru securitate cibernetică de 1 milion de dolari pentru a îmbunătăți și măsura impactul tehnologiilor de securitate cibernetică bazate pe inteligență artificială.
În ciuda eforturilor OpenAI în domeniul securității cibernetice și a implementării măsurilor de protecție pentru a împiedica ChatGPT să genereze răspunsuri dăunătoare sau inadecvate, hackerii au găsit metode de a ocoli aceste măsuri și de a manipula chatbot-ul pentru a produce un astfel de conținut.
OpenAI, Microsoft, Anthropic și Google, au colaborat recent cu Administrația Biden
Peste 200 de entități, inclusiv OpenAI, Microsoft, Anthropic și Google, au colaborat recent cu Administrația Biden pentru a înființa Institutul pentru Siguranță AI și Consorțiul Institutului pentru Siguranță AI din Statele Unite (AISIC). Grupurile au fost înființate ca urmare a ordinului executiv al președintelui Joe Biden privind siguranța AI la sfârșitul lunii octombrie 2023, care își propune să promoveze dezvoltarea în siguranță a AI, să combată falsurile generate de AI și să abordeze problemele de securitate cibernetică.
