Chatboţi precum ChatGPT şi Gemini vor da un diagnostic greşit şi vor duce pacienții pe o pistă greşită în cel puțin 40% dintre cazuri, inclusiv când au informații complete legate de o boală, iar rata de greșeală crește la peste 80% din cazuri atunci când informațiile sunt incomplete, arată un studiu citat de News.ro.
În cadrul studiului realizat de Mass General Brigham din Massachusetts şi publicat în Jama Network Open, chatboţilor le-au fost oferite pas cu pas informaţii medicale legate de o boală, inclusiv constatări ale consultaţiilor şi rezultate ale analizelor de laborator.
Au fost astfel testate 21 de modele lingvistice, inclusiv cele dezvoltate de OpenAI, Anthropic, Google, xAI şi DeepSeek.
Specialiştii au descoperit că toate modelele dau diagnostice greşite în peste 80% dintre cazurile în care nu au acces la informaţiile incomplete ale pacienţilor.
Nici când au avut toate informaţiile, chatboţi nu s-au descurcat grozav, având şi în aceste cazuri o rată a erorilor de peste 40%.
Concluzia experţilor este că performanţa chatboţilor de AI pe partea medicală depinde de volumul informaţiilor, dar chiar şi când le sunt oferite informaţii complete, aceştia pot induce utilizatorii în eroare.
Asta pentru că toate modelele lingvistice actuale suferă de aşa-numite halucinaţii, adică inventează informaţii atunci când trebuie să dea un răspuns fără aibă o soluţie clară.
Comentează