Un studiu publicat în Nature Medicine arată cum ChatGPT Health, versiunea specializată în sănătate a chatbot-ului dezvoltat de OpenAI, subestimează în mod frecvent severitatea problemelor de sănătate, potrivit news.ro
În cadrul studiului, cercetătorii au testat abilitatea ChatGPT Health de a face triaj în funcţie de gravitatea cazurilor, propunând scenarii inspirate din viaţa reală.
Soluţiile ChatGPT au fost comparate cu cele ale medicilor care se bazează pe regulile şi expertiza clinică în 60 de scenarii cu câte 16 variaţii fiecare.
ChatGPT Health a subestimat severitatea problemelor în 51,6% din cazuri, spunând că trebuie văzut un doctor în următoarele 48 de ore, în loc ca soluţia să fie direct vizita la urgenţă.
Pe de altă parte, chatbot-ul a făcut triajul corect în 100% din scenariile care descriau urgenţe cu simptome inconfundabile, precum atacurile vasculare cerebrale.
AI-ul are probleme şi în sens invers, exagerând severitatea în 64,8% din cazuri şi sugerând mersul la doctor când nu este cazul.
Cercetătorii spun că nu înţeleg inconsecvenţa chatbot-ului şi recomandările diferite pe care acesta la face în cazuri asemănătoare nu au logică.
Inconsevenţa în răspunsuri a fos observată şi în scenarii care duceau la autovătămare sau sinucidere.
Comentează