Halucinațiile, termeni utilizați pentru a descrie născocirile și erorile pe care modelele de Inteligență Artificială (IA) le prezintă ca realitate, sunt o problemă care nu pare să dispară niciodată.
În ciuda progreselor tehnologice, aceste erori se intensifică pe măsură ce modelele devin mai puternice, iar utilizatorii tot mai mulți depind de instrumente precum ChatGPT de la OpenAI. De fapt, noile versiuni ale modelului OpenAI, o3 și o4-mini, au demonstrat o rată semnificativ mai mare a halucinațiilor, care a ajuns la aproximativ 48% în cazul modelului o4-mini.
Această problemă nu este izolată doar la OpenAI. Modelele similare de la Google și DeepSeek suferă de aceleași erori, ceea ce sugerează o problemă globală în industria IA.
În ciuda investițiilor uriașe în tehnologia IA, experții avertizează că halucinațiile sunt inerente și ar putea fi imposibil de eliminat complet, chiar și cu îmbunătățiri semnificative ale tehnologiei.
„În ciuda tuturor eforturilor noastre, vor continua să halucineze. Asta nu va dispărea niciodată”, a spus Amr Awadallah, director executiv al start-upului Vectara pentru NYT.
Acest fenomen ridică întrebări serioase cu privire la viitorul Inteligenței Artificiale și la încrederea utilizatorilor în aceste instrumente.
Comentează