Un program de inteligenţă artificială citeşte postări de pe platforma X (fost Twitter), apreciază dacă autorul lor dă semne de depresie şi scrie apoi, în limbaj obişnuit, de ce a ajuns la acea concluzie, informează Universitatea "Alexandru Ioan Cuza" din Iaşi (UAIC), instituţie în cadrul căreia a fost dezvoltat acest program.
Potrivit sursei citate, pe lângă text, programul se uită şi la ora la care a fost publicat mesajul.
"Sistemele de inteligenţă artificială pot fi folosite pentru monitorizarea stărilor emoţionale în funcţie de conţinutul publicat online, dar majoritatea oferă doar un verdict, fără explicaţie. Uniunea Europeană a interzis folosirea sistemelor IA care citesc emoţiile oamenilor la locul de muncă sau la şcoală din cauza riscurilor pentru persoanele vulnerabile. În afara acestor contexte, astfel de sisteme sunt considerate 'cu risc ridicat' şi vor trebui, prin lege, să-şi explice deciziile şi să permită control uman -, iar echipa UAIC a construit un sistem care să permită exact acest lucru", transmite UAIC, prin intermediul unui comunicat de presă remis Agerpres.
Conf. dr. Mădălina Răschip, de la Facultatea de Informatică a UAIC, cea care a coordonat construirea unui sistem IA care face ambele lucruri deodată spune dacă o postare arată semne de depresie şi, în acelaşi timp, explică în una-două propoziţii de ce a ajuns la concluzia respectivă.
"În domeniul sănătăţii mintale, simpla clasificare nu este suficientă. (...) Medicii, utilizatorii şi inclusiv cercetătorii trebuie să înţeleagă de ce modelul consideră că o postare este clasificată ca indicând depresie. Explicaţiile cresc transparenţa şi încrederea în sistem şi permit verificarea faptului că modelul se bazează pe indicii relevante, nu pe corelaţii întâmplătoare", spune, citată în comunicatul de presă, Mădălina Răschip.
Conform documentului citat, punctul de plecare a fost o observaţie mai veche din literatura de specialitate, şi anume că ora din zi la care cineva postează pe social media spune ceva despre starea psihică a persoanei.
"Autorii au vrut nu doar să testeze această ipoteză, ci şi să propună un model de inteligenţă artificială care să explice deciziile. Am vrut să vedem dacă, pe lângă conţinutul mesajului, şi momentul publicării poate ajuta în detectarea depresiei", precizează aceasta.
Programul citeşte mai întâi textul postării şi încearcă să-i înţeleagă sensul cu ajutorul unui model de inteligenţă artificială bazat pe o reţea neuronală de tip Transformer, numit BERT.
"Acest model încearcă să înţeleagă sensul cuvintelor în funcţie de context, rezultatul fiind o reprezentare numerică a mesajului. Acesteia i se adaugă informaţia despre momentul publicării, adică ora din zi şi ziua din săptămână. O a treia componentă scrie apoi explicaţia, cuvânt cu cuvânt, pornind de la verdictul dat şi de la ora postării", mai precizează conf. Mădălina Răschip.
Cercetătorii ieşeni au antrenat sistemul pe aproximativ 20.000 de mesaje postate pe platforma X provenite de la 72 de utilizatori, jumătate marcate ca fiind asociate depresiei, jumătate nu. Pe setul de test, programul a nimerit verdictul corect în 85% dintre cazuri.
Cei doi autori au ales X (fostul Twitter) pentru că acolo postările sunt publice şi afişează ora exactă la care au fost scrise, fără de care întreaga idee a lucrării ar fi rămas neverificabilă. În plus, "pe X postările sunt scurte, spontane şi surprind adesea starea de moment", detaliază cercetătoarea UAIC.
"Analiza a arătat că postările clasificate drept depresie apar mai frecvent în timpul nopţii şi dimineaţa devreme, în timp ce postările din jurul prânzului tind să primească scoruri mai mici. Aceste tendinţe sunt generale, nu reprezintă reguli stricte. Scrierea justificărilor s-a dovedit însă mai grea decât verdictul propriu-zis. Pentru antrenarea modelului de IA s-au folosit explicaţii generate anterior cu ajutorul GPT-4. Autorii au generat o explicaţie pentru verdict cu ajutorul modelului propus şi apoi au comparat explicaţia oferită cu cea deja existentă. Explicaţiile produse de model au avut un sens apropiat cu cele iniţiale, dar lexical s-au suprapus destul de puţin. Cu alte cuvinte, programul reformulează în cuvintele lui şi surprinde ideea emoţională centrală a postării", se menţionează în comunicatul UAIC.
