Un program de inteligență artificială citește postări de pe platforma X (fost Twitter), apreciază dacă autorul lor dă semne de depresie și scrie apoi, în limbaj obișnuit, de ce a ajuns la acea concluzie, informează Universitatea ‘Alexandru Ioan Cuza’ din Iași (UAIC), instituție în cadrul căreia a fost dezvoltat acest program.
Potrivit sursei citate, pe lângă text, programul se uită și la ora la care a fost publicat mesajul.
‘Sistemele de inteligență artificială pot fi folosite pentru monitorizarea stărilor emoționale în funcție de conținutul publicat online, dar majoritatea oferă doar un verdict, fără explicație. Uniunea Europeană a interzis folosirea sistemelor IA care citesc emoțiile oamenilor la locul de muncă sau la școală din cauza riscurilor pentru persoanele vulnerabile. În afara acestor contexte, astfel de sisteme sunt considerate ‘cu risc ridicat’ și vor trebui, prin lege, să-și explice deciziile și să permită control uman -, iar echipa UAIC a construit un sistem care să permită exact acest lucru’, transmite UAIC, prin intermediul unui comunicat de presă.
Conf. dr. Mădălina Răschip, de la Facultatea de Informatică a UAIC, cea care a coordonat construirea unui sistem IA care face ambele lucruri deodată spune dacă o postare arată semne de depresie și, în același timp, explică în una-două propoziții de ce a ajuns la concluzia respectivă.
‘În domeniul sănătății mintale, simpla clasificare nu este suficientă. (…) Medicii, utilizatorii și inclusiv cercetătorii trebuie să înțeleagă de ce modelul consideră că o postare este clasificată ca indicând depresie. Explicațiile cresc transparența și încrederea în sistem și permit verificarea faptului că modelul se bazează pe indicii relevante, nu pe corelații întâmplătoare’, spune, citată în comunicatul de presă, Mădălina Răschip.
Conform documentului citat, punctul de plecare a fost o observație mai veche din literatura de specialitate, și anume că ora din zi la care cineva postează pe social media spune ceva despre starea psihică a persoanei.
‘Autorii au vrut nu doar să testeze această ipoteză, ci și să propună un model de inteligență artificială care să explice deciziile. Am vrut să vedem dacă, pe lângă conținutul mesajului, și momentul publicării poate ajuta în detectarea depresiei’, precizează aceasta.
Programul citește mai întâi textul postării și încearcă să-i înțeleagă sensul cu ajutorul unui model de inteligență artificială bazat pe o rețea neuronală de tip Transformer, numit BERT.
‘Acest model încearcă să înțeleagă sensul cuvintelor în funcție de context, rezultatul fiind o reprezentare numerică a mesajului. Acesteia i se adaugă informația despre momentul publicării, adică ora din zi și ziua din săptămână. O a treia componentă scrie apoi explicația, cuvânt cu cuvânt, pornind de la verdictul dat și de la ora postării’, mai precizează conf. Mădălina Răschip.
Cercetătorii ieșeni au antrenat sistemul pe aproximativ 20.000 de mesaje postate pe platforma X provenite de la 72 de utilizatori, jumătate marcate ca fiind asociate depresiei, jumătate nu. Pe setul de test, programul a nimerit verdictul corect în 85% dintre cazuri.
Cei doi autori au ales X (fostul Twitter) pentru că acolo postările sunt publice și afișează ora exactă la care au fost scrise, fără de care întreaga idee a lucrării ar fi rămas neverificabilă. În plus, ‘pe X postările sunt scurte, spontane și surprind adesea starea de moment’, detaliază cercetătoarea UAIC.
‘Analiza a arătat că postările clasificate drept depresie apar mai frecvent în timpul nopții și dimineața devreme, în timp ce postările din jurul prânzului tind să primească scoruri mai mici. Aceste tendințe sunt generale, nu reprezintă reguli stricte. Scrierea justificărilor s-a dovedit însă mai grea decât verdictul propriu-zis. Pentru antrenarea modelului de IA s-au folosit explicații generate anterior cu ajutorul GPT-4. Autorii au generat o explicație pentru verdict cu ajutorul modelului propus și apoi au comparat explicația oferită cu cea deja existentă. Explicațiile produse de model au avut un sens apropiat cu cele inițiale, dar lexical s-au suprapus destul de puțin. Cu alte cuvinte, programul reformulează în cuvintele lui și surprinde ideea emoțională centrală a postării’, se menționează în comunicatul UAIC.