Un program de inteligență artificială, dezvoltat la UAIC din Iași, analizează postări de pe platforma X (fost Twitter) pentru a detecta semne de depresie și explică motivele deciziei sale. Acest sistem poate fi utilizat pentru monitorizarea stărilor emoționale online, fiind diferit de alte soluții care oferă doar verdicturi.
Potrivit sursei, programul ia în considerare atât conținutul mesajului, cât și ora publicării. În contextul european, sistemele IA care citesc emoțiile la locul de muncă sau în școli sunt interzise din cauza riscurilor pentru vulnerabili, însă acest sistem a fost construit pentru a fi transparent și a permite controlul uman, fiind clasificat ca 'cu risc ridicat'.
Citește și: Aproape 300 de muncitori lucrează pe șantierul Spitalului Regional de Urgență Iași
Detalii despre funcționarea sistemului IA pentru detectarea depresiei
Coordonată de conf. dr. Mădălina Răschip, cercetătoarea de la Facultatea de Informatică a UAIC explică că modelul nu doar clasifică postările, ci și oferă explicații clare despre motivul acestei decizii. Aceasta consideră că în domeniul sănătății mintale, transparența este esențială pentru încredere și verificare.
Modelul folosește o rețea neuronală de tip Transformer, numită BERT, pentru a înțelege sensul cuvintelor în context și pentru a genera reprezentări numerice ale mesajelor. La acestea se adaugă ora și ziua publicării, iar sistemul produce explicații cu cuvintele, pornind de la verdict și de la momentul postării.
Pentru antrenament, cercetătorii au folosit circa 20.000 de mesaje de pe X, provenind de la 72 de utilizatori, jumătate marcate ca fiind asociate depresiei. Pe setul de test, sistemul a identificat corect starea în 85% dintre cazuri. Postările din timpul nopții și dimineața devreme au fost considerate mai frecvent asociate depresiei, în timp ce cele din jurul prânzului aveau scoruri mai mici. Explicațiile generate anterior cu GPT-4 au ajutat la clarificarea deciziilor sistemului.