Peste un milion de persoane vorbesc săptămânal despre cum se gândesc să își facă singuri rău în conversațiile pe care le au cu ChatGPT. Anunțul făcut de compania fondată de Sam Altman sugerează că inteligența artificială agravează problemele de sănătate mintală, notează The Guardian.
Numărul a fost indicat chiar de OpenAI într-o postare publicată pe blogul companiei, care a precizat că mesajele pe care le primește chatbot-ul conțin „indicatori expliciți ai unor potențiale planuri sau intenții suicidare”.
Compania din spatele ChatGPT a ajuns la această concluzie după o actualizare privind modul în care chatbot-ul gestionează conversațiile sensibile.
Pe lângă persoanele care au gânduri de sinucidere, OpenAI a mai precizat că aproximativ 0,07 dintre utilizatorii activi într-o săptămână, aproximativ 560.000 din cei 800 de milioane de utilizatori, prezintă „posibile semne de urgențe de sănătate mintală legate de psihoză sau manie”.
Gigantul tehnologic a avertizat că aceste conversații sunt dificil de detectat sau de măsurat și că aceasta este o analiză preliminară.
OpenAI este în centrul atenție publice, după ce anul acesta a fost dată în judecată de familia unui adolescent de 16 ani care s-a sinucis după discuții îndelungate cu ChatGPT.
Comisia Federală pentru Comerț a lansat luna trecută, de asemenea, o investigație amplă asupra companiilor care creează chatboți bazați pe inteligență artificială, inclusiv OpenAI, pentru a afla cum măsoară acestea impactul negativ asupra copiilor și adolescenților.
OpenAI a susținut în postarea de pe blog că recenta actualizare GPT-5 a redus numărul de comportamente nedorite ale produsului său și a îmbunătățit siguranța utilizatorilor, într-o evaluare a modelului care a implicat peste 1.000 de conversații despre autovătămare și suicid.
De asemenea, afirmă că a extins accesul la liniile de urgență pentru situații de criză și le reamintește utilizatorilor să ia pauze în timpul sesiunilor lungi de conversație cu ChatGPT.
Compania a adăugat că a recrutat peste 170 de medici, experți din domeniul sănătății mintale, pentru a îmbunătăți modelul lingvistic de mari dimensiuni și pentru a ajuta la cercetările pe care le-a făcut în ultimele luni, ceea ce a inclus evaluarea siguranței răspunsurilor date de ChatGPT și ajutor în scrierea răspunsurilor chatbot-ului la întrebări legate de sănătatea mintală.
Atât cercetătorii din domeniul IA, cât și experții în sănătate mintală s-au arătat îngrijorați de tendința chatboților de a confirma deciziile sau iluziile utilizatorilor, indiferent dacă acestea pot fi dăunătoare.
În plus, specialiștii se tem că oamenii apelează din ce în ce mai des la chatboții cu inteligență artificială în căutare unui sprijin psihologic, avertizând că acest lucru dăunează persoanelor vulnerabile.
The Guardian notează că limbajul folosit în postarea de pe blog arată că OpenAI se distanțează de orice posibiliă legătură cauzală între produsul său și problemele de sănătate mintală cu care se confruntă utilizatorii ChatGPT.
„Simptomele de sănătate mintală și suferința emoțională sunt prezente în mod universal în societăți, iar o bază de utilizatori în creștere înseamnă că o parte din conversațiile ChatGPT includ aceste situații”, se arată în postarea OpenAI.
Șeful OpenAI, Sam Altman, a anunțat în urmă cu două săptămâni că intenționează să permită o gamă mai largă de conținut, inclusiv erotic, pe popularul său chatbot ChatGPT, ca parte a eforturilor sale de a-i „trata pe utilizatorii adulți ca pe adulți”.
El a precizat că versiunile viitoare ale popularului chatbot îi vor permite acestuia să se comporte într-un mod mai uman, „dar numai dacă doriți acest lucru, nu pentru că vrem să maximizăm utilizarea”.
Altman a mai spus că OpenAI a făcut anterior ChatGPT „destul de restrictiv pentru a ne asigura că suntem atenți la problemele de sănătate mintală”.
! Acest articol este proprietatea SafeNews.md și este protejat de legea drepturilor de autor. Orice preluare a conținutului se poate face DOAR în limită maximă de 1000 de semne. În mod OBLIGATORIU cu indicarea în TITLU a sursei citate, iar în text cu LINK ACTIV către pagina acestui articol. Preluarea integrală se poate realiza doar în condițiile unui ACORD prealabil întocmit cu redacția portalului.
