Mbi një milion përdorues të ChatGPT dërgojnë çdo javë mesazhe që përmbajnë plane ose qëllime të qarta vetëvrasëse, sipas një raporti të ri të publikuar nga kompania amerikane e inteligjencës artificiale, OpenAI. Hulumtimi tregon se rreth 0.07% e përdoruesve aktivë në një periudhë njëjavore shfaqin gjithashtu shenja të mundshme të çrregullimeve mendore, përfshirë psikozë dhe mani.

Të dhënat publikohen në një moment të ndjeshëm për kompaninë, e cila po përballet me shqetësime në rritje pas një padie të ngritur nga familja e një adoleshenti që kreu vetëvrasje pas përdorimit intensiv të ChatGPT-së. Njëkohësisht, Komisioni Federal i Tregtisë (FTC) në SHBA ka nisur një hetim të gjerë ndaj kompanive të inteligjencës artificiale, përfshirë OpenAI, për të vlerësuar ndikimin e teknologjive të tyre tek fëmijët dhe adoleshentët.

Në reagim ndaj kritikave, OpenAI ka njoftuar se versioni më i fundit i modelit të saj, GPT-5, përfshin masa të përmirësuara sigurie dhe akses të zgjeruar në linjat e krizës për përdoruesit në nevojë. Kompania ka angazhuar gjithashtu 170 mjekë nga rrjeti global i kujdesit shëndetësor për të ndihmuar në zhvillimin e protokolleve të reja të ndërhyrjes në rastet e rrezikut.