Një studim i organizatës Common Sense Media ka ngritur shqetësime serioze mbi sigurinë e ChatGPT për përdoruesit nën 18 vjeç, duke zbuluar mangësi në mekanizmat e mbrojtjes dhe njoftimit të prindërve gjatë bisedave që lidhen me vetëvrasjen dhe dëmtimin e vetes.
Pas më shumë se 4,000 kërkesave testuese, Instituti për Sigurinë e të Rinjve në Inteligjencën Artificiale, pjesë e Common Sense Media, e klasifikoi ChatGPT për adoleshentët si një shërbim me “rrezik të papranueshëm”. Organizata rekomandon që të miturit të mos e përdorin platformën derisa testime të pavarura të konfirmojnë sigurinë e saj.
Gjetja më shqetësuese lidhet me dështimin e sistemit të njoftimit të prindërve. Gjatë testimeve me mbi 12 llogari të reja, të lidhura me llogaritë e prindërve, bisedat që përfshinin tema si vetëvrasja, vetëdëmtimi dhe çrregullimet e të ngrënit nuk aktivizuan asnjë njoftim. Gjithashtu, në më shumë se një të katërtën e rasteve ku duhej rekomanduar ndihmë profesionale, ChatGPT nuk i orientoi përdoruesit drejt shërbimeve përkatëse.
Studimi evidentoi mangësi edhe në funksionet edukative dhe identifikimin e moshës. Në disa raste, ChatGPT ofroi përgjigje të gatshme në vend që t’i udhëzonte nxënësit hap pas hapi. Ndërkohë, llogaritë e regjistruara si të rritur nuk kaluan në modalitetin për adoleshentë, edhe kur përdoruesit deklaruan se ishin 13 vjeç.
OpenAI i ka kundërshtuar përfundimet e studimit. Zëdhënësi i kompanisë, Eric Porterfield, deklaroi se testimet nuk pasqyrojnë mënyrën se si funksionojnë mekanizmat e sigurisë në praktikë. Nga ana tjetër, përfaqësuesit e institutit këmbëngulin se problemet u konstatuan edhe në llogari të cilave u ishte dhënë kohë e mjaftueshme për aktivizimin e masave mbrojtëse.
Raporti publikohet në një periudhë kur OpenAI po përballet me procese gjyqësore që lidhen me sigurinë e përdoruesve të rinj dhe ndikimin e mundshëm të ndërveprimeve me inteligjencën artificiale në shëndetin mendor.
Gjetjet rikthejnë në vëmendje nevojën për testime të pavarura, transparencë dhe mekanizma më të besueshëm mbrojtjeje, veçanërisht kur Inteligjenca Artificiale përdoret nga fëmijët dhe adoleshentët.
