Rreth 1.2 milion njerëz në javë zhvillojnë biseda me ChatGPT që tregojnë se po planifikojnë të vetëvriten.
Shifra vjen nga kompania e saj mëmë OpenAI, e cila zbuloi se 0.15% e përdoruesve dërgojnë mesazhe që përfshijnë “tregues të qartë të planifikimit ose qëllimit të mundshëm të vetëvrasjes”, shkruan Sky News, përcjell Telegrafi.
Më parë këtë muaj, drejtori ekzekutiv i kompanisë, Sam Altman, vlerësoi se ChatGPT tani ka më shumë se 800 milionë përdorues aktivë çdo javë.
Ndërsa gjiganti i teknologjisë synon t’i drejtojë njerëzit e cenueshëm në linjat e ndihmës në rast krize, ai pranoi se “në disa raste të rralla, modeli mund të mos sillet siç është menduar në këto situata të ndjeshme”.
OpenAI vlerësoi mbi 1,000 “biseda sfiduese për vetëdëmtim dhe vetëvrasje” me modelin e saj të fundit GPT-5 dhe zbuloi se ishte në përputhje me “sjelljet e dëshiruara” në 91% të kohës.
Por kjo potencialisht do të thoshte që dhjetëra mijëra njerëz po ekspozohen ndaj përmbajtjes së IA-së që mund të përkeqësojë problemet e shëndetit mendor.
Kompania ka paralajmëruar më parë se masat mbrojtëse të hartuara për të mbrojtur përdoruesit mund të dobësohen në biseda më të gjata – dhe po punohet për ta adresuar këtë.
“ChatGPT mund të tregojë saktë një linjë telefonike për vetëvrasje kur dikush përmend për herë të parë qëllimin, por pas shumë mesazheve gjatë një periudhe të gjatë kohore, përfundimisht mund të ofrojë një përgjigje që shkon kundër masave tona mbrojtëse”, shpjegoi OpenAI.
Siç kujtojnë mediat, një familje në zi është aktualisht në proces paditjeje kundër OpenAI – dhe pretendon se ChatGPT ishte fajtore për vdekjen e djalit të tyre 16-vjeçar.