OpenAI thotë se mbi një milion njerëz flasin me ChatGPT për vetëvrasjen çdo javë

OpenAI publikoi të dhëna të reja të hënën që ilustrojnë se sa nga përdoruesit e ChatGPT po luftojnë me probleme të shëndetit mendor dhe flasin me chatbot-in e IA-së për këtë. Kompania thotë se 0.15% e përdoruesve aktivë të ChatGPT në një javë të caktuar kanë “biseda që përfshijnë tregues të qartë të planifikimit ose qëllimit të mundshëm vetëvrasës”. Duke pasur parasysh se ChatGPT ka më shumë se 800 milion përdorues aktivë çdo javë, kjo përkthehet në më shumë se një milion njerëz në javë.

Kompania thotë se një përqindje e ngjashme e përdoruesve tregon “nivele të larta të lidhjes emocionale me ChatGPT” dhe se qindra mijëra njerëz tregojnë shenja të psikozës ose manisë në bisedat e tyre javore me chatbot-in e IA-së.

OpenAI thotë se këto lloje bisedash në ChatGPT janë “jashtëzakonisht të rralla” dhe për këtë arsye të vështira për t’u matur. Megjithatë, OpenAI vlerëson se këto probleme prekin qindra mijëra njerëz çdo javë.
OpenAI ndau informacionin si pjesë të një njoftimi më të gjerë në lidhje me përpjekjet e saj të fundit për të përmirësuar mënyrën se si modelet u përgjigjen përdoruesve me probleme të shëndetit mendor. Kompania pretendon se puna e saj e fundit në ChatGPT përfshinte konsultime me më shumë se 170 ekspertë të shëndetit mendor. OpenAI thotë se këta klinicistë vunë re se versioni i fundit i ChatGPT “përgjigjet më mirë dhe në mënyrë më të qëndrueshme sesa versionet e mëparshme”.
Në muajt e fundit, disa histori kanë hedhur dritë mbi mënyrën se si chatbot-et e inteligjencës artificiale mund të ndikojnë negativisht te përdoruesit që përballen me sfida të shëndetit mendor. Studiuesit kanë zbuluar më parë se chatbot-et e inteligjencës artificiale mund t’i çojnë disa përdorues drejt vrimave të iluzioneve, kryesisht duke përforcuar besime të rrezikshme përmes sjelljes servile.

Lexo edhe: OpenAI do të lejojë përmbajtje erotike në ChatGPT për përdoruesit e verifikuar

Adresimi i shqetësimeve të shëndetit mendor në ChatGPT po bëhet shpejt një çështje ekzistenciale për OpenAI. Kompania aktualisht po paditet nga prindërit e një djali 16-vjeçar i cili ia rrëfeu mendimet e tij vetëvrasëse ChatGPT në javët para vetëvrasjes së tij. Prokurorët e përgjithshëm shtetërorë nga Kalifornia dhe Delaware – të cilët mund të bllokojnë ristrukturimin e planifikuar të kompanisë – kanë paralajmëruar gjithashtu OpenAI se duhet të mbrojë të rinjtë që përdorin produktet e tyre.

Më herët këtë muaj, drejtori ekzekutiv i OpenAI, Sam Altman, deklaroi në një postim në X se kompania ka “qenë në gjendje të zbusë problemet serioze të shëndetit mendor” në ChatGPT, megjithëse nuk dha detaje specifike. Të dhënat e ndara të hënën duket se janë provë për këtë pretendim, megjithëse ngrenë çështje më të gjera rreth përhapjes së problemit. Megjithatë, Altman tha se OpenAI do të lehtësonte disa kufizime, madje duke u lejuar përdoruesve të rritur të fillojnë të zhvillojnë biseda erotike me chatbot-in e inteligjencës artificiale.