ChatGPT do t’u bëjë të ditur prindërve nëse fëmija është në “shqetësim akut”

Ky veprim vjen pasi një padi u ngrit kundër OpenAI nga prindërit e 16-vjeçarit Adam Raine, i cili kreu vetëvrasje në prill.
OpenAI ka njoftuar një seri kontrollesh prindërore për chatbot-in e saj të inteligjencës artificiale ChatGPT, i cili përfshin njoftimin e prindërve kur fëmija i tyre është në gjendje të vështirë.

Kjo vjen pasi një padi u ngrit kundër kompanisë dhe CEO-s së saj Sam Altman nga prindërit e 16-vjeçarit Adam Raine, i cili kreu vetëvrasje në prill.

Prindërit pretenduan se ChatGPT krijoi një varësi psikologjike tek Adam, duke e udhëzuar atë të planifikonte dhe të merrte jetën e tij në fillim të këtij viti dhe madje shkroi një shënim vetëvrasjeje për të.

OpenAI thotë se kontrollet e reja prindërore që do t’u lejojnë të rriturve të menaxhojnë se cilat veçori mund të përdorin fëmijët e tyre në shërbim do të vihen në dispozicion brenda muajit të ardhshëm.

Kontrollet e OpenAI do t’u lejojnë prindërve të lidhin llogarinë e tyre me atë të fëmijëve të tyre dhe do t’u lejojnë atyre të menaxhojnë se cilat veçori mund të hyjë fëmija i tyre. Kjo përfshin gjithashtu historikun e bisedave dhe kujtesën, faktet e përdoruesit që IA ruan automatikisht.

Blogu i OpenAI tha gjithashtu se ChatGPT do t’u dërgojë prindërve njoftime nëse zbulon se “adoleshenti i tyre është në një moment shqetësimi akut”.

Megjithatë, kompania nuk specifikoi se çfarë mund të shkaktojë një alarm të tillë, por tha se funksioni do të udhëhiqet nga ekspertë.

Por disa thonë se masat nuk shkojnë aq larg sa duhet.

Jay Edelson, avokati i prindërve të Raine, e përshkroi njoftimin e OpenAI si “premtime të paqarta për të bërë më mirë” dhe “asgjë më shumë sesa ekipi i menaxhimit të krizave të OpenAI që përpiqet të ndryshojë temën”.

Altman “duhet ose të thotë pa mëdyshje se beson që ChatGPT është i sigurt ose ta tërheqë menjëherë nga tregu”, tha Edelson të martën.

Meta, kompania mëmë e Instagram, Facebook dhe WhatsApp, tha gjithashtu të martën se tani po bllokon chatbot-et e saj nga biseda me adoleshentët rreth vetëlëndimit, vetëvrasjes, çrregullimeve të të ngrënit dhe bisedave romantike të papërshtatshme, dhe në vend të kësaj i drejton ata te burimet e ekspertëve. Meta tashmë ofron kontrolle prindërore në llogaritë e adoleshentëve.

Një studim i publikuar javën e kaluar në revistën mjekësore Psychiatric Services zbuloi mospërputhje në mënyrën se si tre chatbot-e të inteligjencës artificiale të njohura iu përgjigjën pyetjeve në lidhje me vetëvrasjen.

Studimi nga studiuesit në Korporatën RAND gjeti nevojën për “përsosje të mëtejshme” në ChatGPT, Gemini të Google dhe Claude të Anthropic. Studiuesit nuk i studiuan chatbot-et e Meta-s.

Autori kryesor i studimit, Ryan McBain, tha të martën se “është inkurajuese të shohësh OpenAI dhe Meta duke prezantuar veçori si kontrollet prindërore dhe duke i drejtuar bisedat e ndjeshme modeleve më të afta, por këto janë hapa graduale”.

“Pa standarde të pavarura sigurie, testime klinike dhe standarde të zbatueshme, ne ende mbështetemi te kompanitë për të vetërregulluar në një hapësirë ​​ku rreziqet për adoleshentët janë jashtëzakonisht të larta”, tha McBain, një studiues i lartë i politikave në RAND dhe profesor asistent në shkollën mjekësore të Universitetit të Harvardit.