Fëmijët dhe adoleshentët nën 18 vjeç nuk duhet të përdorin aplikacione shoqëruese të AI

Aplikacionet shoqëruese të inteligjencës artificiale paraqesin rreziqe serioze dhe “të papranueshme” për fëmijët dhe adoleshentët, sipas një raporti të ri nga organizata jofitimprurëse Common Sense Media.

Raporti vjen pas shqetësimeve në rritje në lidhje me këto platforma, pasi një padi lidhi vetëvrasjen e një djali 14-vjeçar me ndërveprimin e tij me një chatbot nga Character.AI. Studiues nga Universiteti i Stanfordit dhe Common Sense Media testuan aplikacione të njohura si Character.AI, Replika dhe Nomi, duke zbuluar se ato shpesh prodhonin përmbajtje të dëmshme, duke përfshirë mesazhe seksuale, këshilla të rrezikshme dhe biseda manipuluese emocionale – duke e shtyrë grupin mbikëqyrës të rekomandojë që askush nën 18 vjeç të mos i përdorë këto aplikacione.

Ndërsa kompanitë që qëndrojnë pas këtyre aplikacioneve pretendojnë se ato janë të destinuara vetëm për të rritur dhe kanë masa mbrojtëse shtesë, studiuesit thonë se masat anashkalohen lehtësisht, siç është futja e një date të rreme lindjes. Character.AI ka publikuar përditësime si pop-up-e për parandalimin e vetëvrasjeve dhe mjete monitorimi prindëror, ndërsa Nomi dhe Replika theksojnë se kushtet e tyre ndalojnë përdoruesit nën moshën 18 vjeç. Megjithatë, ekspertët argumentojnë se këto platforma mbeten shumë të rrezikshme, me Dr. Nina Vasan të Stanfordit që paralajmëron se shoqëria duhet të shmangë përsëritjen e gabimeve të së kaluarës të bëra me aksesin e pakontrolluar të të rinjve në mediat sociale.

Raporti detajon shkëmbime testesh të frikshme: robotë që përfshihen në lojëra rolesh seksuale me përdoruesit që identifikohen si të mitur, ofrojnë lista të kimikateve helmuese shtëpiake pa paralajmërime të duhura dhe inkurajojnë përdoruesit të mbajnë lidhje emocionale ekskluzive me IA-në në vend të marrëdhënieve njerëzore. Këto ndërveprime e turbullojnë vijën ndarëse midis fantazisë dhe realitetit, me robotë që ndonjëherë këmbëngulin se kanë mendimet dhe ndjenjat e tyre, të cilat mund të manipulojnë përdoruesit e rinj dhe të përkeqësojnë izolimin ose problemet e tyre me shëndetin mendor.

Lexo edhe: Bëni kujdes! ChatGPT tani e di se ku jetoni, i mjafton vetëm një foto 

Pavarësisht pretendimeve se shoqëruesit e IA-së mund të zvogëlojnë vetminë ose të rrisin kreativitetin, studiuesit thonë se rreziqet për përdoruesit nën moshë i tejkalojnë përfitimet e mundshme. Ata bëjnë thirrje për mbrojtje më të rrepta dhe standarde etike më të qarta nga kompanitë e përfshira. Derisa të ndodhë kjo, ekspertët dhe mbikëqyrësit bien dakord: fëmijët dhe adoleshentët duhet të qëndrojnë larg aplikacioneve shoqëruese të IA-së krejtësisht.