Inteligjenca artificiale po krijon një sfidë të re për sigurinë e fëmijëve në internet. Sipas një investigimi të Bloomberg, modelet AI me parametra të hapur (open-weight), të cilat mund të shkarkohen dhe përdoren në kompjuterë privatë, po shfrytëzohen nga autorë abuzimesh për të gjeneruar materiale që paraqesin abuzim seksual me fëmijë (CSAM). Këto sisteme mund të funksionojnë pa lidhje të vazhdueshme me internetin, duke e bërë më të vështirë identifikimin e përdoruesve dhe monitorimin e aktiviteteve të paligjshme.
Ndryshe nga platformat komerciale, të cilat zakonisht kanë mekanizma sigurie dhe kufizime për përmbajtjet e ndaluara, disa modele të shkarkueshme mund të modifikohen për të anashkaluar këto mbrojtje. Sipas raportimit, kjo ka favorizuar krijimin e komuniteteve në dark web, ku shpërndahen materiale abuzive të gjeneruara me AI.
Shifrat e raportuara janë alarmante. Ekspertja e sigurisë së fëmijëve në inteligjencën artificiale, Rebecca Portnoff, deklaron se mbi 500 modele AI me kod ose parametra të hapur po përdoren për krijimin e materialeve CSAM, krahasuar me më pak se 12 dy vite më parë. Ndërkohë, rastet e raportuara të materialeve të tilla të gjeneruara me AI në Qendrën Kombëtare Amerikane për Fëmijët e Zhdukur dhe të Shfrytëzuar (NCMEC) kanë kaluar 1.5 milionë gjatë vitit të kaluar, nga rreth 67 mijë në vitin 2024, sipas shifrave të cituara nga investigimi.
“Pothuajse nuk ekziston asnjë mënyrë për të ushtruar mbikëqyrje pasi një model është shkarkuar dhe po funksionon në një sistem privat”, paralajmëron Portnoff. Sipas saj, kjo u krijon autorëve të abuzimeve ndjesinë se mund të veprojnë pa u zbuluar. Megjithatë, problemi nuk kufizohet vetëm te modelet e hapura. Edhe kompanitë që zhvillojnë sisteme të mbyllura AI po përballen me vështirësi në parandalimin e keqpërdorimit të teknologjisë së tyre.
Investigimi përmend gjithashtu shqetësimet lidhur me chatbot-in Grok dhe platformën X. Një padi e propozuar kolektive kundër kompanisë që zhvillon Grok përfshin pretendime se teknologjia është përdorur për të krijuar mijëra imazhe seksualisht eksplicite të një të miture. Këto mbeten pretendime ligjore që duhen dalluar nga fakte të provuara në gjykatë.
Zhvillimet kanë intensifikuar debatin për përgjegjësinë e kompanive teknologjike dhe nevojën për mekanizma më të fortë mbrojtjeje. Ndërsa modelet e hapura të AI kanë përdorime të rëndësishme në kërkim, inovacion dhe edukim, ekspertët paralajmërojnë se keqpërdorimi i tyre për abuzimin seksual të fëmijëve kërkon bashkëpunim më të madh mes zhvilluesve, platformave dhe autoriteteve ligjzbatuese.
