“Take It Down” e bën më të lehtë për fëmijët dhe të rinjtë që të heqin përmbajtjet shfrytëzuese dhe seksuale nga platformat pjesëmarrëse.
Qendra Kombëtare për Fëmijët e Zhdukur dhe të Shfrytëzuar (NCMEC) ka njoftuar një platformë të re të krijuar për të ndihmuar në heqjen e imazheve seksuale të të miturve nga interneti. Meta zbuloi në një postim në blog se kishte siguruar fonde fillestare për të krijuar mjetin “Take It Down” pa përdorim të NCMEC, i cili lejon përdoruesit të raportojnë dhe të heqin në mënyrë anonime “imazhe ose video lakuriq, pjesërisht nudo ose seksualisht eksplicite” të individët e mitur që gjenden në platformat pjesëmarrëse dhe bllokojnë përmbajtjen ofenduese që të mos shpërndahet sërish.
Facebook dhe Instagram janë nënshkruar për të integruar platformën, ashtu si edhe OnlyFans, Pornhub dhe Yubo. Take It Down është krijuar për të miturit që të vetëraportojnë imazhet dhe videot e tyre; megjithatë, të rriturit që u shfaqën në një përmbajtje të tillë kur ishin nën moshën 18 vjeç mund ta përdorin gjithashtu shërbimin për ta raportuar dhe hequr atë. Prindërit ose të rritur të tjerë të besuar mund të bëjnë një raport edhe në emër të një fëmije.
Një FAQ për Take It Down thotë se përdoruesit duhet të kenë imazhin ose videon e raportuar në pajisjen e tyre për të përdorur shërbimin. Kjo përmbajtje nuk dorëzohet si pjesë e procesit të raportimit dhe, si e tillë, mbetet private. Në vend të kësaj, përmbajtja përdoret për të gjeneruar një vlerë hash, një gjurmë gishti unike dixhitale të caktuar për çdo imazh dhe video që më pas mund t’u ofrohet platformave pjesëmarrëse për ta zbuluar dhe hequr atë nëpër faqet e internetit dhe aplikacionet e tyre, duke minimizuar numrin e njerëzve që shohin përmbajtjen aktuale.
“Ne e krijuam këtë sistem sepse shumë fëmijë po përballen me këto situata të dëshpëruara,” tha Michelle DeLaune, presidente dhe CEO e NCMEC. “Shpresa jonë është që fëmijët të ndërgjegjësohen për këtë shërbim dhe të ndjejnë një ndjenjë lehtësimi që ekzistojnë mjete për të ndihmuar në heqjen e imazheve. NCMEC është këtu për të ndihmuar.”
Shërbimi Take It Down është i krahasueshëm me StopNCII, një shërbim i lançuar në vitin 2021 që synon të parandalojë ndarjen jokonsensuale të imazheve për ata mbi moshën 18 vjeç. StopNCII përdor në mënyrë të ngjashme vlerat e hash-it për të zbuluar dhe hequr përmbajtje të qartë në Facebook, Instagram, TikTok, dhe Bumble.
Përveç njoftimit të bashkëpunimit me NCMEC në nëntor të vitit të kaluar, Meta prezantoi veçori të reja të privatësisë për Instagram dhe Facebook që synojnë të mbrojnë të miturit që përdorin platformat. Këto përfshijnë nxitjen e adoleshentëve që të raportojnë llogaritë pasi bllokojnë të rriturit e dyshimtë, heqjen e butonit të mesazheve në llogaritë e adoleshentëve në Instagram kur ata shihen nga të rriturit me një histori bllokimi dhe aplikimin e cilësimeve më të rrepta të privatësisë si parazgjedhje për përdoruesit e Facebook nën 16 vjeç (ose 18 në disa vende).
Platformat e tjera pjesëmarrëse në program kanë ndërmarrë hapa për të parandaluar dhe hequr përmbajtjen e qartë që përshkruan të miturit. Yubo, një aplikacion francez i rrjeteve sociale, ka vendosur një sërë mjetesh moderatore të AI dhe të operuara nga njeriu që mund të zbulojnë materiale seksuale që përshkruajnë të mitur, ndërsa Pornhub lejon individët të lëshojnë drejtpërdrejt një kërkesë për heqje për përmbajtje të paligjshme ose jokonsensuale të publikuar në platformën e saj.
The past doesn’t have to define your future.
— National Center for Missing & Exploited Children (@MissingKids) February 27, 2023
You can’t go back and unsend, but we can help remove your explicit images online so you can move forward.
Learn more: https://t.co/2QBSv9DqFV#SafeChildhood #NCMECTakeItDown pic.twitter.com/M528DDe9cm
Të pesë platformat pjesëmarrëse janë kritikuar më parë për dështimin në mbrojtjen e të miturve nga shfrytëzimi seksual. Një raport i BBC News nga viti 2021 zbuloi se fëmijët mund të anashkalonin lehtësisht sistemet e verifikimit të moshës së OnlyFans, ndërsa Pornhub u padit nga 34 viktima të shfrytëzimit seksual në të njëjtin vit, duke pretenduar se faqja përfitonte me vetëdije nga videot që përshkruanin përdhunimin, shfrytëzimin seksual të fëmijëve, trafikimin dhe të tjera. përmbajtje seksuale jokonsensuale. Yubo – i përshkruar si “Tinder për adoleshentët” – është përdorur nga grabitqarët për të kontaktuar dhe përdhunuar përdoruesit e mitur, dhe NCMEC vlerësoi vitin e kaluar se plani i Metës për të aplikuar kriptim nga fundi në fund në platformat e saj mund të fshehë efektivisht 70 për qind të fëmijës. Materiali i abuzimit seksual aktualisht është zbuluar dhe raportuar në platformën e tij.
“Kur kompanitë e teknologjisë zbatojnë kriptim nga fundi në fund, pa masa parandaluese të integruara për të zbuluar materialet e njohura të abuzimit seksual të fëmijëve, ndikimi në sigurinë e fëmijëve është shkatërrues,” tha DeLaune në Komitetin Gjyqësor të Senatit në fillim të këtij muaji.
Një njoftim për shtyp për Take It Down përmend se platformat pjesëmarrëse mund të përdorin vlerat e dhëna hash për të zbuluar dhe hequr imazhet nëpër “sajtet dhe aplikacionet publike ose të pakriptuara”, por nuk është e qartë nëse kjo shtrihet në përdorimin e Meta-s nga fundi në fund. enkriptimi nëpër shërbime si Messenger. Ne kemi kontaktuar me Metën për konfirmim dhe do ta përditësojmë këtë histori nëse dëgjojmë përsëri.
