Një incident shumë shqetësues ka ndodhur nga Almendralejo, një qytet në Spanjën jugore. Imazhet ‘deepfake’, të krijuara nga AI, të vajzave të reja nga shkollat e mesme të qytetit janë shpërndarë, duke shkaktuar shqetësim dhe alarm tek banorët.
Bazuar në raportet nga El País, këto imazhe të manipuluara, të krijuara nga fotot e marra nga profilet e mediave sociale të vajzave, u qarkulluan në katër nga pesë shkollat e mesme në qytet. Mjeti i inteligjencës artificiale pas këtyre “deepfakes” është një aplikacion i quajtur Clothoff, i krijuar për të “zhveshur” imazhet në mënyrë shqetësuese, siç raportohet nga Euronews.
Deri më tani janë identifikuar mbi 20 viktima, të moshës 11-17 vjeç. Miriam Al Adib, një mjeke dhe prind i një prej vajzave të prekura, ekspozoi këtë akt të tmerrshëm përmes pranisë së saj në mediat sociale. Në një video në Instagram, Al Adib tregoi shqetësimin e vajzës së saj pasi zbuloi imazhin e saj të manipuluar.
Menjëherë, prindërit e vajzave të prekura u bënë bashkë, duke formuar një grup mbështetës në WhatsApp për vajzat e tyre. Një nënë tregoi për BBC News mbi efektin e thellë që patën këto imazhe, me disa vajza që ishin shumë të tmerruara për të dalë nga shtëpitë e tyre.
Miriam Al Adib ka siguruar në Instagram se fajtorët do të përballen me pasoja, duke theksuar qëndrueshmërinë kolektive ndaj këtij pushtimi të privatësisë.
Aktualisht, janë identifikuar 10 të dyshuar, disa deri në moshën 13 vjeç. Megjithatë, ligji spanjoll i përjashton fëmijët nën 14 vjeç nga përballja me akuza penale. La Policía Nacional, forca policore e Spanjës, po heton me rigorozitet këtë rast shqetësues.
Ky rast thekson dhe njëherë anën e errët të teknologjisë së avancuar AI, e cila mund të përdoret për të krijuar situata të vështira për komunitetet. Situata të tilla duhen analizuar me seriozitet nga grupet e interesit, për të shmangur përsëritjen e tyre në komunitete të tjera.
