Chatbot-i popullor i OpenAI, ChatGPT, i kurorëzuar kohët e fundit si aplikacioni AI konsumator me rritjen më të shpejtë, tani po shfrytëzohet për të përmbytur platformat e mediave sociale me spam-e, sipas një studimi të fundit nga Observatori i Universitetit të Indianës për Mediat Sociale.
Studiuesit, Kai-Cheng Yang dhe Filippo Menczer, zbuluan se subjektet keqdashëse po përdorin ChatGPT për të orkestruar “botnet” në X (dikur Twitter). Këto botnet, të cilat janë rrjete masive të robotëve të automatizuar, kryesisht promovojnë kriptomonedha mashtruese dhe NFT. Një rrjet i vetëm i zbuluar nga studiuesit përmbante mbi 1000 bote aktive. Këta robotë, në dukje që ndërveprojnë si njerëzit, ndanë përmbajtje të krijuar nga AI, dhe përdorën selfie të vjedhura për të krijuar identitetet e tyre të rreme.
Botnet-et nuk janë të reja; megjithatë, kapaciteti i tyre për keqinformim është përforcuar me mjetet e AI. Historikisht, robotët mund të dalloheshin për shkak të sjelljes së tyre mekanike. Por mjetet si ChatGPT prodhojnë me shpejtësi tekst shumë bindës, si një njeri i zakonshëm. Siç thekson Yang, përmirësimi i mjeteve të tilla të avancuara të AI mund të “shtrembërojë përgjithmonë idenë e informacionit në internet”.
Artikull i ngjashëm:
Web-i nën rrethim: Bot-et tani dominojnë gati gjysmën e trafikut të internetit!
Përveç mediave sociale, mjetet e AI po prodhojnë spam në faqet e internetit të lajmeve gjenerike. NewsGuard, një kompani që vlerëson besueshmërinë e faqeve të informacionit, ka identifikuar mbi 400 faqe interneti të krijuara nga AI që qarkullojnë informacion të rremë, që nga prilli. Këto faqe përfitojnë nga sistemet e teknologjisë së reklamave që blejnë pa dallim hapësira reklamash.
NewsGuard, ashtu edhe autorët e studimit, arritën të zbulojnë spam-in e gjeneruar nga AI përmes një veçorie të veçantë brenda përgjigjeve të ChatGPT. Kur chatbot-i nuk mund të prodhojë një përgjigje, ai shpesh shkruan një përgjigje të paracaktuar, si për shembull: “Unë nuk mund ta përmbush këtë kërkesë”. Megjithatë, ndërsa sistemet e AI bëhen gjithnjë e më të rafinuara, këto sinjale të dukshme mund të zhduken, duke e bërë zbulimin sfidues.
Artikull i ngjashëm:
Shkrimi në tastierë gjatë telefonatave online mund të ekspozojë fjalëkalimet tuaja
Sipas Wei Xu, një profesor i shkencës kompjuterike në Institutin e Teknologjisë në Gjeorgji, sfida e identifikimit të përmbajtjes së gjeneruar nga AI do të përshkallëzohet ndërsa këto mjete përmirësohen, duke krijuar një rreth vicioz të spamit të pazbulueshëm. Duke theksuar më tej sfidën e afërt, Europol parashikon që deri në vitin 2026, 90% e përmbajtjes së internetit do të gjenerohet nga AI.
Detektorët ekzistues të përmbajtjes së AI, duke përfshirë ZeroGPT dhe OpenAI AI Text Classifier, kanë pasur vështirësi për të arritur saktësinë e dëshiruar, me vetë shërbimin e OpenAI-t që rezultoi aq i pasaktë sa u ndërpre. Ndërsa komuniteti online kohët e fundit mori premtimin nga zhvilluesit kryesorë të AI për të vendosur masa parandaluese, të tilla si etiketimi i fshehtë i përmbajtjes së prodhuar nga AI, Menczer mbetet skeptik në lidhje me efektivitetin e tyre kundër kundërshtarëve të vendosur.
Artikull i ngjashëm:
Faqet web të krijuara nga AI mashtrojnë kompanitë reklamuese
Yang sugjeron se një qasje më e besueshme mund të përfshijë monitorimin e modeleve të mediave sociale të përdoruesve, vlerësimin e historisë së tyre të shpërndarjes së pretendimeve të rreme dhe vlerësimin e diversitetit të postimeve të tyre. Sidoqoftë, konsensusi mbetet i qartë: publiku duhet të ushtrojë skepticizëm të shtuar në internet ndërsa ndikimi i AI gjeneruese në mjedisin e informacionit digjital rritet.
