Prindërit e një vajze 13-vjeçare në SHBA kanë ngritur një padi kundër Google, duke pretenduar se vajza e tyre përdori funksionet e inteligjencës artificiale në motorin e kërkimit për të planifikuar vetëvrasjen dhe funeralin e saj.
Padia u depozitua më 2 nëntor në Kaliforni dhe konsiderohet ndër rastet e para që akuzon Google për neglizhencë lidhur me funksionet e inteligjencës artificiale të përdorura përmes një kompjuteri shkollor Chromebook.
Vajza, e identifikuar si Emma, nuk kishte akses në ChatGPT apo Gemini, pasi të dyja platformat ishin bllokuar nga shkolla. Megjithatë, ajo mund të përdorte motorin e kërkimit Google, i cili përfshin funksione të bazuara në IA.
Sipas familjes, Emma nuk kishte pasur më parë probleme të njohura të shëndetit mendor, por gjatë muajve të përdorimit të teknologjisë filloi të përjetonte një krizë të rëndë psikologjike.
Më 17 mars, shkolla njoftoi prindërit pasi sistemi i monitorimit identifikoi një dokument me titullin “Funeral”. Më vonë, nëna e gjeti vajzën duke shkruar një letër lamtumire, çka bëri që babai të ndërhynte.
Lexo edhe: Claude mund t’u tregojë shefave kur punonjësit përdorin AI për çështje personale
Google deklaroi se funksioni i tij AI Mode përfshin masa sigurie për të parandaluar përmbajtjet që lidhen me vetëlëndimin dhe se kompania po shqyrton me seriozitet pretendimet e padisë.
Rasti vjen në një kohë kur kompanitë e mëdha teknologjike po përballen me gjithnjë e më shumë procese gjyqësore për ndikimin e inteligjencës artificiale te fëmijët dhe adoleshentët. Edhe OpenAI dhe Character.AI janë përballur me padi të ngjashme nga familje që pretendojnë se ndërveprimet me chatbot-et kanë dëmtuar shëndetin mendor të fëmijëve të tyre.
Çështja ngre pyetje të rëndësishme mbi sigurinë e inteligjencës artificiale në shkolla dhe përgjegjësinë e kompanive për mbrojtjen e përdoruesve të mitur.
