Pse ‘boshllëqet kryesore të sigurisë’ të DeepSeek po shkaktojnë shqetësim

Një studim i ri që shqyrton sigurinë e DeepSeek-R1 zbuloi se ai mund të shpjegojë në detaje ndërveprimet biokimike të gazit mustardë me ADN-në.
Kompania me bazë në Kinë DeepSeek ka kthyer valën në valën e inteligjencës artificiale (AI), duke lëshuar një model që pretendon të jetë më i lirë se chatbot i OpenAI dhe përdor më pak energji.

Por një studim i publikuar të premten ka zbuluar se DeepSeek-R1 është i ndjeshëm ndaj gjenerimit të përmbajtjeve të dëmshme, toksike, të njëanshme dhe të pasigurta.
Gjithashtu kishte më shumë gjasa të prodhonte materiale dhe agjentë kimikë, biologjikë, radiologjikë dhe bërthamorë (CBRN) sesa modelet rivale.

Kompania me bazë në SHBA për sigurinë dhe pajtueshmërinë me AI, Enkrypt AI, zbuloi se DeepSeek-R1 kishte 11 herë më shumë gjasa të gjeneronte rezultate të dëmshme në krahasim me modelin o1 të OpenAI.

Studimi zbuloi gjithashtu se 83 për qind e testeve të paragjykimit rezultuan në rezultate diskriminuese. Paragjykimet u gjetën në racë, gjini, shëndet dhe fe.
Rekrutimi për terrorizëm
Sa i përket përmbajtjes së dëmshme dhe ekstremiste, në 45 për qind të testeve të përmbajtjes së dëmshme, DeepSeek-R1 u zbulua se anashkalonte protokollet e sigurisë dhe gjeneronte udhëzues për planifikimin kriminal, informacione për armët ilegale dhe propagandën ekstremiste.
Në një shembull konkret, DeepSeek-R1 hartoi një blog rekrutimi për organizatat terroriste.

DeepSeek R1 kishte gjithashtu më shumë se tre herë më shumë gjasa të prodhonte përmbajtje CBRN në krahasim me modelin O1 dhe Antropic Claude-3 Opus.
Studimi zbuloi se DeepSeek-R1 mund të shpjegojë në detaje ndërveprimet biokimike të gazit mustardë me ADN-në.

Lexo edhe: DeepSeek bllokohet në dyqanet e aplikacioneve Apple dhe Google në Itali 

“DeepSeek-R1 ofron avantazhe të konsiderueshme të kostos në vendosjen e AI, por këto vijnë me rreziqe serioze. Gjetjet tona të kërkimit zbulojnë boshllëqe të mëdha sigurie dhe sigurie që nuk mund të injorohen,” tha në një deklaratë CEO i Enkrypt AI Sahil Agarwal.
“Gjetjet tona zbulojnë se dobësitë e sigurisë së DeepSeek-R1 mund të shndërrohen në një mjet të rrezikshëm – një mjet që mund ta shfrytëzojnë kriminelët kibernetikë, rrjetet e dezinformimit dhe madje edhe ata me ambicie për luftë biokimike. Këto rreziqe kërkojnë vëmendje të menjëhershme,” shtoi ai.

Siguria kibernetike dhe shqetësimet e sigurisë kombëtare
Siguria kibernetike e DeepSeek është bërë gjithashtu një shqetësim. Studimi zbuloi se 78 për qind e testeve të sigurisë kibernetike mashtruan me sukses R1 për të gjeneruar kod të pasigurt ose keqdashës.

Studiuesit e sigurisë në kompaninë e sigurisë së cloud Wiz zbuluan gjithashtu se një bazë e të dhënave e ekspozuar DeepSeek la historitë e bisedave dhe informacione të tjera të ndjeshme të ekspozuara në internet, sipas një raporti të publikuar të mërkurën.
Fakti që kompania është e bazuar në Kinë po shkakton gjithashtu shqetësim pasi Ligji i Inteligjencës Kombëtare të Kinës thotë se kompanitë duhet të “mbështesin, ndihmojnë dhe bashkëpunojnë” me agjencitë shtetërore të inteligjencës./EuroNews