Në vazhdën e zgjedhjeve presidenciale të vitit 2016, ndërsa platformat online filluan të përballen me një kontroll më të madh për ndikimet e tyre te përdoruesit, zgjedhjet dhe shoqëria, shumë firma teknologjike filluan të investojnë në masa mbrojtëse.
Kompanitë e mëdha të teknologjisë sollën punonjës të fokusuar në sigurinë e zgjedhjeve, dezinformimin dhe ekstremizmin në internet. Disa gjithashtu formuan ekipe etike të AI dhe investuan në grupe mbikëqyrëse. Këto ekipe ndihmuan në drejtimin e veçorive dhe politikave të reja të sigurisë. Por gjatë muajve të fundit, kompanitë e mëdha të teknologjisë kanë shkurtuar dhjetëra mijëra vende pune dhe disa nga të njëjtat ekipe po shohin reduktime të stafit.
Twitter eliminoi ekipet e fokusuara në çështjet e sigurisë, politikave publike dhe të drejtave të njeriut kur Elon Musk mori postin vitin e kaluar. Kohët e fundit, Twitch, një platformë transmetimi live në pronësi të Amazon, pushoi nga puna disa punonjës të përqendruar në AI dhe punë të tjera të besimit dhe sigurisë, sipas ish-punonjësve dhe postimeve publike në mediat sociale. Microsoft shkurtoi një ekip kyç të fokusuar në zhvillimin etik të produkteve të AI. Dhe prindi i Facebook Meta sugjeroi se mund të shkurtojë stafin që punon në role jo-teknike si pjesë e raundit të fundit të pushimeve nga puna.
Meta, sipas CEO Mark Zuckerberg, punësoi “shumë ekspertë kryesorë në fusha jashtë inxhinierisë”. Tani, tha ai, kompania do të synojë të kthehet “në një raport më optimal të inxhinierëve me rolet e tjera”, si pjesë e shkurtimeve që do të ndodhin në muajt e ardhshëm.
Vala e shkurtimeve ka ngritur pikëpyetje mes disave brenda dhe jashtë industrisë në lidhje me angazhimin e Silicon Valley për të ofruar parmakë të gjerë dhe mbrojtje të përdoruesve në një kohë kur moderimi i përmbajtjes dhe keqinformimi mbeten probleme sfiduese për t’u zgjidhur. Disa tregojnë për shkurtimet drakoniane të Musk në Twitter si një pikë kryesore për industrinë.
“Twitter duke bërë lëvizjen e parë siguroi mbulim për ta”, tha Katie Paul, drejtore e grupit kërkimor të sigurisë në internet, Projekti i Transparencës Teknike. (Twitter, i cili gjithashtu ndërpreu shumë nga ekipi i tij i marrëdhënieve me publikun, nuk iu përgjigj një kërkese për koment.)
Për të komplikuar gjërat, këto shkurtime vijnë pasi gjigantët e teknologjisë po nxjerrin me shpejtësi teknologji të reja transformuese si inteligjenca artificiale dhe realiteti virtual – që të dyja kanë shkaktuar shqetësime për ndikimet e tyre të mundshme te përdoruesit.
“Ata janë në një garë super, super të ngushtë drejt majës për AI dhe mendoj se ndoshta nuk duan që ekipet t’i ngadalësojnë ata,” tha Jevin West, profesor i asociuar në Shkollën e Informacionit në Universitetin e Uashingtonit. Por “është një kohë veçanërisht e keqe për të hequr qafe këto ekipe kur jemi në prag të disa teknologjive mjaft transformuese dhe të frikshme”.
“Nëse do të kishit mundësinë të ktheheshit dhe t’i vendosnit këto ekipe në ardhjen e mediave sociale, ndoshta do të ishim pak më mirë,” tha West. “Ne jemi në një moment të ngjashëm tani me AI gjeneruese dhe këto chatbots.”
Rimendimi i moderimit të përmbajtjes dhe AI etike
Kur Musk pushoi nga puna mijëra punonjës të Twitter pas marrjes së tij në vjeshtën e kaluar, ai përfshinte punonjës të fokusuar në gjithçka, nga siguria dhe besueshmëria e faqes deri te politikat publike dhe çështjet e të drejtave të njeriut. Që atëherë, ish-punonjësit, përfshirë ish-drejtuesin e integritetit të faqes, Yoel Roth – për të mos përmendur përdoruesit dhe ekspertët e jashtëm – kanë shprehur shqetësime se shkurtimet e Twitter mund të minojnë aftësinë e tij për të trajtuar moderimin e përmbajtjes.
Muaj pas lëvizjeve fillestare të Musk, disa ish-punonjës në Twitch, një tjetër platformë sociale popullore, tani janë të shqetësuar për ndikimet që mund të kenë pushimet e fundit nga puna në aftësinë e tij për të luftuar gjuhën e urrejtjes dhe ngacmimin dhe për të adresuar shqetësimet e shfaqura nga AI.
Një ish-punonjës i Twitch i prekur nga pushimet nga puna dhe i cili më parë ka punuar në çështjet e sigurisë tha se kompania kohët e fundit kishte rritur kapacitetin e saj të kontraktimit për adresimin e raporteve të përmbajtjes dhunuese.
“Me atë kontraktim të jashtëm, ndihem sikur ata kishin një nivel komoditeti që mund të shkurtonin një pjesë të ekipit të besimit dhe sigurisë, por Twitch është shumë unik,” tha ish-punonjësi. “Është me të vërtetë transmetim i drejtpërdrejtë, nuk ka postproduksion në ngarkime, kështu që ka një ton angazhimi të komunitetit që duhet të ndodhë në kohë reale.”
Ekipe të tilla të kontraktuara, si dhe teknologjia e automatizuar që ndihmon platformat të zbatojnë rregullat e tyre, gjithashtu nuk janë aq të dobishme për të menduarit proaktiv se cilat duhet të jenë politikat e sigurisë së një kompanie.
“Nuk do të ndaloni kurrë së qeni reagues ndaj gjërave, por ne kishim filluar të planifikojmë me të vërtetë, të largohemi nga reagimi dhe të jemi vërtet shumë më proaktivë dhe të ndryshojmë politikat tona, duke u siguruar që ato të lexojnë më mirë për komunitetin tonë ”, tha punonjësi për CNN, duke përmendur përpjekjet si fillimi i qendrës së sigurisë në internet të Twitch dhe Këshillit Këshillimor të Sigurisë.
Një tjetër ish-punonjës i Twitch, i cili si i pari foli në kushte anonimiteti nga frika se mos i vinte në rrezik largimin e tyre, i tha CNN se shkurtimi i punës së përgjegjshme të AI, pavarësisht faktit se nuk ishte një nxitës i drejtpërdrejtë i të ardhurave, mund të ishte i keq për biznes në afat të gjatë.
“Problemet do të shfaqen, veçanërisht tani që AI po bëhet pjesë e bisedës kryesore,” thanë ata. “Siguria, siguria dhe çështjet etike do të bëhen më të përhapura, kështu që në fakt është koha e fundit që kompanitë të investojnë.”
Twitch nuk pranoi të komentonte për këtë histori përtej postimit të saj në blog që njoftonte pushimet nga puna. Në atë postim, Twitch vuri në dukje se përdoruesit mbështeten te kompania për t’ju “ju dhënë mjetet që ju nevojiten për të ndërtuar komunitetet tuaja, për të transmetuar pasionet tuaja të sigurta dhe për të fituar para duke bërë atë që ju pëlqen” dhe se “ne e marrim këtë përgjegjësi jashtëzakonisht seriozisht”.
Microsoft gjithashtu ngriti disa alarme në fillim të këtij muaji kur thuhet se ka shkurtuar një ekip kyç të fokusuar në zhvillimin e produkteve etike të AI si pjesë e pushimeve masive të saj. Ish-punonjësit e ekipit të Microsoft i thanë The Verge se ekipi i Etikës dhe Shoqërisë AI ishte përgjegjës për të ndihmuar në përkthimin e parimeve përgjegjëse të AI të kompanisë për punonjësit që zhvillonin produkte.
Në një deklaratë për CNN, Microsoft tha se ekipi “luajti një rol kyç” në zhvillimin e politikave dhe praktikave të tij të përgjegjshme të AI, duke shtuar se përpjekjet e tij kanë vazhduar që nga viti 2017. Kompania theksoi se edhe me shkurtimet, “ne kemi qindra njerëz duke punuar në këto çështje në të gjithë kompaninë, duke përfshirë ekipe neto të reja, të përkushtuara përgjegjëse të AI që janë krijuar dhe rritur ndjeshëm gjatë kësaj kohe.”
Një e ardhme e pasigurt te Meta
Meta, ndoshta më shumë se çdo kompani tjetër, mishëroi zhvendosjen e pas vitit 2016 drejt masave më të mëdha sigurie dhe politikave më të menduara. Ai investoi shumë në moderimin e përmbajtjes, politikat publike dhe një bord mbikëqyrës për të peshuar çështjet e ndërlikuara të përmbajtjes për të adresuar shqetësimet në rritje në lidhje me platformën e saj.
Por njoftimi i fundit i Zuckerberg se Meta do t’i nënshtrohet një raundi të dytë pushimesh nga puna po ngre pikëpyetje për fatin e disa prej atyre punëve. Zuckerberg la të kuptohej se rolet jo-teknike do të merrnin një goditje dhe tha se ekspertët jo-inxhinierë ndihmojnë “ndërtimin e produkteve më të mira, por me shumë ekipe të reja duhet fokus i qëllimshëm për t’u siguruar që kompania jonë të mbetet kryesisht teknologe”.
Shumë prej shkurtimeve nuk janë bërë ende, që do të thotë se ndikimi i tyre, nëse ka, mund të mos ndihet për muaj të tërë. Dhe Zuckerberg tha në postimin e tij në blog duke njoftuar pushimet nga puna se Meta “do të sigurohet që ne të vazhdojmë të përmbushim të gjitha detyrimet tona kritike dhe ligjore ndërsa gjejmë mënyra për të vepruar në mënyrë më efikase”.
Megjithatë, “nëse pretendohet se ata do të fokusohen në teknologji, do të ishte mirë nëse do të ishin më transparentë në lidhje me skuadrat që po lënë të shkojnë,” tha Paul. “Unë dyshoj se ka mungesë transparence, sepse janë ekipet që merren me sigurinë dhe sigurinë.”
Meta nuk pranoi të komentonte për këtë histori ose t’u përgjigjej pyetjeve në lidhje me detajet e shkurtimeve të saj përtej drejtimit të CNN në postimin në blog të Zuckerberg.
Paul tha se theksi i Metës tek teknologjia nuk do të zgjidhë domosdoshmërisht çështjet e saj të vazhdueshme. Hulumtimi nga Projekti i Transparencës Teknike vitin e kaluar zbuloi se teknologjia e Facebook krijoi dhjetëra faqe për grupet terroriste si ISIS dhe Al Kaeda. Sipas raportit të organizatës, kur një përdorues renditi një grup terrorist në profilin e tij ose “hynte” në një grup terrorist, një faqe për grupin krijohej automatikisht, megjithëse Facebook thotë se ndalon përmbajtjen nga grupet e përcaktuara terroriste.
“Teknologjia që supozohet të heqë këtë përmbajtje në fakt po e krijon atë,” tha Paul.
Në kohën kur u publikua raporti i Projektit të Transparencës Teknike në shtator, Meta tha në një koment se, “Kur këto lloj faqesh shell gjenerohen automatikisht, nuk ka pronar apo administrator dhe aktivitet të kufizuar. Siç thamë në fund të vitit të kaluar, ne trajtuam një çështje që gjeneronte automatikisht faqet e guaskës dhe ne po vazhdojmë ta shqyrtojmë.”
‘A ia vlen investimi ky?’
Në disa raste, firmat e teknologjisë mund të ndjehen të guximshme për të rimenduar investimet në këto ekipe nga mungesa e ligjeve të reja. Në Shtetet e Bashkuara, ligjvënësit kanë imponuar pak rregulla të reja, pavarësisht nga ajo që West e përshkroi si “shumë teatër politik” duke përmendur vazhdimisht dështimet e sigurisë së kompanive.
Udhëheqësit e teknologjisë gjithashtu mund të përballen me faktin se edhe pse kanë krijuar ekipet e tyre të besimit dhe sigurisë në vitet e fundit, problemet e reputacionit të tyre nuk janë zbutur vërtet.
“Gjithçka që ata marrin është kritikuar”, tha Katie Harbath, ish-drejtoreshë e politikave publike në Facebook, e cila tani drejton firmën e konsulencës teknologjike Anchor Change. “Unë nuk po them se ata duhet të rrahin kurrizin … por vjen një moment në kohë kur mendoj se Mark [Zuckerberg] dhe CEO të tjerë janë sikur, a ia vlen investimi?”
Ndërsa kompanitë e teknologjisë duhet të balancojnë rritjen e tyre me kushtet aktuale ekonomike, tha Harbath, “ndonjëherë teknologët mendojnë se ata dinë gjërat e duhura për të bërë, ata duan të prishin gjërat dhe nuk janë gjithmonë aq të hapur për të dëgjuar nga zërat e jashtëm që nuk janë” t teknologë.”
“Ju keni nevojë për atë ekuilibër të duhur për t’u siguruar që nuk po mbytni inovacionin, por duke u siguruar që jeni të vetëdijshëm për implikimet e asaj që po ndërtoni,” tha ajo. “Ne nuk do ta dimë derisa të shohim se si gjërat vazhdojnë të funksionojnë duke ecur përpara, por shpresa ime është që ata të paktën të vazhdojnë të mendojnë për këtë.”
