Bashkëthemeluesi i Anthropic, Jack Clark, tha se agjentët e IA-së së shpejti mund të jenë në gjendje të ndërtojnë dhe trajnojnë vetë modele dhe, nëse kjo ndodh, njerëzit mund të humbasin kontrollin mbi sistemet e IA-së.
Bashkëthemeluesi i Anthropic, Jack Clark, dëshiron që industria e IA-së të frenojë përpara se teknologjia të fillojë të zhvillohet më tej pa ndërhyrje njerëzore.
Duke folur për BBC-në, Clark tha se 80% e punës së kodimit të Anthropic tashmë po bëhet nga IA-ja e saj Claude, dhe se mund të shkojë deri në 100% brenda disa vitesh. Megjithatë, ai tha se “është një zgjedhje” nëse kompanitë e IA-së e lejojnë atë të shkojë kaq larg pa e ndaluar atë.
“Ne mendojmë se kjo është një temë për të cilën bota duhet të flasë më shumë,” tha Clark. “Industria e IA-së tani për tani ka një pedal gazi, por nuk ka një pedal freni në makinë, dhe ne duam të bëjmë një pjesë të punës për të ndërtuar atë pedal.”
Ky proces quhet “vetëpërmirësim rekursiv”, ku një IA është në gjendje të përmirësohet vetë pa ndërhyrje njerëzore, sipas Anthropic në një postim të lidhur në blog nga mbrëmja e së enjtes.
Lexo edhe: 10 mjete AI falas nga Google që çdo student duhet të provojë
Në një model rekursiv, agjentët e IA-së, punëtorët autonomë të ndërtuar nga një chatbot, mund të “bëhen mjaftueshëm të aftë për të ndërtuar dhe trajnuar vetë modelet”, kështu që Claude “mund të përmirësohet vazhdimisht nga Claude”, tha Anthropic.
Ndërsa IA rekursive mund të sjellë disa të mira në fushat e shkencës dhe kujdesit shëndetësor, Anthropic paralajmëron se kjo mund të nënkuptojë rritjen e “rreziqeve që njerëzit të humbasin kontrollin mbi sistemet e IA-së”.
“Nëse sistemet janë të afta të ndërtojnë plotësisht pasardhësit e tyre, mënyrat se si i sigurojmë, i monitorojmë dhe i formësojmë sjelljen e tyre bëhen shumë më të rëndësishme”, thuhet në postimin në blog.
Ka prova brenda modelit të vetë Anthropic se rekursioni po vjen më shpejt sesa më vonë. Ai tregon faktin se normat e korrigjimit të kodit nga stafi i tyre kanë rënë vazhdimisht gjatë vitit të fundit, që do të thotë se ka më pak gabime në atë që Claude po prodhon.
Lidhur
Startup-i më i vlefshëm i inteligjencës artificiale në botë, Anthropic, paraqet dosjet për IPO: Pesë gjëra që duhen ditur
Claude është gjithashtu në gjendje të kryejë eksperimentet e veta kërkimore kur i jepet një pyetje e hapur, siç është “A mund të mbikëqyrë një model më i dobët një më të fortë?” dhe të dalë me zgjidhjet e veta pa ndërhyrje njerëzore.
“Provat sugjerojnë se roli i njeriut po ngushtohet në çdo hap të procesit të zhvillimit të inteligjencës artificiale”, thuhet në blog.
Anthropic tha se instituti i tij do të kryejë kërkime për të ndërtuar një sistem për të kontrolluar nëse zhvilluesit e kanë ndaluar ose ngadalësuar lëvizjen drejt inteligjencës artificiale rekursive, tha ai.
Megjithatë, një ngadalësim i vërtetë do të kërkonte “laboratorë të shumtë me burime të mira në ose afër kufirit, në vende të shumta, që bien dakord të ndalojnë në të njëjtat kushte”.
