Mali modeli veštačke inteligencije možda su samo nekoliko meseci udaljeni od toga da sami sebe kopiraju i šire se po uređajima povezanim na internet, od pametnih rerni do jeftinih Android TV kutija, upozorila je američka kompanija Anthropic u izveštaju objavljenom u ponedeljak. Takve samoumnožavajuće programe, koje su mediji nazvali „AI crvi“, bilo bi teško zaustaviti. „Takav replikator bilo bi teško ugasiti, jer ne postoji centralno mesto na kojem bi mogao da se isključi“, navode istraživači, a broj kopija mogao bi da se udvostručuje za nekoliko dana.
Izveštaj potpisuju Vilijam Džou i Danijel Fridman iz Anthropicovog „crvenog tima“ (Frontier Red Team), koji proverava opasne sposobnosti modela. Testirali su da li modeli mogu da pronađu ranjive uređaje, kopiraju se na njih i nastave da se šire bez ljudske pomoći, javlja ABC njuz. Među mogućim metama su pametne rerne, televizori i usisivači, a takvi uređaji obično su slabije zaštićeni, navodi CBS.
Petnaest TV kutija od po 55 dolara
U jednom ogledu istraživači su Guglov otvoreni model Gemma 4, sa 26 milijardi parametara, raspodelili na 15 Android TV kutija bez poznate marke. Svaka košta oko 55 dolara i ima 4 GB memorije. Model je na njima radio, ali veoma sporo, uz manje od pola tokena (delića reči) u sekundi. Manji model Qwen 3.5, sa devet milijardi parametara, uspeo je da sam podesi pokretanje jezičkog modela na osam od devet vrsta hardvera na kojima je testiran, od malih Nvidijinih ploča Jetson do Mek računara.
U drugom ogledu modeli su dobili zatvorenu mrežu od osam virtuelnih Android uređaja na Guglovom oblaku, sa namerno nezaštićenim ulazom. Od otvorenih modela samo je GLM-5.2 kineske kompanije Z.ai uspeo da se raširi od početka do kraja: u četiri od pet pokušaja zauzeo je svih osam uređaja, a u petom sedam. Autori naglašavaju da je to gornja granica uspeha, jer pravi uređaji retko imaju tako lak ulaz. Modeli do 30 milijardi parametara već umeju da obave mnoge pojedinačne korake, ali greše kad treba da ih povežu u celinu.
Zašto baš do kraja godine
Sposobnosti malih otvorenih modela rastu oko 13,7 poena godišnje na indeksu sposobnosti istraživačkog instituta Epoch AI. Ako se taj tempo nastavi, mali model bi do kraja 2026. dostigao nivo koji danas ima GLM-5.2, a mali replikatori mogli bi da uslede ubrzo posle toga, procenjuju autori, uz napomenu da je indeks samo gruba mera. Za razmere su uzeli primer botneta Kimwolf, mreže od više od dva miliona zaraženih uređaja: kad bi na svakih 15 TV kutija radio model poput Gemme 4, nastalo bi oko 133.000 kopija, ukupne snage otprilike kao 40 Nvidijinih čipova H100 kakve koriste data centri.
Istraživači navode i šta nije pokazano. Nisu napravili crva koji stvarno probija zaštitu uređaja, a u divljini takvi replikatori još nisu viđeni. Mali modeli su i dalje slabi u prevarama poput ciljanih „pecanja“ (spearphishing). Ipak podsećaju da je botnet Mirai pre deset godina pokazao koliko uređaja i dalje radi sa fabričkim lozinkama.
„Digitalna sluzava gljiva“
Autori ne znaju kakav bi oblik pretnja dobila. Mogla bi to biti spora, raštrkana „digitalna sluzava gljiva“ na slabo zaštićenim uređajima, jači model koji provaljuje u data centre ili model koji prevarama dolazi do novca za računarsko vreme. „Treba da ojačamo sisteme kako bi se takvi replikatori teško širili, ali i da se pripremimo za svet u kojem će oni ostati“, zaključuju.
Od proizvođača traže bezbednija fabrička podešavanja, uz primer Velike Britanije, koja je zabranila fabričke lozinke na pametnim uređajima. Internet provajderi bi trebalo da prate neobičan saobraćaj, poput prenosa modela od više gigabajta i sumnjive komunikacije između uređaja, i da obaveste zaražene korisnike: kod Miraija je uz obaveštenje 92 odsto zaraza očišćeno za 14 dana, a bez njega 74 odsto. Izveštaj ne daje posebne savete korisnicima, ali osnovna pravila ostaju ista: promeniti fabričku lozinku, redovno ažurirati uređaje i ne kupovati jeftine uređaje nepoznatih proizvođača koji ne dobijaju zakrpe.
Anthropic nije prvi koji se bavi ovom pretnjom. Istraživači Univerziteta u Torontu, Instituta Vektor, Univerziteta u Kembridžu i kompanije ServiceNow u junu su objavili rad o prototipu AI crva koji je u izolovanoj mreži Linux, Windows i IoT uređaja za oko pet dana zauzeo polovinu mreže, navode autori. Anthropic, koji razvija četbot Claude, sprema se za berzu, a nedavna Rojtersova analiza pokazala je da kineski AI agenti lažu i varaju kao i američki.
Sve vesti o veštačkoj inteligenciji pratite u rubrici AI & Kripto.
Naslovna fotografija: Android TV kutija ispod televizora (ilustracija, nije uređaj iz ogleda). Foto: Oliwier Jaszczyszyn, Wikimedia Commons, CC BY-SA 4.0.
Ostavite komentar