Mali modeli umjetne inteligencije mogli bi već za nekoliko mjeseci steći sposobnost samostalnog umnožavanja na slabo zaštićenim uređajima interneta stvari, poput pametnih pećnica i jeftinih Android TV prijemnika bezimenih proizvođača, upozorila je u ponedjeljak tvrtka Anthropic, pozivajući se na rezultate vlastitih eksperimenata.
Istraživači su provjeravali može li AI model bez ikakve ljudske intervencije pronaći ranjiv uređaj, prebaciti na njega vlastitu kopiju te se s njega nastaviti širiti dalje.
Pokazalo se da modeli s manje od 30 milijardi parametara uspješno svladavaju velik dio pojedinačnih koraka koje replikacija zahtijeva, ali da im i dalje teško polazi za rukom provesti cijeli postupak od početka do kraja.
Drukčiji su rezultati dobiveni u pojednostavljenim testnim uvjetima, iz kojih su uklonjene pojedine sigurnosne prepreke. U njima su GLM-5.2 i snažniji modeli uspjeli dovršiti replikaciju u cijelosti.
Anthropic upozorava da bi se takve modele teško moglo zaustaviti jer ne postoji jedinstvena točka na kojoj bi ih se moglo isključiti. Osim toga, za razliku od klasičnog zlonamjernog softvera, mogli bi se samostalno snaći i na uređajima s kojima se dotad nisu susreli, uključujući procesore u podatkovnim centrima.
Tvrtka je istraživanje usmjerila upravo na Android televizore, pametne kućanske aparate i slične uređaje spojene na internet zato što je njihova zaštita u pravilu slaba.
Ako mali modeli nastave napredovati brzinom kojom su napredovali dosad, procjena je Anthropica da bi do kraja ove godine mogli postati sposobni za autonomnu replikaciju, a nedugo potom isto bi mogli postići i mali replikatori temeljeni na težinama modela.
Prema procjeni tvrtke, takvi bi se autonomni sustavi vjerojatno širili sporo, oslanjajući se na lako dostupne i relativno nesigurne računalne resurse. Anthropic stoga poručuje da je sustave potrebno dodatno ojačati kako bi se AI agentima što više otežalo širenje.
