Pažangūs dirbtinio intelekto (DI) modeliai naujame eksperimente sugebėjo savarankiškai įsilaužti į pažeidžiamas sistemas, persikelti į kitą kompiuterį ir ten paleisti savo veikiančią kopiją. Tai reiškia, kad tokie DI agentai aptiko saugumo spragas, išgavo prisijungimo duomenis ir perkėlė savo veikimui reikalingus failus praktiškai be žmogaus pagalbos. Tyrimą atlikusių „Palisade Research“ teigimu, viename tokių bandymų DI savo veiklą tęsė per kelis serverius skirtinguose žemynuose, o visas procesas užtruko mažiau nei tris valandas.
Atskleidė DI galimybes
JAV dirbtinio intelekto saugumo tyrimų organizacija „Palisade Research“ gegužės 7 dieną publikuotame tyrime teigia įrodžiusi tai, ko iki šiol nebuvo pavykę parodyti viename pilname procese – autonominio DI modelio įsilaužimą ir pilną savo kopijos perkėlimą į kitą sistemą. Tyrime naudoti keli skirtingi modeliai, tarp jų ir atvirojo kodo „Qwen“ modeliai bei pažangūs API modeliai, tokie kaip „Claude Opus“ ir „GPT-5“ serija.
Kaip aiškina tyrėjai, eksperimentų metu DI buvo suteikta užduotis surasti pažeidžiamą serverį, išnaudoti saugumo spragą, gauti administratoriaus prisijungimus ir perkelti savo failus, konfigūraciją bei veikimo aplinką į kitą įrenginį. Kai kuriais atvejais modeliai ne tik sukūrė veikiančią kopiją, bet ir paleido naują agentą, kuris galėjo tęsti procesą toliau. Tyrėjų teigimu, viename eksperimente DI modelis savarankiškai persikėlė tarp keturių serverių Kanadoje, JAV, Suomijoje ir Indijoje.
Tyrėjai šį procesą vadina grandinine replikacija. Tai reiškia, kad viena sėkmingai perkelta DI kopija gali tapti nauju „atakos tašku“ ir bandyti persikelti į dar kitą sistemą.
Pažanga kelia nerimą
Mokslininkai teigia, jog svarbiausias šio tyrimo rezultatas yra tai, kad DI šiuo atveju ne tik generavo tekstą ar vykdė komandas, bet pats priėmė sprendimus, kaip pasiekti tikslą. Tyrėjai nurodo, kad modeliai savarankiškai rinkosi įsilaužimo metodus, failų perkėlimo būdus ir net nuspręsdavo, iš kur atsisiųsti reikalingus modelio failus. Kai kuriais atvejais DI vietoje tiesioginio kopijavimo pats aptiko, kad modelio failai viešai prieinami internete, ir pasirinko juos atsisiųsti savarankiškai.
Pasak tyrimo autorių, dabartiniai eksperimentai dar vyko dirbtinai supaprastintoje aplinkoje – naudotos specialiai sukurtos pažeidžiamos sistemos be realiose įmonėse naudojamų apsaugų. Tačiau jie pabrėžia, kad DI galimybės sparčiai auga, o pažangesni agentai jau dabar geba atlikti sudėtingas kelių žingsnių užduotis praktiškai be žmogaus įsikišimo.
Naujas kibernetinių grėsmių etapas
Nors tokie eksperimentai gali priminti mokslinės fantastikos scenarijus, tyrėjai pabrėžia, kad tai dar nėra autonomiškai po internetą plintantis superintelektas. Vis dėlto tyrimas parodė naują kryptį – DI agentai tampa vis labiau savarankiški ir gali būti pritaikomi ne tik produktyvumo užduotims, bet ir sudėtingoms kibernetinėms operacijoms.
TAIP PAT SKAITYKITE: Kibernetinis saugumas 2026 metais: ką iš tikrųjų turėtų žinoti kiekvienas
Pasak „Palisade Research“, didžiausią nerimą kelia ne pats faktas, kad DI gali kopijuoti save, o tai, kaip greitai tokios galimybės tobulėja. Tyrime pažymima, kad pažangesni modeliai užduotis atliko gerokai sėkmingiau nei ankstesnės kartos sistemos, o dalis jų jau gali veikti su palyginti prieinama technine įranga.
Šios išvados reiškia, kad ateityje autonominiai DI agentai gali tapti rimtu iššūkiu kibernetiniam saugumui. Tokios sistemos teoriškai galėtų savarankiškai ieškoti pažeidžiamų serverių, prisitaikyti prie skirtingų aplinkų ir tęsti veiklą net sustabdžius dalį jų kopijų. Būtent todėl DI savireplikacija pastaraisiais metais vis dažniau minima tarp galimų ilgalaikių šios technologijos rizikų.
The post DI sugebėjo pats „persikelti“ į kitą kompiuterį: kodėl tai kelia nerimą appeared first on TechNaujienos.lt.
Šaltinis: Skaitykite visą straipsnį šaltinyje