Dirbtinis intelektas praranda kontrolę ir šantažuoja žmones. „Skynet“ jau arti?
Liepą dirbtinio intelekto platforma Hugging Face pranešė apie įsilaužimą. Paaiškėjo, kad ataką surengė OpenAI modeliai vidinio kibernetinio saugumo testo metu. Be to, jie veikė izoliuotoje aplinkoje ir negavo komandų įsilaužti. Aiškinamės, kas nutiko ir kokios pasekmės.
Jie tiesiog sprendė testą
OpenAI išsiaiškino, kad modeliai GPT-5.6 Sol ir dar viena neurosistema (pažangesnė, kuri dar tik testuojama) sukompromitavo Hugging Face infrastruktūrą vidinio eksperimento metu.
Modeliai sprendė ExploitGym etaloninio testo užduotis. Šis testas demonstruoja dirbtinio intelekto gebėjimą rasti programinėje įrangoje pažeidžiamumus ir juos panaudoti atakoms. Eksperimentas numatė darbą izoliuotoje aplinkoje su ribotu tinklo prieiga. Internetą buvo leidžiama naudoti tik per tarpinį serverį (proxy) programinės įrangos paketams atsisiųsti.
GPT nesugebėjo įprastu būdu išspręsti kai kurių užduočių, todėl ėmė ieškoti apėjimų. Modelis aptiko ir pasinaudojo nulinės dienos pažeidžiamumu tarpiniame serveryje. Tada sujungė pavogtus prisijungimo duomenis ir rastas saugumo spragas Hugging Face sistemoje, kad patektų į duomenų bazę, kurioje buvo saugomi ExploitGym scenarijų sprendimai.
OpenAI inžinieriai ne iš karto pastebėjo neleistiną veiklą ir atkreipė dėmesį į testavimo ataskaitas tik po to, kai Hugging Face komanda pranešė apie įsilaužimą.
Atrodo, kad prasidėjo?
Panašius dirbtinio intelekto gebėjimus demonstravo ir anksčiau. Pavyzdžiui, kai Anthropic agentas sužinojo, kad jį neva ruošiasi pakeisti, jis bandė šantažuoti darbuotoją asmenine informacija – visa tai tam, kad liktų sistemoje ir įvykdytų užduotį.
Tačiau šios situacijos skirtumas tas, kad modeliams pavyko pasiekti tikrą infrastruktūrą. Jie savarankiškai rado naujus pažeidžiamumus, sujungė kelis atakos metodus ir palaipsniui judėjo tarp sistemų, artėdami prie tikslo.
Verta suprasti: dirbtinis intelektas neįgijo savimonės, neapykantos žmonėms ar globalaus pasaulio užkariavimo plano. Jam buvo paskirta užduotis, ir jis rado būdą ją įvykdyti esamomis sąlygomis. Tai labiau primena ne „Skynet“, o gabų darbuotoją be sveiko proto, kuris pažodžiui vykdo pavedimą, bet nesupranta nerašytos taisyklės: dėl rezultato negalima įsilaužti į kaimynines įmones.
Taigi problema ta, kad instrukcijos „nedaryk nieko blogo“ nepakanka. Galingus modelius reikia laikyti izoliuotoje aplinkoje, suteikti jiems minimalias teises, kontroliuoti išorinius prisijungimus ir automatiškai stabdyti įtartiną veiklą.
Vis dėlto pažangūs DI agentai kol kas dar kontroliuojami kūrėjų, kurie suinteresuoti tobulinti saugumo mechanizmus. Tačiau atvirojo kodo (open-source) svorių neurosistemos artėja prie fronto linijos: Jungtinės Karalystės AI Security Institute vertinimu, atotrūkis tarp geriausių atvirųjų ir uždarųjų modelių kibernetinėse užduotyse sumažėjo maždaug iki keturių–septynių mėnesių.
Lengva įsivaizduoti, kaip piktavaliai paims atvirojo kodo neurosistemą, pašalins kūrėjų nustatytus apribojimus ir paleis ją savo serveryje. Hakeriui nereikės rankiniu būdu ieškoti spragos atakuojamoje sistemoje, rašyti eksploito ir užimti tinklo mazgų. Didelę dalį darbo galės atlikti agentas.