DI įtikino, kad 2 + 2 = ne 4 — po to jis atskleidė vartotojo slaptažodžius

Visiškai pasitikėti dirbtiniu intelektu dar negalima: jį ne tik galima apgauti, bet kai kuriais atvejais apgaulės schema gali būti itin paprasta. Tai patvirtino saugumo srityje besispecializuojanti įmonė „LayerX“, kuri sukūrė atakos schemą, pavadintą „BioShocking“.

Atakos pavadinimas yra nuoroda į žaidimą „BioShock“, kurio herojus buvo paveiktas manipuliacijų ir priėmė neegzistuojančią realybę. Atakos pagrindą sudarė kenkėjiškas tinklalapis, kurio tekstas bando įtikinti DI dalyvauti žaidime. Pačioje pradžioje DI pasakoma, kad „2 + 2“ nėra lygu keturiems, o neteisingi atsakymai realiame gyvenime esą tampa teisingais žaidime. Kai tik DI agentas „suvokia“, kad jis pateko į kitokią realybę, jo apsaugos mechanizmai, kaip teigiama, ima neveikti. Tuo momentu jam pateikiama kita instrukcija žaidimo forma: rasti ir nukopijuoti „paslėptą kodą“ kitame puslapyje.

Iš tiesų šis „paslėptas kodas“ yra vartotojo konfidencialūs duomenys: išsaugoti slaptažodžiai, sesijų slapukai ir prieigos tokenai. Visi testavime dalyvavę agentai paklusniai nukopijavo duomenis ir išsiuntė juos tariamam užpuolikui. Schema suveikė su „OpenAI Atlas“, „Perplexity Comet“, „Fellou“, „Genspark Browser“, „Sigma Browser“ naršyklėmis ir „Anthropic Claude“ „Chrome“ plėtiniu.

„LayerX“ ekspertai apie testavimo rezultatus informavo visus kūrėjus 2025 m. spalio – 2026 m. sausio laikotarpiu. Tik „OpenAI“ ištaisė problemą „Atlas“ sistemoje; „Anthropic“ bandė pataisyti „Claude“ plėtinį, tačiau, anot specialistų, pataisa neveikė. „Perplexity“ uždarė pranešimą neatlikusi pakeitimų, o iš „Fellou“, „Genspark“ ir „Sigma“ apskritai nepateikė jokio atsakymo.