ChatGPT pasirodė „Užrakinimo režimas“ ir „Padidintos rizikos“ žymėjimas svarbių duomenų apsaugai
Bendrovė OpenAI pristatė naujas saugumo funkcijas, skirtas užkirsti kelią piktavaliams piktnaudžiauti dirbtinio intelekto pagrindu veikiančiais produktais. Tai „Užrakinimo režimas“ (Lockdown Mode) kaip papildomas nustatymas ir „Padidintos rizikos“ (Elevated Risk) žymėjimas sistemose ChatGPT, ChatGPT Atlas ir Codex.
Naujosios funkcijos remiasi jau esamomis apsaugos priemonėmis, įdiegtomis modelio, produkto ir sistemos lygmenimis, įskaitant „sandbox“ aplinką, apsaugą nuo duomenų nutekėjimo per URL adresus, stebėjimo ir reagavimo įrankius, taip pat įmonėms skirtas kontrolės priemones, tokias kaip prieigos teisių atskyrimas ir audito žurnalai. „Užrakinimo režimas“ ChatGPT leidžia išjungti tam tikrus pokalbių roboto įrankius ir funkcijas, kurias hipotetinis piktavalis galėtų bandyti išnaudoti konfidencialių duomenų nutekinimui iš pokalbių ar prijungtų programėlių, pavyzdžiui, naudojant papildomų užklausų (prompt injection) metodą. Pavyzdžiui, naršant internete užrakinimo režimu taikomas apribojimas naudojant talpykloje (cache) išsaugotą turinį — todėl realaus laiko tinklo užklausos lieka kontroliuojamame OpenAI tinkle.
Užrakinimo režimas prieinamas verslo, sveikatos priežiūros ir švietimo įstaigų paskyrų naudotojams. Jis nustato papildomus apribojimus galutiniams vartotojams, be administratoriaus pasirinktų nustatymų. Taip pat siūlomos papildomos konfigūracijos galimybės — galima pasirinkti, kurios konkrečios programos ir kokie veiksmai jose veiks užrakinimo režimu. Bendrovė taip pat siūlo „Compliance API Logs Platform“ įrankių rinkinį, leidžiantį registruoti programų naudojimo, bendrų duomenų ir prijungtų išorinių šaltinių informaciją.
OpenAI taip pat atkreipė dėmesį, kad dirbtinio intelekto paslaugos gali sukelti papildomų grėsmių vartotojams. Siekdama tai padaryti aiškiau ir nuosekliau, bendrovė nusprendė įvesti standartizuotą esamų galimybių žymėjimą. Atitinkamos funkcijos ChatGPT, ChatGPT Atlas ir Codex nuo šiol turės vieningą „Padidintos rizikos“ žymą. Pavyzdžiui, naudojant programavimo asistentą Codex, ši žyma bus taikoma išorinių išteklių prieigos funkcijai, kuri iš pradžių skirta dokumentacijos paieškai. Žyma bus pateikiama kartu su paaiškinimais apie galimus pokyčius ir grėsmes bei nurodymais, kada tokios prieigos suteikimas yra pagrįstas.