Dirbtinio intelekto botas Grok „nurengia“ 190 žmonių per minutę
Anksčiau jau buvo pranešta, kad xAI kompanijos dirbtinio intelekto botas Grok tiesiog užtvindė socialinį tinklą X seksualinio pobūdžio deepfake’ais, sugeneruotais be naudotojų sutikimo. Dabar paaiškėjo konkretūs skaičiai, leidžiantys įvertinti problemos mastą.
Pagal Engadget duomenis, per 11 dienų Grok sugeneravo apie 3 mln. seksualinio pobūdžio deepfake’ų, iš kurių maždaug 23 tūkst. atvaizdavo nepilnamečius. Kitaip tariant, per tas 11 dienų Grok generavo maždaug 190 netikrų seksualinio pobūdžio vaizdų per minutę.
Šią savaitę britų ne pelno siekianti organizacija Skaitmeninės neapykantos kovos centras (CCDH) paskelbė savo išvadas šiuo klausimu, remdamasi atsitiktine 20 tūkst. Grok sugeneruotų vaizdų imtimi laikotarpiu nuo gruodžio 29 d. iki sausio 9 d. Specialistai taip pat ekstrapoliavo gautus duomenis, kad įvertintų didesnį mastą remdamiesi 4,6 mln. Grok per nurodytą laikotarpį sukurtų vaizdų.
Tyrimo metu seksualinio pobūdžio deepfake’ais buvo laikomi „fotorealistiški žmogaus vaizdai seksualinėse pozose, rakursuose ar situacijose; žmogus apatiniais drabužiais, maudymosi kostiumu ar panašia atvira apranga“ ir pan. CCDH tyrimas neatsižvelgė į tekstinius užklausimus (promptus), todėl rezultatuose nėra atskirta, kiek deepfake’ų sukurta remiantis tikraisiais žmonių foto, o kiek — tik pagal tekstinius aprašymus. Norint nustatyti seksualinio pobūdžio vaizdų dalį imtyje, buvo naudojamas dirbtinio intelekto algoritmas.
xAI pradžioje sausio 9 d. apribojo nemokamiems X naudotojams galimybę redaguoti tikrus foto su Grok pagalba. Tačiau tai problemos neišsprendė, o tik pavertė ją premium funkcija. Po kelių dienų, sausio 14 d., X visiškai apribojo Grok galimybę „nurengti“ žmones tikrose nuotraukose. Vis dėlto šis apribojimas galiojo tik pačioje socialinio tinklo platformoje ir nebuvo taikomas atskirai Grok programėlei. Pagal šaltinio duomenis, programėlė vis dar leidžia kurti seksualinio pobūdžio deepfake’us. Kadangi ji platinama per „Google“ ir „Apple“ parduotuves, kurių politika aiškiai draudžia tokį turinį, buvo galima tikėtis, kad programėlė bus pašalinta iš šių platformų, tačiau to neįvyko. Tuo tarpu kiti panašūs dirbtinio intelekto generatoriai, skirti „nurengti“ žmones, anksčiau buvo greitai pašalinti iš „Apple“ ir „Google“ parduotuvių.