Microsoft užtvindė dirbtinio intelekto reklama tūkstančius „pull request“ GitHub užklausų
Neseniai Microsoft pažadėjo sumažinti perteklinį dirbtinio intelekto funkcijų kiekį Windows 11, tačiau panašu, kad kompanija nusprendė „atsigriebti“ jai priklausančioje IT projektų talpinimo ir bendradarbiavimo platformoje GitHub. Pranešama apie daugiau nei 11 000 atvejų, kai į „pull request“ užklausas buvo įterpti Copilot „patarimai“, reklamuojantys šį Microsoft AI įrankį.
Programinės įrangos kūrėjas Zach Manson papasakojo, kad Copilot įterpė reklamą į GitHub „pull request“. Pasak jo, kolega naudojo Copilot, kad ištaisytų rašybos klaidą. Copilot klaidą ištaisė, bet taip pat pridėjo reklamą Copilot ir Raycast į užklausos aprašymą. „Tai siaubinga. Žinojau, kad tokia nesąmonė anksčiau ar vėliau nutiks, bet nesitikėjau, kad taip greitai“, — sakė Mansonas.
„Greitai paleiskite Copilot agento užduotis iš bet kurios vietos jūsų macOS ar Windows kompiuteryje naudodami Raycast“, — rašoma užklausoje. Tekstas su emoji yra dažnas Copilot generuojamo turinio požymis.
Paieška pagal šią frazę parodė daugiau nei 11 000 identiškų atvejų GitHub „pull request“ užklausose. Puslapių žymėjime aptikta frazė „START COPILOT CODING AGENT TIPS“. Panašu, kad Copilot automatiškai pridėdavo tokius „patarimus“, kurie iš esmės buvo reklama.
GitHub viceprezidentas ryšiams su kūrėjais Martin Woodward patvirtino, kad Copilot galėjo pridėti produkto patarimus į „pull request“, tačiau ši funkcija buvo išjungta po gausaus neigiamo atsiliepimų kiekio: „Mes jau ją išjungėme. Iš esmės patarimų funkcija veikė neblogai Copilot inicijuotose užklausose, bet kai leidome naudoti Copilot bet kuriai užklausai, elgsena tapo nemaloni. Dėl vartotojų atsiliepimų ši funkcija buvo visiškai išjungta“.
Dirbtinis intelektas GitHub platformoje naudojamas įvairiais būdais, ir kai kurie jų iš tiesų naudingi. Pavyzdžiui, Copilot gali padidinti produktyvumą, padėti rasti klaidas ir optimizuoti kūrimo procesą. Tačiau įrankis iš dalies buvo mokomas naudojant GitHub talpinamą kodą, kas sukėlė pagrįstą vartotojų pasipiktinimą.
Microsoft atnaujino Copilot naudojimo politiką, nurodydama, kad AI modelių mokymui bus naudojami įvesties ir išvesties duomenys, kodo fragmentai ir susijęs kontekstas iš GitHub. Šis pakeitimas taikomas Copilot Free, Pro ir Pro+ naudotojams (verslo ir įmonių klientų tai neliečia).
Paradoksalu, jei Copilot įterpia reklamą į „pull request“, o GitHub duomenys naudojami AI mokymui, neuroniniai tinklai pradeda mokytis iš pačių savęs. Toks ciklas gali būti pavojingas: be patikimo pagrindo klaidos gali kartotis ir didėti. Gali atsirasti situacija, kai AI pradės netyčia generuoti reklamą, nes buvo apmokytas naudojant kodą su įterpta reklama.
Kol kas vartotojai dar gali atsisakyti, kad jų GitHub duomenys būtų naudojami Microsoft AI modelių mokymui.