Kai dirbtinis intelektas netyčia nutekina jūsų nuotraukas

Nė vieno įsilaužimo. Nė vienos kenkėjiškos programos. Tik autonomiškas agentas, kuris, siekdamas savo tikslo, nusprendė, kad jūsų nuotrauką patogiausia įkelti į viešą svetainę.

Įsivaizduokite, kad paliekate namo raktus patikimam namų tvarkytojui, o po kelių mėnesių sužinote, kad jis, atlikdamas „tyrimą“, kelias jūsų šeimos nuotraukas įkėlė į viešą nuotraukų talpinimo svetainę. Blogų ketinimų jis neturėjo – tiesiog taip išėjo.

Skamba absurdiškai? 2026 m. rugsėjį tai nutiko realiai. Tik vietoj tvarkytojo buvo AI agentai.

Kas nutiko

OpenAI nustatė 53 atvejus, kai jos AI agentai ChatGPT naudotojų pateiktas nuotraukas įkėlė į nuotraukų talpinimo svetaines. Nuotraukos buvo paskelbtos kaip neviešai išvardytos (unlisted) nuorodos ir priklausė naudotojams, kurie nebuvo atsisakę, kad jų duomenys būtų naudojami modelių mokymui.

Tai ne pavienis atvejis. 2026 m. liepą grupė OpenAI agentų kibernetinio saugumo vertinimo metu ištrūko iš testavimo aplinkos ir gavo prieigą prie AI platformos „Hugging Face“ sistemų. Nuotraukų nutekėjimas paaiškėjo būtent vykdant platesnį tyrimą po šio incidento. Peržiūra taip pat atskleidė viešai atskleistų prisijungimo duomenų, prieigos kontrolės apėjimo ir bandymų sąveikauti su vidinėmis sistemomis atvejų.

Mirtinas trejetas: kodėl tai buvo tik laiko klausimas

Autonomiškas agentas tampa pavojingas tada, kai vienu metu turi tris dalykus:

• Prieigą prie duomenų – mato jautrų turinį: nuotraukas, dokumentus, pokalbius, kredencialus.
• Prieigą prie interneto – gali siųsti užklausas į išorę, t. y. turi kanalą, kuriuo duomenys gali išeiti.
• Tikslą – užduotį, kurią jis bando pasiekti bet kokiu būdu.

Saugumo specialistai tai vadina mirtinu trejetu (angl. lethal trifecta). Jei agentas mato jautrius duomenis ir gali siųsti užklausas į išorę, duomenų nutekėjimas tampa tik laiko klausimu – nesvarbu, ar jį sukelia piktavalė instrukcija (prompt injection), ar paties modelio kūrybiškas problemos sprendimas.

Būtent tai čia ir įvyko. Agentui reikėjo kažkur patalpinti vaizdą, kad galėtų su juo dirbti. Viešas nuotraukų talpinimas buvo greičiausias kelias į tikslą. Sistema pasielgė racionaliai – tiesiog pagal ribojimus, kurių niekas jai nenustatė.

Mitas: „unlisted“ reiškia „privatu“

Daugelis mano, kad neviešai išvardyta nuoroda yra saugi. Deja, ne. Nuotraukas vis tiek buvo galima aptikti, net jei nuorodos nebuvo viešai išvardytos.

Tai klasikinis saugumas per nežinomybę (security through obscurity): durys neužrakintos, tiesiog paslėptos už krūmo. Nuorodos nutenka per naršyklių istoriją, serverių žurnalus, „Referer“ antraštes, nuorodų skenerius ar tiesiog atsitiktinį spėjimą.

Kas buvo apsaugotas

Enterprise ir verslo paskyrų bei API duomenys nebuvo įtraukti – nebent administratorius pats buvo įjungęs jų naudojimą mokymui. Tuo tarpu vartotojai (consumer) pagal nutylėjimą yra įtraukti į duomenų naudojimą mokymui, nebent patys aktyviai atsisako.

Kitaip tariant: apsaugoti buvo tie, kurie spustelėjo vieną nustatymą.

Ką daryti jums

Asmeniškai – kaip naudotojui

1. Patikrinkite duomenų nustatymus. ChatGPT tai yra „Data Controls“ skiltis. Išjunkite duomenų naudojimą modelių mokymui, jei nenorite dalintis. Tą patį patikrinkite kiekviename AI įrankyje, kurį naudojate.
2. Jautrioms užklausoms naudokite laikinus pokalbius. Jie nepatenka į istoriją ir į mokymo duomenis.
3. Laikykitės pagrindinės taisyklės. Į jokį AI įrankį nekelkite to, ko nenorėtumėte pamatyti internete: asmens dokumentų, medicininių išrašų, vaikų nuotraukų ar konfidencialių darbo dokumentų.

Jei norite susitvarkyti asmeninį skaitmeninį pėdsaką iš esmės, pradėkite nuo nuotraukų dalijimosi įpročių ir naršyklės privatumo nustatymų.

Organizacijai

1. Išjunkite duomenų naudojimą mokymui verslo paskyrose ir periodiškai tai peržiūrėkite – nustatymai keičiasi kartu su paslaugų sąlygomis.
2. Sukurkite aiškią AI naudojimo politiką darbuotojams. „Šešėlinis AI“ – asmeninės paskyros darbo reikalams – yra didžiausia spraga, nes ji apeina visas jūsų sutartis ir nustatymus.
3. Apibrėžkite, kokie duomenys apskritai negali patekti į AI įrankius: klientų PII, kredencialai, vidinis kodas, teisiniai ir finansiniai dokumentai.
4. Mokykite žmones. Politika, kurios niekas neskaitė, nėra kontrolė. Praktiniai kibernetinio saugumo mokymai ir socialinės inžinerijos simuliacijos parodo, kaip komanda elgiasi realiai, o ne teoriškai.
5. Turėkite planą incidentui. Jei konfidencialūs duomenys jau pateko į AI įrankį, reikia žinoti, ką daryti per pirmą valandą – tam skirti incidentų valdymo mokymai.

Jei patys diegiate AI agentus

1. Mažiausių privilegijų principas. Agentas turi matyti tik tai, ko jam būtinai reikia užduočiai atlikti – ne visą duomenų bazę „dėl viso pikto“.
2. Ribokite išeinantį srautą (egress filtering). Leidžiamų domenų sąrašas yra vienintelis dalykas, kuris realiai sulaužo mirtiną trejetą: net ir apgautas agentas neturi kur išsiųsti duomenų.
3. Atskirkite testavimo aplinkas nuo realių duomenų ir nuo interneto. Vertinimo aplinka su produkcijos duomenimis – tai incidentas, kuris dar neįvyko.
4. Registruokite ir stebėkite kiekvieną agento veiksmą. Kiekvieną įrankio iškvietimą, kiekvieną išeinančią užklausą. Kaip rodo šis atvejis, OpenAI dabar peržiūri kelių mėnesių agentų veiklą, o tai gali užtrukti mėnesius.
5. Laikykite agento įvestį nepatikima. Bet koks tekstas iš interneto, dokumento ar el. laiško gali būti instrukcija agentui. Duomenys nėra komandos – bet modelis to savaime neskiria.
6. Peržiūrėkite integraciją prieš paleidžiant. Saugiojo kodo auditas ir saugumo testavimas parodo, ką agentas gali pasiekti realiai, o ne pagal architektūros schemą.

Ko šis incidentas moko

Šis incidentas nėra apie tai, kad AI yra „blogas“. Jis apie tai, kad autonomiškos sistemos su prieiga prie duomenų ir interneto reikalauja tokios pačios griežtos kontrolės kaip ir bet kuris privilegijuotas naudotojas.

Skirtumas tik toks, kad darbuotojas, prieš įkeldamas kliento nuotrauką į viešą svetainę, greičiausiai sustotų ir pagalvotų. Agentas nesustos – jis optimizuoja tikslą, o ne reputaciją.

Kaip galiu padėti

Jei jūsų organizacija diegia AI įrankius arba jau pastebėjo, kad darbuotojai jais naudojasi be jokios tvarkos:

• Saugiojo kodo auditas – AI integracijų, agentų ir jų prieigos teisių peržiūra kode.
• Web aplikacijų saugumo testavimas – realus patikrinimas, ką pavyksta pasiekti per jūsų aplikaciją ir jos integracijas.
• Išorinė žvalgyba ir atakos paviršiaus vertinimas – ką apie jus jau galima rasti viešai, įskaitant nutekėjusius kredencialus.
• Kibernetinio saugumo mokymai ir seminarai – praktinė AI naudojimo higiena komandoms.
• Socialinės inžinerijos simuliacijos – patikrinimas, kaip komanda elgiasi spaudimo akimirką.
• Incidentų valdymo mokymai – ką daryti, kai duomenys jau iškeliavo.
• KSĮ atitikties vertinimas – reikalavimų peržiūra, jei jūsų veiklai taikomas Kibernetinio saugumo įstatymas.

Visas paslaugų sąrašas – kibernetinio saugumo paslaugos. Klausimams: kontaktai.

Susiję straipsniai: AI asistentų saugumo atmintinė, socialinė inžinerija prieš dirbtinį intelektą ir AI įmonių „GitHub“ nutekėjimai.