Shadow AI: kada zaposleni koriste veštačku inteligenciju mimo pravila

Zaposleni sve češće koriste veštačku inteligenciju kako bi brže završili posao. Ali šta se dešava kada AI alat uđe u poslovanje pre nego što ga IT sektor, bezbednosni tim i menadžment uopšte registruju?

Veštačka inteligencija postala je deo svakodnevnog rada mnogo brže nego što su mnoge organizacije stigle da prilagode svoja pravila.

Danas zaposleni koriste AI za pisanje i prevođenje tekstova, analizu podataka, programiranje, kreiranje prezentacija, istraživanje, korisničku podršku i brojne druge zadatke. Za mnoge od njih AI više nije eksperiment, već alat koji im pomaže da posao završe brže.

Problem nastaje kada se koriste servisi koje organizacija nije odobrila, proverila ili uključila u svoje bezbednosne procedure.

Ovaj fenomen poznat je kao shadow AI.

Ako je shadow IT nekada značio da zaposleni sam instalira program ili otvori klaud servis koji IT sektor nije odobrio, shadow AI donosi novu verziju istog problema. Razlika je u tome što AI alati često rade upravo sa onim što im korisnik pošalje – dokumentima, tekstovima, podacima, kodom ili drugim informacijama.

Sam termin shadow IT koristi se upravo za situacije u kojima zaposleni koriste softver, klaud servise ili druge IT resurse koji nisu formalno odobreni ili obuhvaćeni kontrolama organizacije. Shadow AI se zato može posmatrati kao nova, specifična forma tog starijeg fenomena, sa dodatnim rizicima koji proizlaze iz načina na koji AI servisi obrađuju podatke.

A kada jednom pošaljemo podatke nekom servisu, važno je znati šta se sa njima dalje dešava.

Šta je shadow AI?

Shadow AI označava korišćenje AI alata i servisa koji nisu deo zvaničnog IT okruženja organizacije i nisu obuhvaćeni njenim pravilima i bezbednosnim kontrolama.

Primer može biti veoma jednostavan.

Zaposleni dobije ugovor od nekoliko desetina strana i želi da napravi kratak rezime. Umesto odobrenog poslovnog alata, koristi javno dostupan AI servis i kopira sadržaj dokumenta. Programer ima problem sa kodom i ubacuje deo internog koda u AI asistent kako bi dobio predlog rešenja. Marketing tim priprema novu kampanju i u AI alat unosi informacije o proizvodu koji još nije javno predstavljen.Nijedna od ovih situacija ne mora da nastane iz loše namere.

Naprotiv, motiv može biti upravo suprotan – zaposleni želi da bude efikasniji.

Ali iz perspektive organizacije, pitanje je drugačije:

Da li znamo koje podatke zaposleni šalju AI , gde se ti podaci obrađuju i ko njima može da pristupi?

I još važnije: da li uopšte znamo koji se AI alati u organizaciji koriste?

Ako je odgovor „ne”, organizacija ima bezbednosni problem.

Kako organizacija saznaje da se shadow AI uopšte koristi?

Pre nego što organizacija može da upravlja rizikom, mora da zna šta se u njoj zapravo koristi.

To nije uvek jednostavno. Zaposleni može koristiti privatni nalog, servis koji je pronašao sam ili AI funkciju koja je već ugrađena u neki drugi alat.

Zato je potrebno imati određeni nivo vidljivosti nad AI servisima koji se koriste u poslovnom okruženju – ne samo nad zvanično odobrenim alatima, već i nad onima koji su se pojavili mimo formalnih procedura.

Bez te vidljivosti organizacija ne može pouzdano da proceni rizik, da utvrdi koje podatke zaposleni šalju AI servisima niti da reaguje ako dođe do incidenta.

Zašto zaposleni koriste shadow AI?

AI alati imaju jednu veliku prednost u odnosu na mnoge poslovne tehnologije koje su im prethodile: dostupni su gotovo odmah.

Novi servis može da se pronađe, nalog napravi, a prvi rezultat dobije za nekoliko minuta.

Nasuprot tome, uvođenje novog poslovnog softvera može zahtevati bezbednosnu proveru, pravnu procenu, ugovore, integraciju sa postojećim sistemima i odobrenje više sektora.

Tako nastaje jaz.

Zaposleni vidi alat koji može da mu uštedi sat vremena rada. Organizacija vidi novi servis koji mora prethodno da proveri.

Ako odobrena alternativa ne postoji, zaposleni može odlučiti da problem reši sam.

Zbog toga shadow AI nije nužno znak da zaposleni namerno zaobilaze pravila. Ponekad je signal da organizacija nije dovoljno brzo odgovorila na realne potrebe ljudi koji u njoj rade. 

Činjenica da organizacija ima AI politiku ne znači automatski da će svi zaposleni koristiti samo odobrene alate. Ljudi će veštačku inteligenciju svakako koristiti. Pitanje je da li će ta upotreba biti vidljiva i kontrolisana ili će se odvijati mimo pravila i bezbednosnih kontrola.

Gde nastaje rizik?

Najvidljiviji rizik jeste unošenje poverljivih informacija u eksterni AI servis. To mogu biti podaci o klijentima, lični podaci, ugovori, finansijski dokumenti, poslovne strategije, interna dokumentacija, izvorni kod ili informacije o proizvodima koji još nisu predstavljeni javnosti.

Zaposleni možda samo želi da skrati tekst ili pronađe grešku u kodu. Ali time je deo poslovnih informacija poslat sistemu koji se nalazi izvan infrastrukture organizacije.

Zato kod AI servisa nije dovoljno pitati samo: Da li ovaj alat može da uradi ono što mi treba? Potrebno je pitati i: Šta se dešava sa podacima koje mu šaljem?

Važno je znati i da li će se podaci koristiti za treniranje modela, koliko dugo se čuvaju, gde se obrađuju, da li se prosleđuju ili obrađuju kod drugih pružalaca usluga, ko može da im pristupi i da li postoji mogućnost njihovog brisanja. Drugim rečima, potrebno je posmatrati ceo put podataka, od trenutka kada ih korisnik unese u AI servis, pa sve do trenutka kada više nisu dostupni u tom sistemu.

Organizacija može izgubiti pregled nad podacima

Kod odobrenog poslovnog softvera organizacija može da definiše ko ima pristup, kojim podacima se pristupa i koje su dozvole korisnika. Kad je reč o shadow AI, te kontrole mogu potpuno izostati. Ako zaposleni koristi privatni nalog, IT sektor možda čak ni ne zna da se određeni servis koristi u poslovne svrhe.

To stvara novu vrstu slepe tačke.

A u sajber bezbednosti ono što ne možemo da vidimo mnogo je teže zaštititi.

Nije svaki podatak isti

Nije isti rizik ako zaposleni u AI alat unese javno dostupan tekst, interni dokument, lične podatke klijenta, finansijske informacije ili poverljivi izvorni kod. Zato je važno da organizacija zna koje kategorije podataka smeju da se obrađuju u kojim AI sistemima. 

Za različite kategorije podataka potrebne su različite organizacione i tehničke mere. Umesto jednostavnog pravila „koristite AI“ ili „ne koristite AI“, potrebno je znati šta se obrađuje i koliki je rizik ako ti podaci budu otkriveni, izgubljeni ili obrađeni van kontrolisanog okruženja.

AI može postati deo napadačkog lanca 

Veštačka inteligencija nije samo alat koji odgovara na pitanja.

Sve više se koriste AI agenti, sistemi koji mogu da pristupaju dokumentima, koriste druge aplikacije i izvršavaju zadatke u ime korisnika. Što više ovlašćenja imaju, to je važnije pažljivo upravljati njihovim pristupom.

Problem ne nastaje samo kada korisnik sam pošalje podatke AI sistemu. Ako je AI agentu dat pristup internim dokumentima, bazama ili drugim sistemima, on može doći do podataka i sam, u zavisnosti od svojih ovlašćenja. Zato nije dovoljno kontrolisati šta korisnik unosi u AI već je potrebno kontrolisati i čemu sam AI može da pristupi.

Ako AI agent može da pristupi poslovnom sistemu, dokumentima ili drugim servisima, njegov kompromitovan nalog ili pogrešna konfiguracija mogu otvoriti put do resursa kojima inače ne bi trebalo da ima pristup.

Ne mora uvek da postoji napadač

Kada govorimo o sajber bezbednosti, lako je zamisliti napadača koji namerno pokušava da dođe do podataka. Kada je u pitanju shadow AI, problem može nastati i bez klasičnog napada. Dovoljno je da zaposleni nenamerno pošalje poverljive informacije u neodobreni servis, koristi privatni nalog ili AI alatu dodeli veća ovlašćenja nego što su mu potrebna. Zato nije važno samo pitanje ko je potencijalni napadač, već i na koje sve načine naši podaci mogu da napuste kontrolisano okruženje.

Da li je rešenje zabraniti AI?

Verovatno nije.

Veštačka inteligencija postaje deo poslovanja bez obzira na to da li je organizacija već završila pisanje svoje AI politike. Zabrana sama po sebi neće nužno sprečiti zaposlene da koriste AI. Može samo dovesti do toga da se njegova upotreba preseli van vidokruga organizacije.

Zato je korisnije napraviti okruženje u kojem zaposleni imaju bezbedne i odobrene načine za korišćenje veštačke inteligencije. Ako deset zaposlenih koristi isti neodobreni servis za isti zadatak, možda problem nije u zaposlenima.

Možda je to znak da organizacija treba da obezbedi bolje rešenje.

Kako smanjiti rizik od shadow AI?

Shadow AI verovatno neće nestati. Kao i kod shadow IT-ja, realniji cilj je smanjiti rizik, povećati vidljivost i omogućiti kontrolisano korišćenje novih tehnologija.

1. Definisati jasna pravila

Zaposleni treba da znaju:

• koje AI alate mogu da koriste
• koje podatke smeju da unose
• koje podatke ne smeju da unose
• kada je obavezna ljudska provera AI rezultata
• kome mogu da se obrate ako nisu sigurni da li je određeni alat bezbedan.

2. Obezbediti odobrene alternative

Ako je zaposlenima AI potreban za svakodnevni posao, organizacija treba da im ponudi rešenja koja su prethodno procenjena sa stanovišta bezbednosti i zaštite podataka.

3. Omogućiti jednostavan proces za prijavu novih alata

Zaposleni treba da mogu da kažu:

Ovaj alat bi nam mnogo pomogao. Možemo li da proverimo da li je bezbedan za poslovnu upotrebu?

To je mnogo korisnije od situacije u kojoj IT sektor za određeni servis sazna tek kada dođe do incidenta.

4. Edukovati zaposlene

Dobra AI politika ne treba da bude samo spisak zabrana.

Zaposleni treba da razumeju zašto određeni podaci ne smeju da se šalju javnim servisima i kako da prepoznaju rizične situacije.

Jedno jednostavno pitanje može biti dobar početak:

Da li bih ove informacije poslao nepoznatoj osobi?

Ako ne bih, ne bi trebalo da ih šaljem ni neproverenom AI servisu.

5. Kontrolisati pristup 

AI sistemi i agenti treba da imaju samo ona ovlašćenja koja su im neophodna. Ako AI alat nema razloga da pristupa određenom dokumentu, nalogu ili poslovnom sistemu, ne bi trebalo da mu taj pristup bude omogućen.

6. Znati postupak ako se incident ipak dogodi

Nijedna organizacija ne može pretpostaviti da će pravila uvek biti poštovana. Zato treba da postoji i jasna regulativa šta raditi ako zaposleni ipak pošalje osetljiv podatak neodobrenom AI servisu.

Ko prijavljuje incident? Ko procenjuje šta je poslato? Ko utvrđuje gde su podaci završili? Ko procenjuje posledice i dalje korake? 

Bez tog dela, politika ostaje nepotpuna.

Od shadow AI-ja do odgovorne upotrebe veštačke inteligencije

Veštačka inteligencija menja način na koji radimo, baš kao što su internet, klaud servisi i mobilne aplikacije ranije promenili način na koji komuniciramo i poslujemo.

AI će sve manje predstavljati nešto novo i sve više deo infrastrukture svakodnevnog rada. Zato je važno da organizacije ne čekaju da se pojavi bezbednosni incident kako bi otkrile koje AI alate njihovi zaposleni već koriste. 

Najveći rizik nije nužno u tome što zaposleni koristi AI. Rizik nastaje kada organizacija ne zna šta se koristi, koji se podaci obrađuju, kojim sistemima AI može da pristupi i šta se dešava sa podacima nakon što napuste kontrolisano okruženje. Zato nije dovoljno zapitati se da li je neki alat dozvoljen ili zabranjen već je neophodno utvrditi šta se od alata koristi, ko ih koristi, kojim podacima AI ima pristup, gde ti podaci odlaze, koliko dugo ostaju tamo, ko još može da im pristupi, i šta radimo ako nešto pođe po zlu.