Intervju: Shadow AI
U ovom izdanju domen.rs intervjua govorimo o pojavi koja se tiho, ali sve brže širi u kompanijama širom sveta: shadow AI, odnosno upotrebi alata veštačke inteligencije bez znanja i odobrenja organizacije.
Zaposleni sve češće koriste AI alate kako bi brže napisali mejl, saželi izveštaj ili analizirali podatke, a da pri tome niko u firmi ne zna koje alate koriste niti kakve podatke u njih unose. Termin je nastao po uzoru na pojam shadow IT, koji označava upotrebu softvera i servisa mimo IT službe. Kod veštačke inteligencije, međutim, ulog je veći: poverljivi dokumenti, podaci o klijentima i interne informacije mogu da završe na serverima o kojima kompanija ne zna ništa.
Naš sagovornik je Marko Elazar, direktor u kompaniji Nova Defense, koji nam je dao odgovore na sledeća pitanja:
- Šta je zapravo shadow AI?
- Da li je shadow AI zapravo bezbednosni problem ili simptom toga da su zaposleni počeli brže da usvajaju nove tehnologije nego kompanije u kojima rade?
- Ako kompanija odluči da ozbiljno pristupi problemu shadow AI, odakle uopšte da počne?
- Šta se dešava kada zaposleni počnu da koriste veštačku inteligenciju koja ne samo da odgovara na pitanja, već može i samostalno da obavlja zadatke i pristupa poslovnim sistemima?
- Da li shadow AI ukazuje na to da se AI transformacija kompanija već odvija mimo njihovih strategija i planova?
- Umesto da pokušavaju da ograniče korišćenje neodobrenih AI alata, da li bi kompanije trebalo da se fokusiraju na to da zaposlenima obezbede sopstvena, bezbedna AI rešenja? Može li upravo to biti najefikasniji odgovor na shadow AI?
- Da li misliš da ćemo za pet godina uopšte govoriti o shadow AI ili će veštačka inteligencija postati toliko sastavni deo našeg života i poslovanja da ćemo morati potpuno drugačije da razmišljamo o bezbednosti?