Shadow AI: када запослени користе вештачку интелигенцију мимо правила
Запослени све чешће користе вештачку интелигенцију како би брже завршили посао. Али шта се дешава када AI алат уђе у пословање пре него што га ИТ сектор, безбедносни тим и менаџмент уопште региструју?
Вештачка интелигенција постала је део свакодневног рада много брже него што су многе организације стигле да прилагоде своја правила.
Данас запослени користе AI за писање и превођење текстова, анализу података, програмирање, креирање презентација, истраживање, корисничку подршку и бројне друге задатке. За многе од њих AI више није експеримент, већ алат који им помаже да посао заврше брже.
Проблем настаје када се користе сервиси које организација није одобрила, проверила или укључила у своје безбедносне процедуре.
Овај феномен познат је као shadow AI.
Ако је shadow IT некада значио да запослени сам инсталира програм или отвори клауд сервис који ИТ сектор није одобрио, shadow AI доноси нову верзију истог проблема. Разлика је у томе што AI алати често раде управо са оним што им корисник пошаље – документима, текстовима, подацима, кодом или другим информацијама.
Сам термин shadow IT користи се управо за ситуације у којима запослени користе софтвер, клауд сервисе или друге ИТ ресурсе који нису формално одобрени или обухваћени контролама организације. Shadow AI се зато може посматрати као нова, специфична форма тог старијег феномена, са додатним ризицима који произлазе из начина на који AI сервиси обрађују податке.
А када једном пошаљемо податке неком сервису, важно је знати шта се са њима даље дешава.
Шта је shadow AI?
Shadow AI означава коришћење AI алата и сервиса који нису део званичног ИТ окружења организације и нису обухваћени њеним правилима и безбедносним контролама.
Пример може бити веома једноставан.
Запослени добије уговор од неколико десетина страна и жели да направи кратак резиме. Уместо одобреног пословног алата, користи јавно доступан AI сервис и копира садржај документа. Програмер има проблем са кодом и убацује део интерног кода у AI асистент како би добио предлог решења. Маркетинг тим припрема нову кампању и у AI алат уноси информације о производу који још није јавно представљен.Ниједна од ових ситуација не мора да настане из лоше намере.
Напротив, мотив може бити управо супротан – запослени жели да буде ефикаснији.
Али из перспективе организације, питање је другачије:
Да ли знамо које податке запослени шаљу AI , где се ти подаци обрађују и ко њима може да приступи?
И још важније: да ли уопште знамо који се AI алати у организацији користе?
Ако је одговор „не”, организација има безбедносни проблем.
Како организација сазнаје да се shadow AI уопште користи?
Пре него што организација може да управља ризиком, мора да зна шта се у њој заправо користи.
То није увек једноставно. Запослени може користити приватни налог, сервис који је пронашао сам или AI функцију која је већ уграђена у неки други алат.
Зато је потребно имати одређени ниво видљивости над AI сервисима који се користе у пословном окружењу – не само над званично одобреним алатима, већ и над онима који су се појавили мимо формалних процедура.
Без те видљивости организација не може поуздано да процени ризик, da утврди које податке запослени шаљу АI сервисима нити да реагује ако дође до инцидента.
Зашто запослени користе shadow AI?
AI алати имају једну велику предност у односу на многе пословне технологије које су им претходиле: доступни су готово одмах.
Нови сервис може да се пронађе, налог направи, а први резултат добије за неколико минута.
Насупрот томе, увођење новог пословног софтвера може захтевати безбедносну проверу, правну процену, уговоре, интеграцију са постојећим системима и одобрење више сектора.
Тако настаје јаз.
Запослени види алат који може да му уштеди сат времена рада. Организација види нови сервис који мора претходно да провери.
Ако одобрена алтернатива не постоји, запослени може одлучити да проблем реши сам.
Због тога shadow AI није нужно знак да запослени намерно заобилазе правила. Понекад је сигнал да организација није довољно брзо одговорила на реалне потребе људи који у њој раде.
Чињеница да организација има АI политику не значи аутоматски да ће сви запослени користити само одобрене алате. Људи ће вештачку интелигенцију свакако користити. Питање је да ли ће та употреба бити видљива и контролисана или ће се одвијати мимо правила и безбедносних контрола.
Где настаје ризик?
Највидљивији ризик јесте уношење поверљивих информација у екстерни AI сервис. То могу бити подаци о клијентима, лични подаци, уговори, финансијски документи, пословне стратегије, интерна документација, изворни код или информације о производима који још нису представљени јавности.
Запослени можда само жели да скрати текст или пронађе грешку у коду. Али тиме је део пословних информација послат систему који се налази изван инфраструктуре организације.
Зато код AI сервиса није довољно питати само: Да ли овај алат може да уради оно што ми треба? Потребно је питати и: Шта се дешава са подацима које му шаљем?
Важно је знати и да ли ће се подаци користити за тренирање модела, колико дуго се чувају, где се обрађују, да ли се прослеђују или обрађују код других пружалаца услуга, ко може да им приступи и да ли постоји могућност њиховог брисања. Другим речима, потребно је посматрати цео пут података, од тренутка када их корисник унесе у AI сервис, па све до тренутка када више нису доступни у том систему.
Организација може изгубити преглед над подацима
Код одобреног пословног софтвера организација може да дефинише ко има приступ, којим подацима се приступа и које су дозволе корисника. Кад је реч о shadow AI, те контроле могу потпуно изостати. Ако запослени користи приватни налог, ИТ сектор можда чак ни не зна да се одређени сервис користи у пословне сврхе.
То ствара нову врсту слепе тачке.
А у сајбер безбедности оно што не можемо да видимо много је теже заштитити.
Није сваки податак исти
Није исти ризик ако запослени у AI алат унесе јавно доступан текст, интерни документ, личне податке клијента, финансијске информације или поверљиви изворни код. Зато је важно да организација зна које категорије података смеју да се обрађују у којим AI системима.
За различите категорије података потребне су различите организационе и техничке мере. Уместо једноставног правила „користите AI“ или „не користите AI“, потребно је знати шта се обрађује и колики је ризик ако ти подаци буду откривени, изгубљени или обрађени ван контролисаног окружења.
AI може постати део нападачког ланца
Вештачка интелигенција није само алат који одговара на питања.
Све више се користе AI агенти, системи који могу да приступају документима, користе друге апликације и извршавају задатке у име корисника. Што више овлашћења имају, то је важније пажљиво управљати њиховим приступом.
Проблем не настаје само када корисник сам пошаље податке AI систему. Ако је AI агенту дат приступ интерним документима, базама или другим системима, он може доћи до података и сам, у зависности од својих овлашћења. Зато није довољно контролисати шта корисник уноси у AI већ је потребно контролисати и чему сам AI може да приступи.
Ако AI агент може да приступи пословном систему, документима или другим сервисима, његов компромитован налог или погрешна конфигурација могу отворити пут до ресурса којима иначе не би требало да има приступ.
Не мора увек да постоји нападач
Када говоримо о сајбер безбедности, лако је замислити нападача који намерно покушава да дође до података. Када је у питању shadow AI, проблем може настати и без класичног напада. Довољно је да запослени ненамерно пошаље поверљиве информације у неодобрени сервис, користи приватни налог или AI алату додели већа овлашћења него што су му потребна. Зато није важно само питање ко је потенцијални нападач, већ и на које све начине наши подаци могу да напусте контролисано окружење.
Да ли је решење забранити AI?
Вероватно није.
Вештачка интелигенција постаје део пословања без обзира на то да ли је организација већ завршила писање своје AI политике. Забрана сама по себи неће нужно спречити запослене да користе AI. Може само довести до тога да се његова употреба пресели ван видокруга организације.
Зато је корисније направити окружење у којем запослени имају безбедне и одобрене начине за коришћење вештачке интелигенције. Ако десет запослених користи исти неодобрени сервис за исти задатак, можда проблем није у запосленима.
Можда је то знак да организација треба да обезбеди боље решење.
Како смањити ризик од shadow AI?
Shadow AI вероватно неће нестати. Као и код shadow IT-ја, реалнији циљ је смањити ризик, повећати видљивост и омогућити контролисано коришћење нових технологија.
1. Дефинисати јасна правила
Запослени треба да знају:
- које AI алате могу да користе
- које податке смеју да уносе
- које податке не смеју да уносе
- када је обавезна људска провера AI резултата
- коме могу да се обрате ако нису сигурни да ли је одређени алат безбедан.
2. Обезбедити одобрене алтернативе
Ако је запосленима AI потребан за свакодневни посао, организација треба да им понуди решења која су претходно процењена са становишта безбедности и заштите података.
3. Омогућити једноставан процес за пријаву нових алата
Запослени треба да могу да кажу:
Овај алат би нам много помогао. Можемо ли да проверимо да ли је безбедан за пословну употребу?
То је много корисније од ситуације у којој ИТ сектор за одређени сервис сазна тек када дође до инцидента.
4. Едуковати запослене
Добра AI политика не треба да буде само списак забрана.
Запослени треба да разумеју зашто одређени подаци не смеју да се шаљу јавним сервисима и како да препознају ризичне ситуације.
Једно једноставно питање може бити добар почетак:
Да ли бих ове информације послао непознатој особи?
Ако не бих, не би требало да их шаљем ни непровереном AI сервису.
5. Контролисати приступ
AI системи и агенти треба да имају само она овлашћења која су им неопходна. Ако AI алат нема разлога да приступа одређеном документу, налогу или пословном систему, не би требало да му тај приступ буде омогућен.
6. Знати поступак ако се инцидент ипак догоди
Ниједна организација не може претпоставити да ће правила увек бити поштована. Зато треба да постоји и јасна регулатива шта радити ако запослени ипак пошаље осетљив податак неодобреном AI сервису.
Ко пријављује инцидент? Ко процењује шта је послато? Ко утврђује где су подаци завршили? Ко процењује последице и даље кораке?
Без тог дела, политика остаје непотпуна.
Од shadow AI-ја до одговорне употребе вештачке интелигенције
Вештачка интелигенција мења начин на који радимо, баш као што су интернет, клауд сервиси и мобилне апликације раније променили начин на који комуницирамо и послујемо.
AI ће све мање представљати нешто ново и све више део инфраструктуре свакодневног рада. Зато је важно да организације не чекају да се појави безбедносни инцидент како би откриле које AI алате њихови запослени већ користе.
Највећи ризик није нужно у томе што запослени користи AI. Ризик настаје када организација не зна шта се користи, који се подаци обрађују, којим системима AI може да приступи и шта се дешава са подацима након што напусте контролисано окружење. Зато није довољно запитати се да ли је неки алат дозвољен или забрањен већ је неопходно утврдити шта се од алата користи, ко их користи, којим подацима AI има приступ, где ти подаци одлазе, колико дуго остају тамо, ко још може да им приступи, и шта радимо ако нешто пође по злу.
