Интервју: Shadow AI
У овом издању domen.rs интервјуа говоримо о појави која се тихо, али све брже шири у компанијама широм света: shadow AI, односно употреби алата вештачке интелигенције без знања и одобрења организације.
Запослени све чешће користе AI алате како би брже написали мејл, сажели извештај или анализирали податке, а да при томе нико у фирми не зна које алате користе нити какве податке у њих уносе. Термин је настао по узору на појам shadow IT, који означава употребу софтвера и сервиса мимо IT службе. Код вештачке интелигенције, међутим, улог је већи: поверљиви документи, подаци о клијентима и интерне информације могу да заврше на серверима о којима компанија не зна ништа.
Наш саговорник је Марко Елазар, директор у компанији Nova Defense, који нам је дао одговоре на следећа питања:
- Шта је заправо shadow AI?
- Да ли је shadow AI заправо безбедносни проблем или симптом тога да су запослени почели брже да усвајају нове технологије него компаније у којима раде?
- Ако компанија одлучи да озбиљно приступи проблему shadow AI, одакле уопште да почне?
- Шта се дешава када запослени почну да користе вештачку интелигенцију која не само да одговара на питања, већ може и самостално да обавља задатке и приступа пословним системима?
- Да ли shadow AI указује на то да се AI трансформација компанија већ одвија мимо њихових стратегија и планова?
- Уместо да покушавају да ограниче коришћење неодобрених AI алата, да ли би компаније требало да се фокусирају на то да запосленима обезбеде сопствена, безбедна AI решења? Може ли управо то бити најефикаснији одговор на shadow AI?
- Да ли мислиш да ћемо за пет година уопште говорити о shadow AI или ће вештачка интелигенција постати толико саставни део нашег живота и пословања да ћемо морати потпуно другачије да размишљамо о безбедности?