Da Redação
À medida que a inteligência artificial se consolida no ambiente corporativo, também crescem as preocupações relacionadas ao seu uso. No Brasil, 80% dos líderes afirmam estar preocupados com a utilização de ferramentas de IA externas sem a aprovação da empresa ou da área de TI, de acordo com o estudo global Value of AI, realizado pela SAP em parceria com a Oxford Economics.
O fenômeno recebeu o nome de Shadow AI e descreve o uso de chatbots, assistentes e outras soluções de IA sem conhecimento ou aprovação da área de tecnologia. Levantamento do Gartner mostra que 69% das empresas suspeitam ou já identificaram evidências de uso de ferramentas de IA generativa não autorizadas por seus funcionários. O relatório The State of AI Cyber Security, do Check Point Research, apurou que, a cada 80 prompts enviados a partir de dispositivos corporativos, um continha informações classificadas como de alto risco.
No Brasil, estudo conduzido pela SAP em parceria com a Oxford Economics aponta que 66% das companhias admitem esse tipo de uso com alguma frequência. Ou seja, o que começa como busca por produtividade individual tem se transformado em um problema estrutural, com impacto direto sobre segurança da informação, conformidade regulatória e a consistência dos resultados entregues por projetos que envolvem múltiplas equipes.
Para Marcus Garcia, diretor comercial da Konia Tecnologia, o dado que mais preocupa lideranças de tecnologia é a ausência de estrutura que acompanha essa adoção, mais do que a existência do uso informal em si:
“Quando a IA entra na empresa pela porta dos fundos, sem processo, sem governança e sem alinhamento entre áreas, ela carrega os mesmos riscos de qualquer tecnologia adotada sem planejamento. A diferença está na escala e no tipo de dado envolvido”, explica.
A adoção de baixo para cima, quando cada colaborador decide sozinho quais ferramentas usar e como usá-las, costuma gerar ganhos individuais de produtividade no curto prazo. Sem uma camada de coordenação corporativa, porém, esse movimento fragmenta o conhecimento gerado dentro da empresa, dificulta a padronização de processos entre times e cria pontos cegos justamente onde deveria haver rastreabilidade, no tratamento de dados de clientes, em decisões estratégicas e em código-fonte proprietário.
Garcia observa que o padrão já apareceu em outros ciclos de tecnologia corporativa: “vimos algo parecido com Big Data e com o IBM Watson. A tecnologia chega, parte da empresa passa a usá-la por conta própria, e quando é hora de integrar isso ao restante da operação falta estrutura para sustentar o que foi construído de forma isolada. Com IA generativa, esse ciclo se repete em menos tempo e envolve muito mais gente ao mesmo tempo”, diz.
O impacto, segundo o executivo, não se limita à segurança da informação. Projetos perdem consistência quando parte da equipe apoia decisões em ferramentas de IA e parte não usa nenhuma, ou usa ferramentas diferentes entre si, sem que a organização meça o efeito disso nos resultados entregues ao cliente final.
Bloquear o acesso às ferramentas, na avaliação de Garcia, tende a empurrar o uso para fora do alcance da empresa, sem eliminar o risco. O caminho passa por reconhecer que a demanda já existe entre os times e construir, a partir dela, uma estrutura de governança que aproxime segurança, compliance e áreas de negócio antes que os riscos se materializem.
