4 medidas para aprimorar o monitoramento da IA descentralizada

Imagem: Shutterstock

por Erick Santos e Lucas Peixoto*

A utilização de Inteligência Artificial Descentralizada, ou seja, quando usuários adotam modelos de IA pré-treinados em seus dispositivos locais para que possam se beneficiar dos insights gerados pela IA sem entregar seus dados a uma autoridade centralizada, tem se tornado uma prática cada vez mais comum nas áreas de negócios das empresas.

O crescimento exponencial deste tipo de utilização, impulsionado pela multiplicação de aplicações disponíveis ao público, pode ser notado em diversos setores. No entanto, essa descentralização traz consigo desafios significativos, especialmente no que diz respeito à segurança e ao controle de acesso às aplicações de IA on-line.

Ao descentralizar a IA, empresas e usuários se deparam com diversos riscos, como o aumento da vulnerabilidade a violações de privacidade, pois, sem medidas adequadas de proteção, informações sensíveis podem ser acessadas indevidamente.

Podemos citar também que as diferenças na implementação e no uso da IA Descentralizada podem resultar em inconsistências nos resultados e na interpretação dos dados, impactando diretamente a confiabilidade das decisões empresariais.

Um outro risco é a falta de atenção aos vieses de aprendizado. A utilização destas aplicações sem o discernimento de que a programação pode ser enviesada acarreta conclusões e produtos que podem ser incorretos, imprecisos e até mesmo discriminatórios.

Para mitigar esses riscos e garantir uma gestão eficaz das aplicações de IA on-line, é fundamental implementar um sistema robusto de monitoramento, que deve permitir a gestão de acesso com base em perfis de usuário e necessidades específicas de trabalho. Isso não apenas melhora a segurança, mas também otimiza o uso dos recursos de IA disponíveis ao estabelecer qual a melhor aplicação para cada situação apresentada.

A justificativa do uso, que permite registrar e analisar o motivo pelo qual cada usuário acessa determinadas aplicações de IA, é outro recurso essencial em uma solução de monitoramento, possibilitando aumentar a transparência nas operações, e também ajudar na detecção precoce de possíveis usos indevidos ou não autorizados.

Por fim, sistemas eficazes de monitoramento devem permitir o bloqueio de aplicações indesejadas e restringir o acesso a certas aplicações de IA que possam representar riscos para a segurança da informação ou que não sejam adequadas para determinados contextos empresariais. Outras medidas importantes para aprimorar essa gestão incluem:

Mapeamento: realizar um inventário detalhado dos recursos existentes no ambiente da empresa, identificando todas as aplicações e tecnologias de IA em uso.
Capacitação: promover a conscientização e o treinamento das equipes sobre os riscos associados ao uso de IA, bem como as melhores práticas para sua contratação e implementação.
Análise e mitigação de riscos: conduzir testes iniciais das aplicações de IA para avaliar seu impacto no negócio, além de realizar uma análise contratual que aborde questões de propriedade intelectual, reputação e privacidade.
Monitoramento e melhoria contínua: estabelecer processos para o monitoramento constante das aplicações de IA e promover a melhoria contínua dos processos envolvidos.

O rápido aumento da utilização de aplicações de IA, em especial quando se dá de forma descentralizada pelos usuários, traz novos riscos ao mesmo passo em que entrega soluções mais ágeis. Sendo assim, é fundamental reconhecer não só o uso da IA como uma realidade, mas também a governança sobre estas aplicações.

Siga o IT Forum no LinkedIn e fique por dentro de todas as notícias!

*Erick Santos é gerente associado de Tech Governance da Protiviti. É formado em Análise e Desenvolvimento de Sistemas, e possui mais de dez anos de experiência em IT Risk.

*Lucas Peixoto é consultor de Tech Governance da Protiviti. É formado em Administração de Empresas, e possui MBA em Data Science & Analytics.