Desafios Centrais na Implementação da IA
Executivos da Hitachi Vantara apontam que a segurança de dados é o maior desafio na adoção da inteligência artificial (IA) nas empresas. Um relatório global da companhia revela que a estruturação dos dados, a governança e a infraestrutura são os três pilares que mais preocupam os líderes tecnológicos. Desde a popularização da IA generativa, a cibersegurança tem sido impactada negativamente pela ausência desses elementos, cenário que tende a se agravar com a chegada dos agentes de IA.
Shane Gibson, especialista técnico sênior para as Américas da Hitachi Vantara, alerta para os riscos dos agentes de IA: “Eles podem executar ações com consequências não intencionais se não forem monitorados constantemente, e há um grande equívoco sobre o funcionamento dessas ferramentas”.
Riscos e Excesso de Confiança nas Soluções de IA
Segundo Gibson, muitas empresas têm confiado demasiadamente nos resultados produzidos pela IA, adotando soluções precipitadamente e em ritmo acelerado, sem avaliar a real necessidade, o que cria vulnerabilidades adicionais. O relatório mostra que 91% dos agentes de IA ainda apresentam casos de alucinação, enquanto 76% dos dados corporativos são não estruturados — justamente o tipo mais explorado pelas aplicações de IA.
Para o Brasil, a situação é diferente. O país experimenta uma digitalização rápida, muitas vezes baseada em ambientes legados e heterogêneos. Os executivos brasileiros, no entanto, são vistos como mais cautelosos no mercado de IA. Joshua Wick, líder global de riscos e compliance da Hitachi Vantara, observa que “os executivos brasileiros preferem realizar uma due diligence mais detalhada antes de investir, demonstrando apreensão quanto ao valor inicial da tecnologia”.
Leia também: OpenAI apresenta GPT-6 Astra, o modelo que redefine a Inteligência Artificial Geral
Fonte: acreverdade.com.br
Leia também: Segurança de dados é o maior desafio na adoção da inteligência artificial, aponta Hitachi Vantara
Fonte: aquiribeirao.com.br
Educação e Governança como Caminhos para Mitigar Riscos
Especialistas da Hitachi Vantara consideram essa postura conservadora positiva, pois enxergam a inteligência artificial como uma ferramenta poderosa que deve ser usada com prudência. Wick destaca a importância de questionar se a IA é realmente necessária para resolver determinado problema antes de adotá-la.
Para reduzir riscos, a educação dos usuários é fundamental. Eles precisam compreender o funcionamento da tecnologia e as implicações do seu uso. Shane Gibson ressalta que essa capacitação demanda tempo e não pode ser negligenciada: “As organizações devem saber exatamente o que esperam da IA, conhecer seus perigos e evitar pressa na implementação, realizando testes prévios”.
Segurança de Dados Ganha Espaço nas Prioridades das Empresas
A preocupação com a segurança dos dados tem crescido nas organizações, refletindo-se no uso dos modelos de linguagem de grande escala (LLMs). O relatório aponta que 56% das lideranças consideram a segurança como o maior desafio na implementação da IA, um aumento de 19 pontos percentuais em relação ao ano anterior.
Essa conscientização impacta a percepção de sucesso dos modelos de IA generativa, como ChatGPT e Copilot, que caiu de 95% para 81%. Paralelamente, os investimentos em governança e qualidade dos dados avançam: o aprimoramento dos dados para treinamento subiu de 39% para 49%, adoção de frameworks de governança passou de 32% para 45% e auditorias regulares de desempenho cresceram de 36% para 44%. Já o percentual de empresas sem estratégia de explicabilidade dos modelos caiu de 42% para 24%.
Governança e Segurança não Freiam Inovação
Apesar das dificuldades, os especialistas reforçam que investir em governança e segurança não significa frear o avanço tecnológico. Pelo contrário, é garantir o uso seguro e eficiente da IA nas organizações. Gibson destaca: “Com o tempo, as alucinações e a falta de retorno sobre o investimento começaram a mostrar que a IA pode representar riscos, pois nem sempre é determinística”.
O futuro da tecnologia, segundo ele, deve trazer interfaces mais simples e diretas, capazes de gerar resultados a partir de comandos únicos. Mas para alcançar esse estágio, é necessário que as empresas se organizem e fortaleçam sua estruturação antes de avançar.
Essa visão reflete a necessidade de equilíbrio entre inovação e segurança, conectando a tecnologia ao impacto real no cotidiano e nos negócios, sem cair em discursos de hype ou promessas vazias.