A rápida expansão da Inteligência Artificial no setor público tem ampliado a eficiência dos serviços prestados à sociedade, mas também traz novos desafios relacionados à proteção dos direitos fundamentais. Foi o que destacou o conselheiro Alisson Alencar no Fórum Internacional de Direito – X Congresso Iberoamericano de Derechos Humanos, na Universidade de Valladolid, na Espanha, que, no dia 8 de julho, reuniu especialistas de diversos países para discutir os desafios contemporâneos do Direito.

Na palestra intitulada “Supervisão Humana Significativa (HITL) em Sistemas de IA de Alto Risco na Administração Pública: Convergências e Assimetrias entre Brasil e Espanha”, o conselheiro apresentou uma análise comparativa entre os modelos regulatórios adotados pelos dois países.

De acordo com ele, a Inteligência Artificial só poderá contribuir efetivamente para a modernização da administração pública se estiver acompanhada por mecanismos robustos de supervisão humana, transparência e responsabilização. “A Inteligência Artificial deve ampliar a capacidade do Estado de servir melhor ao cidadão, mas jamais substituir o julgamento humano. A tecnologia precisa estar a serviço das pessoas e dos direitos fundamentais”, afirmou.

Alisson explicou ainda que tecnologias baseadas em Inteligência Artificial já vêm sendo utilizadas em diversas áreas da gestão pública para apoiar decisões de grande impacto, como nos sistemas de saúde, segurança pública e justiça. Apesar dos benefícios, alertou que a automatização de decisões pode reproduzir vieses, ampliar desigualdades e gerar violações de direitos quando não existe participação humana efetiva ao longo de todo o processo.

Para o conselheiro, a chamada Supervisão Humana Significativa vai muito além da simples presença de um operador acompanhando o funcionamento dos sistemas. É necessário que o agente público participe desde o desenvolvimento até a utilização da Inteligência Artificial, possuindo conhecimento técnico, autonomia e autoridade para monitorar, revisar, modificar ou até interromper decisões automatizadas quando houver riscos ou inconsistências.

“A supervisão humana somente é efetiva quando existe capacidade técnica, autonomia para intervenção e mecanismos que assegurem transparência, auditoria e responsabilização. Não basta que o ser humano esteja presente; ele precisa ter condições reais de exercer o controle sobre a tecnologia”, ressaltou.

Outro ponto enfatizado foi a necessidade de preparar os agentes públicos para essa nova realidade. Segundo o conselheiro, além do aperfeiçoamento da legislação, será indispensável investir em capacitação contínua, auditorias independentes e no desenvolvimento de sistemas concebidos desde sua origem com princípios éticos, proteção de dados e respeito aos direitos fundamentais.

“A regulamentação, isoladamente, não resolve os desafios da Inteligência Artificial. Precisamos de instituições fortes, servidores qualificados, mecanismos permanentes de auditoria e supervisão humana significativa para garantir que a tecnologia complemente — e nunca substitua — a responsabilidade, a razão pública e a proteção dos direitos fundamentais”, concluiu.