Órgãos públicos ganham sistema para avaliar riscos éticos em inteligência artificial

Redação Jornal na Web
Por Redação Jornal na Web
5 Min de leitura

Órgãos públicos brasileiros passaram a contar com uma ferramenta on-line para avaliar riscos éticos relacionados ao desenvolvimento e ao uso de sistemas de inteligência artificial. O Sistema de Autoavaliação de Impacto Ético em Inteligência Artificial, chamado AIE, foi lançado pelo Ministério das Comunicações em dezoito de novembro de dois mil e vinte e seis.

A solução está disponível para mais de duzentos e cinquenta órgãos integrantes do Sistema de Administração dos Recursos de Tecnologia da Informação, o SISP. A iniciativa faz parte da implementação do Plano Brasileiro de Inteligência Artificial, conhecido como PBIA, e busca transformar princípios de uso responsável da tecnologia em uma etapa prática de análise dentro da administração pública.

Segundo o Ministério das Comunicações, o sistema permite que as instituições examinem aspectos associados à governança, à proteção de dados, à transparência, à segurança e à supervisão humana. A proposta é apoiar a identificação de riscos antes que soluções automatizadas sejam colocadas em funcionamento.

Como funciona a autoavaliação de impacto ético

O AIE foi concebido como uma referência para que os próprios órgãos públicos analisem seus projetos de inteligência artificial. Em vez de considerar apenas a eficiência ou a capacidade técnica de uma solução, a avaliação inclui questões relacionadas à forma como o sistema será governado, aos dados utilizados e ao grau de controle mantido por pessoas.

Essa abordagem é relevante porque aplicações de inteligência artificial podem participar de diferentes etapas dos serviços públicos. Entre os usos relacionados à administração estão o atendimento ao cidadão, a análise de dados, a verificação de documentos, a automação de processos administrativos e o apoio à oferta de serviços digitais.

Ao reunir esses critérios em uma ferramenta específica, o governo busca dar maior clareza aos responsáveis por projetos de tecnologia. A análise também pode contribuir para que problemas relacionados ao uso inadequado de informações pessoais, à falta de explicação sobre resultados e à ausência de supervisão humana sejam considerados durante o planejamento das soluções.

Impacto para serviços digitais e cidadãos

A discussão sobre avaliação ética de inteligência artificial não fica restrita aos departamentos de tecnologia. Sistemas usados pelo poder público podem influenciar a forma como pessoas acessam canais de atendimento, apresentam documentos, recebem orientações ou são incluídas em fluxos administrativos.

Por isso, critérios de transparência e proteção de dados têm impacto direto na relação entre cidadãos e serviços governamentais. Quando uma ferramenta automatizada participa de uma análise, é importante que o órgão responsável tenha condições de compreender sua finalidade, acompanhar seu funcionamento e manter supervisão humana sobre as decisões e procedimentos envolvidos.

A segurança também aparece entre os elementos considerados pelo sistema. No contexto da administração pública, essa dimensão está ligada à necessidade de avaliar os riscos associados ao desenvolvimento e à utilização de soluções que processam dados e apoiam atividades institucionais.

Iniciativa integra o Plano Brasileiro de Inteligência Artificial

O lançamento do AIE integra a implementação do Plano Brasileiro de Inteligência Artificial, que orienta ações relacionadas ao desenvolvimento e ao uso responsável da tecnologia no país. A ferramenta representa uma aplicação voltada especificamente para órgãos públicos que fazem parte do SISP.

Na avaliação do governo, a autoavaliação oferece uma referência comum para instituições que podem estar em diferentes fases de adoção da inteligência artificial. O instrumento concentra a análise em dimensões éticas e de governança que precisam ser observadas durante a estruturação de sistemas automatizados.

A publicação do anúncio também foi registrada na página de notícias de novembro de dois mil e vinte e seis do Ministério das Comunicações. Com a disponibilização on-line, a iniciativa passa a fazer parte da infraestrutura de orientação para órgãos públicos que desenvolvem ou utilizam soluções baseadas em inteligência artificial.

Para o cidadão, o principal efeito esperado é que projetos de governo digital sejam analisados não apenas pelo que conseguem automatizar, mas também pelos riscos que podem produzir. A avaliação ética busca inserir essa verificação no processo de criação e uso das ferramentas, aproximando inovação, proteção de direitos e responsabilidade administrativa.

Compartilhe esse artigo