Governança
Política de Governança de Algoritmos e Inteligência Artificial
Diretrizes para uso responsável, auditável e transparente de modelos de IA no apoio às análises científicas, territoriais e de saúde pública do MAPHS.
Este documento é de natureza informativa e descreve práticas adotadas pelo MAPHS. Ele não substitui aconselhamento jurídico especializado, parecer técnico-científico ou avaliação humana qualificada.
1. Finalidade
O MAPHS emprega modelos de inteligência artificial (IA) como instrumento de apoio analítico, metodológico, editorial e operacional. Esta política estabelece princípios, controles e limites para o uso de algoritmos e IA na plataforma, assegurando rastreabilidade, revisão humana e transparência sobre incertezas.
2. Escopo
Aplica-se a todos os módulos que utilizam IA no MAPHS, incluindo — sem se limitar a — assistentes contextuais, geração de boletins, sínteses de alertas, classificação de fontes, enriquecimento editorial, recomendações de leitura, sugestões metodológicas e análises exploratórias.
3. Princípios
- IA como assistente, não autoridade. Modelos de IA apoiam — e não substituem — a avaliação humana qualificada.
- Rastreabilidade. Prompts, parâmetros, versões de modelo e dados de contexto são registrados em logs auditáveis.
- Validação metodológica. Saídas de IA passam por validação técnica antes de comporem produtos científicos publicáveis.
- Controle editorial. Conteúdos gerados por IA são revistos por curadores humanos antes da publicação.
- Mitigação de vieses. Há triagem ativa de vieses geográficos, demográficos, linguísticos e temporais.
- Transparência sobre incertezas. Sempre que aplicável, intervalos de confiança, limitações do modelo e suposições subjacentes são explicitados.
- Separação de natureza. Distinção clara entre evidência empírica, inferência estatística e hipótese exploratória.
4. Como o MAPHS aplica a política
4.1 Documentação
Cada caso de uso de IA é documentado em um registro próprio que contempla: objetivo, modelo utilizado, prompt-base versionado, parâmetros de inferência, fontes de contexto e responsável editorial.
4.2 Revisão humana
Saídas de IA destinadas a produtos científicos, alertas oficiais ou publicações editoriais passam obrigatoriamente por revisão humana qualificada antes da divulgação.
4.3 Avaliação contínua
Métricas de qualidade, taxa de revisão necessária e incidentes são monitorados, com auditoria periódica sobre o comportamento dos modelos.
5. Limitações
Modelos de IA podem produzir respostas plausíveis porém incorretas, omitir contexto, refletir vieses presentes em dados de treinamento e apresentar variabilidade entre execuções. O MAPHS não recomenda utilizar saídas de IA como prova científica isolada, diagnóstico clínico, decisão administrativa final ou base única para políticas públicas.
6. Responsabilidades dos usuários
- Interpretar resultados gerados por IA à luz do contexto, fontes e limitações declaradas.
- Não atribuir à IA poder decisório que ela não possui.
- Reportar inconsistências, vieses ou erros identificados.
- Não utilizar saídas para fins discriminatórios ou que violem a Política de Uso Aceitável.
7. Governança e revisão
Esta política é revisada periodicamente pela equipe técnica e científica do MAPHS, podendo ser atualizada para refletir evoluções metodológicas, regulatórias ou tecnológicas.