Esta página é complementar às
Diretrizes Arquiteturais e às
diretrizes de utilização do Python.
Esta página estabelece diretrizes para concepção, desenvolvimento, aquisição,
implantação e operação de soluções de Inteligência Artificial sob
responsabilidade do Ministério da Saúde e do Datasus.
A utilização de IA deverá estar vinculada a problema e objetivo claramente
definidos. A adoção de linguagem, biblioteca, modelo ou serviço não representa,
isoladamente, aprovação da solução, do fornecedor ou do tratamento de dados.
Casos omissos e iniciativas de maior risco deverão ser analisados previamente
pela COATIC e pelas áreas responsáveis por segurança, privacidade, dados e
negócio, conforme aplicável.
As diretrizes abrangem soluções como:
- classificação, previsão e detecção de anomalias;
- processamento de linguagem natural;
- visão computacional;
- sistemas de recomendação e apoio à decisão;
- Inteligência Artificial generativa;
- treinamento, avaliação e inferência de modelos;
- pipelines de dados relacionados ao ciclo de vida de modelos.
O uso de IA para diagnóstico, tratamento, priorização de atendimento, decisões
sobre direitos ou outra finalidade de alto impacto exigirá avaliação específica,
controles reforçados e supervisão humana compatível com o risco.
- definir o problema, o resultado esperado e os responsáveis pela solução;
- avaliar se a IA é necessária e proporcional ao objetivo;
- estabelecer critérios mensuráveis de qualidade e aceitação;
- documentar limitações, hipóteses e situações em que o modelo não deverá ser
utilizado;
- não utilizar IA para finalidade incompatível com aquela originalmente
aprovada.
- utilizar somente fontes de dados autorizadas;
- aplicar minimização, classificação, qualidade e rastreabilidade dos dados;
- documentar origem, transformações, critérios de seleção e período dos dados;
- utilizar dados sintéticos ou anonimizados quando forem suficientes;
- não inserir dados pessoais, sensíveis, clínicos, credenciais ou informações
sigilosas em ferramentas ou serviços externos não aprovados;
- controlar acesso a datasets, atributos, prompts, respostas e artefatos de
modelo.
- avaliar o modelo com dados representativos do contexto de utilização;
- definir métricas técnicas e funcionais antes da implantação;
- analisar erros, vieses, falsos positivos e falsos negativos;
- manter supervisão humana nas decisões de maior impacto;
- informar ao operador quando um resultado tiver sido produzido por IA;
- permitir contestação, revisão ou interrupção quando aplicável;
- não apresentar a saída de um modelo como verdade absoluta ou decisão
definitiva.
- avaliar origem, licença, manutenção e integridade de modelos e bibliotecas;
- não carregar modelos ou código de fontes não confiáveis;
- proteger modelos contra acesso, alteração ou substituição não autorizados;
- avaliar serviços externos quanto à retenção, reutilização e localização dos
dados;
- registrar versões de código, dados, parâmetros, modelo e ambiente;
- manter mecanismos de rollback e desativação da solução.
- utilizar somente modelos e serviços aprovados para o projeto;
- revisar conteúdos gerados antes de sua utilização ou publicação;
- considerar riscos de alucinação, instruções maliciosas e exposição de dados;
- restringir as fontes utilizadas em mecanismos de busca e recuperação de
contexto;
- não executar automaticamente comandos ou ações sugeridas pelo modelo sem
validação e controles adicionais;
- manter rastreabilidade de prompts, contexto, versão do modelo e resultado,
respeitando as regras de privacidade e retenção.
| Etapa |
Controles mínimos |
| Concepção |
Objetivo, responsáveis, riscos e critérios de sucesso |
| Dados |
Origem, autorização, qualidade, minimização e rastreabilidade |
| Desenvolvimento |
Código, parâmetros, dependências e experimentos versionados |
| Avaliação |
Métricas, testes, vieses, limitações e validação do negócio |
| Implantação |
Artefato aprovado, segurança, observabilidade e rollback |
| Operação |
Monitoramento de desempenho, erros, desvios e incidentes |
| Descontinuação |
Revogação de acessos, retenção e descarte dos artefatos |
Alterações relevantes em dados, atributos, modelo, parâmetros, fornecedor ou
finalidade deverão provocar nova avaliação proporcional ao impacto da mudança.
A solução deverá monitorar, quando aplicável:
- qualidade e disponibilidade dos dados;
- desempenho técnico e funcional do modelo;
- alterações na distribuição dos dados;
- degradação, vieses e resultados inesperados;
- falhas, latência, custo e consumo de recursos;
- intervenções humanas, incidentes e necessidade de reprocessamento.
Deverão ser definidos limites de alerta, responsáveis pelo acompanhamento e
critérios para suspensão ou rollback.
Python poderá ser utilizado para preparação de dados, treinamento, avaliação e
inferência em lote, orientada a eventos ou serverless, conforme as
diretrizes de utilização do Python.
A autorização do Python para IA não homologa uma camada de back-end. APIs ou
serviços online de inferência implementados em Python dependem de
excepcionalização prévia.
Notebooks deverão ser utilizados somente para exploração e experimentação. O
código de produção deverá permanecer em módulos testáveis e versionados.
Datasets reais, modelos binários e artefatos volumosos deverão permanecer em
repositório ou armazenamento aprovado, fora do repositório de código.
As bibliotecas homologadas e suas condições de uso estão definidas na página de
Python e não precisam ser repetidas nesta página.
Cada solução deverá documentar:
- objetivo, responsáveis e usuários previstos;
- fontes e classificação dos dados;
- versão do código, dados, parâmetros e modelo;
- métricas, critérios de aceitação e resultados da avaliação;
- limitações, riscos e usos não recomendados;
- mecanismo de supervisão humana;
- logs, métricas, alertas e procedimento de rollback;
- política de atualização, retenção e descontinuação.