IA no MesaPrev: fontes, limites e revisão antes da resposta

Uma instrução copiada para uma caixa de texto não informa quais dados podem entrar, que fontes devem sustentar a resposta, como tratar conflito nem quais saídas são proibidas. O PromptOS do MesaPrev transforma cada ferramenta em uma ficha verificável. No catálogo público atual, as ferramentas operam somente sobre casos fictícios e devolvem estrutura, fontes, lacunas e próximos passos de revisão — não conclusões sobre um caso.

Resposta curta

Cada ferramenta deve declarar objetivo, entradas aceitas, política de fontes, manejo de incerteza, formato de resposta, limites e revisão humana. O resultado precisa separar observação, ausência, divergência e item pendente. Uma resposta fluente sem proveniência não passa pelo mesmo critério.

As recomendações da OAB para IA generativa destacam confidencialidade, supervisão e responsabilidade profissional. A Resolução 615 do CNJ estabelece diretrizes de desenvolvimento, governança e uso responsável de IA no Judiciário. São contextos distintos, mas ambos tornam inadequada a ideia de que “o modelo respondeu” encerra a revisão.

Anatomia de uma ferramenta governada

Campo	Pergunta operacional	Falha que evita
finalidade	qual tarefa estreita ela executa?	assistente genérico sem limite
entrada	que dado e classificação são permitidos?	exposição indevida
fonte	o que deve acompanhar uma afirmação?	texto sem proveniência
conflito	como preservar versões incompatíveis?	certeza inventada
saída	qual formato pode ser conferido?	resposta impossível de integrar
revisão	qual pessoa decide o próximo estado?	automação autoaprovada

O contrato não garante comportamento perfeito. Ele cria pontos observáveis para teste, bloqueio e correção.

Ficha de uma ferramenta de IA

Campo	Regra do exemplo fictício
tarefa	mapear fontes em documentos de demonstração
dados permitidos	apenas materiais públicos e fictícios
dados proibidos	dados pessoais, segredo profissional e credenciais
afirmações	precisam indicar a fonte
conflito	preservar as duas versões e pedir revisão
ausência	marcar a lacuna, sem completar por suposição
respostas proibidas	direito ao benefício, valor, estratégia ou petição
decisão final	pessoa revisora identificada

Essa ficha serve como ponto de partida para teste e documentação. Ela não é uma política pronta para uso profissional.

Passe adversarial

Uma ferramenta precisa ser testada também quando a entrada tenta desviá-la. Use fixtures com fonte ausente, duas fontes conflitantes, instrução embutida no documento, campo parecido com dado pessoal e pedido explícito de conclusão. O resultado esperado não é eloquência: é recusa ou estruturação segura.

Pedido fora da finalidade é recusado.
Conteúdo do documento não altera a política da ferramenta.
Afirmação sem fonte aparece como lacuna.
Fontes conflitantes permanecem visíveis.
Campo sensível sintético aciona o controle esperado.
Saída proibida não é gerada nem insinuada.
Nenhuma ferramenta aprova o próprio resultado.

O limite do catálogo público

O modo público de demonstração mostra a forma de trabalhar. Ele impede estruturalmente elegibilidade, valores, memória de cálculo aplicada, estratégia, minuta e recomendação. Um aviso no rodapé não seria suficiente se essas saídas continuassem presentes. A demonstração também não envia dados reais a modelos ou sistemas externos.

A LGPD continua relevante para finalidade, necessidade, transparência, segurança e responsabilização. Escrever uma política só tem valor se o sistema em funcionamento, os acessos e os registros realmente a aplicarem.

Métricas que revelam governança

Observe a taxa de afirmações com fonte, lacunas preservadas, conflitos corretamente escalados, tentativas fora de escopo bloqueadas, respostas que fogem do formato esperado e revisões humanas que mudam o resultado. Latência e volume sozinhos favorecem automação rápida, mas não mostram se ela é segura ou útil.

O PromptOS pretende tornar a ferramenta menor e mais examinável. Para produção, ainda seriam necessários avaliação por risco, segurança, base e finalidade do tratamento, fornecedores, retenção, resposta a incidentes e autorização institucional. O catálogo público não antecipa esses aprovações.

Quando uma ferramenta deve voltar à bancada

As regras da ferramenta precisam de versão porque comportamento, modelo, fonte e formato podem mudar. Uma taxa maior de conflitos apagados, uma fonte oficial que deixou de vigorar, uma saída fora do formato ou uma mudança do fornecedor são motivos para suspender e reavaliar. O mesmo vale quando pessoas revisoras começam a aceitar por hábito uma estrutura que já não ajuda no trabalho.

Registre o conjunto de casos fictícios usado, o resultado esperado em cada teste e a versão efetivamente avaliada. Reexecutar somente exemplos fáceis cria regressão invisível. Um catálogo governado mantém casos normais, limites e entradas adversariais como parte permanente do aceite; promover uma nova versão exige observar todos eles novamente.