De onde vêm as regras
– Eric Horvitz, Microsoft Research (1999). Principles of Mixed-Initiative User Interfaces, 12 princípios para dividir a iniciativa entre pessoa e sistema automático. – Saleema Amershi e equipe, Microsoft (2019). Guidelines for Human-AI Interaction: 18 diretrizes tiradas de mais de 150 recomendações e testadas com 49 profissionais de design, divididas em quatro momentos: no início, durante o uso, quando o sistema erra e ao longo do tempo. – Google PAIR (2019, revisado em 2021). People + AI Guidebook: 23 padrões organizados em oito perguntas de quem está construindo o produto. – Justin D. Weisz e equipe, IBM Research (2024). Design Principles for Generative AI Applications: seis princípios, cada um com quatro estratégias.
Na parte sobre honestidade do próprio sistema, o artigo recorre ainda ao Model Spec da OpenAI, à constituição do Claude, da Anthropic, e a um estudo sobre bajulação em modelos de linguagem (Sharma e outros, 2023).
Antes do primeiro uso: dizer o que a IA faz, e quão bem
As três fontes começam no mesmo lugar. O PAIR pede para confirmar se IA é mesmo a tecnologia certa para o problema e para ser transparente sobre o que o produto consegue e não consegue fazer, explicando o benefício em vez da tecnologia. A Microsoft separa duas coisas: mostrar o que o sistema faz e mostrar com que frequência ele erra. A IBM chama isso de modelo mental: ensinar a usar o sistema e avisar que a mesma entrada pode gerar respostas diferentes.
Durante o uso: hora certa, e fácil de ignorar
Horvitz já propunha em 1999 levar em conta a atenção de quem usa e adiar uma ação para quando ela atrapalhe menos. A Microsoft retoma a ideia: decidir quando agir ou interromper conforme a tarefa e o ambiente, e tornar fácil tanto chamar quanto dispensar a ajuda. A mesma lista pede que a linguagem do sistema não reforce estereótipos.
Quando a IA erra
Cinco das 18 diretrizes da Microsoft ficam neste momento. Elas pedem correção fácil, explicação de por que o sistema fez o que fez e, na dúvida sobre o objetivo do usuário, desambiguar ou entregar um serviço mais limitado. Horvitz resume a lógica: fazer menos, mas certo. O PAIR acrescenta assumir a responsabilidade pelos erros e devolver o controle à pessoa quando a automação falha. A IBM pede incerteza visível e caminhos para consertar o resultado: editar, gerar de novo, ver alternativas.
Confiança na medida certa
O objetivo não é fazer confiar mais, e sim na proporção do que o sistema entrega. A IBM sugere mostrar as fontes que deram origem à resposta e colocar atrito de propósito nos pontos de decisão, para a pessoa revisar antes de aceitar. O PAIR recomenda pensar se vale mesmo exibir um índice de confiança do modelo e explicar o necessário no momento, não o sistema inteiro.
O estudo de Sharma e outros mostra por que isso é difícil: cinco assistentes tenderam a concordar com o usuário, e, ao ouvir “tem certeza?”, admitiram erros que não tinham cometido entre 42% (GPT-4) e 98% (Claude 1.3) das vezes.
Quanto automatizar
O PAIR amarra a automação ao risco: automatizar mais quando o risco é baixo, avançar em fases e deixar a pessoa supervisionar. A Microsoft pede controles globais, em que o usuário define o que o sistema monitora e como se comporta, e o PAIR estende a conversa sobre privacidade e permissões do cadastro ao uso contínuo.
Variação e criação a quatro mãos
Aqui a IBM é a fonte mais específica, porque trata só de IA generativa. Gerar várias saídas aumenta a chance de uma servir; o desenho deve ajudar a comparar, organizar e marcar essas versões. Na co-criação, a pessoa precisa de parâmetros que controla e de edição conjunta do resultado, em vez de um veredito pronto.
Ao longo do tempo
A Microsoft reserva sete diretrizes para a relação que continua: lembrar interações recentes, aprender com o comportamento, atualizar com cautela para não desorganizar o que a pessoa já conhece e avisar quando o sistema ganha ou muda capacidades.
A honestidade do próprio sistema
Os documentos mais novos que o artigo cita não são de design, e sim de comportamento de modelo. O Model Spec da OpenAI diz que o assistente não deve seguir agenda própria além de ajudar o usuário nem fingir ser humano. A constituição do Claude pede que ele não persiga agendas ocultas e nunca negue ser uma IA a quem pergunta sinceramente.
