Humano accountable, IA executora: o contrato que organiza a squad

“A IA executa; pessoas lideram, decidem e geram resultados” é uma boa direção — desde que não vire um slogan que deixa todas as responsabilidades implícitas.

Executar não significa receber autoridade ilimitada. Liderar não significa aprovar cada clique. E ser accountable não significa revisar manualmente tudo o que uma máquina produziu. Uma squad humano–IA funciona quando intenção, autoridade, verificação e decisão são distribuídas de forma explícita.

O contrato central é simples:

A pessoa responde pela intenção, pelos limites e pela decisão irreversível. A IA recebe escopo para executar. Controles verificam propriedades. Evidências tornam o resultado atribuível.

Accountability não pode ser terceirizada

Um agente pode pesquisar, escrever, programar, testar, organizar e operar. Pode também propor um plano melhor do que a primeira ideia humana. Nada disso transfere automaticamente a responsabilidade pelo efeito da decisão.

Responsabilidade exige alguém capaz de responder:

• por que este problema foi escolhido;
• qual risco foi aceito;
• quais pessoas podem ser afetadas;
• que evidência foi suficiente;
• por que o resultado foi publicado, enviado ou colocado em produção;
• o que será feito se a decisão estiver errada.

Essa pessoa não precisa executar todas as tarefas. Precisa conservar a autoridade sobre o propósito e sobre os limites que o sistema não pode alterar sozinho.

O contrato operacional em seis cláusulas

1. Intenção: o resultado que importa

Toda sessão começa com um outcome, não com uma lista infinita de ações. O humano declara o problema, o contexto de negócio, os critérios de aceite e o que está fora de escopo. A IA pode decompor e questionar; não pode trocar silenciosamente o objetivo por outro mais fácil de demonstrar.

2. Autoridade: o que pode mudar

Cada papel recebe capabilities mínimas. Pesquisar não implica escrever. Escrever código não implica publicar. Publicar não implica acessar dados de cliente. A autoridade cresce conforme risco, reversibilidade e evidência — não conforme confiança subjetiva no modelo.

Uma arquitetura durável separa histórico de sessão, política de orquestração e ambiente de execução. Isso permite substituir modelo, sandbox ou canal sem transformar nenhum deles na fronteira de segurança. [HARNESS31-C2]

3. Parada: quando devolver o controle

O agente precisa de condições de stop: orçamento excedido, incerteza material, fonte conflitante, ação externa, dado sensível, mudança destrutiva ou falha repetida. Pedir confirmação não é fracasso; é comportamento correto quando a autoridade recebida terminou.

4. Verificação: quem observa o executor

O mesmo agente pode fazer uma autoavaliação útil, mas autoavaliação não é independência. Testes, linters, scanners, contratos e revisores especializados observam propriedades diferentes. Para risco alto, o verificador precisa ter identidade, ferramenta ou critério separado do executor.

5. Evidência: o que permite defender a entrega

Um resultado precisa carregar sua trilha: fonte, versão, commit, checks, exceções, aprovador e validade. A evidência não serve apenas à auditoria posterior. Ela reduz ambiguidade durante o trabalho e torna correções localizáveis.

6. Decisão: quem produz efeito no mundo

A última cláusula define o gate. Mudanças reversíveis e de baixo risco podem avançar automaticamente quando contratos passam. Ações com efeito jurídico, financeiro, reputacional, de segurança ou sobre pessoas exigem autoridade humana nominal.

Papéis por capacidade, não por modelo

“Architect usa X” e “Backend usa Y” envelhecem quando os modelos mudam. Um roster mais estável descreve capacidades:

• Architect decide fronteiras e trade-offs;
• Security modela ameaças e bloqueia risco crítico;
• Backend implementa contratos de serviço;
• Frontend transforma contrato em experiência acessível;
• QA define e executa a rede de garantia;
• DevOps automatiza entrega e rollback;
• Tech Writer preserva decisão e operação;
• PO ordena problemas por valor e risco.

O orquestrador escolhe modelo, ferramenta e isolamento adequados à tarefa. O papel continua sendo o contrato; o modelo é uma implementação substituível.

As fontes avaliadas pela FORGE também mostram por que capacidades compartilhadas precisam ser escopadas e administradas, enquanto portal, web, chat e outros canais permanecem superfícies substituíveis. Isso inspira a arquitetura; não substitui deny-by-default, revogação e testes reais de autorização. [HARNESS31-C4]

Um fluxo real: publicar um artigo

Esta própria coleção oferece um exemplo.

O humano escolhe a tese, assume a autoria e autoriza a publicação. A IA pesquisa, cruza fontes, estrutura, escreve, vincula claims, gera projeções e executa QA. O contrato impede que um rascunho entre em sitemap ou feed. Scanners observam segredos e dados pessoais. O digest prende aprovação ao texto exato. A agenda libera o artigo somente na data aprovada.

Nenhuma camada sozinha garante qualidade. Juntas, elas deixam claro:

• quem é autor e quem é publicadora;
• onde houve assistência de IA;
• qual modo de revisão foi usado;
• quais fontes sustentam cada afirmação;
• quando o conteúdo foi publicado;
• como uma correção aparecerá sem apagar o histórico.

Esse desenho permite alta execução automática sem autoria fictícia e sem publicação acidental.

O humano não deve virar gargalo

Uma interpretação ruim de human-in-the-loop coloca uma pessoa em cada transição. O resultado é uma fila de aprovações superficiais: o sistema pede “ok” tantas vezes que o humano deixa de avaliar.

O gate deve ser proporcional à consequência:

• baixo risco e reversível: execução automática com contrato e observabilidade;
• médio risco: amostragem, revisão por exceção e limites quantitativos;
• alto risco ou externo: aprovação humana nominal antes do efeito;
• destrutivo, sensível ou legal: dupla checagem, evidência reforçada e rollback comprovado.

O objetivo é concentrar julgamento humano onde ele muda a decisão. Todo o resto deve ser verificável por mecanismo.

Empresas amplificam o sistema que já possuem

O DORA 2025 descreve a IA como amplificadora de forças e fraquezas existentes, associando os maiores retornos ao sistema organizacional, e não apenas às ferramentas. O resultado é centrado em desenvolvimento de software e não deve ser convertido em lei universal, mas oferece um alerta útil: automação não corrige autoridade confusa, critério ausente ou feedback lento. [CAREER-A18-C5]

Em uma empresa com intenção clara, bons contratos e aprendizagem, a IA amplia fluxo e acesso ao conhecimento. Em uma empresa que mede volume e esconde falhas, ela amplia produção sem aceitação, revisão e dívida.

O novo trabalho de liderança

Liderar uma squad humano–IA envolve menos distribuição manual de tarefas e mais desenho do sistema:

• formular problemas e prioridades;
• tornar critérios observáveis;
• definir fronteiras de autonomia;
• criar caminhos de escalada;
• investir em evals e dados de qualidade;
• observar custo por outcome aceito;
• transformar incidentes em mecanismos duráveis;
• preservar formação e contexto humano.

Isso vale para liderança formal e para profissionais individuais. Uma pessoa pode liderar uma decisão técnica, editorial ou comercial sem gerir uma equipe.

Formação: aprender a dirigir e a verificar

Quando a IA assume tarefas iniciais, jovens profissionais correm dois riscos: terceirizar fundamentos cedo demais ou ficar sem tarefas graduais para aprender. O contrato da squad precisa usar execução como material de formação.

Quem está começando pode:

1. escrever a especificação antes de pedir a implementação;
2. declarar hipóteses e pontos de incerteza;
3. comparar alternativas geradas;
4. executar testes e explicar por que são suficientes;
5. revisar o diff e as fontes, não apenas a resposta final;
6. registrar falha, correção e regra aprendida;
7. assumir autonomia progressiva em escopos de maior consequência.

Assim, a IA reduz repetição sem eliminar a construção de julgamento.

Métricas que revelam o contrato real

O organograma diz quem deveria decidir. As métricas mostram quem realmente carrega o trabalho.

Observe:

• tempo até outcome aceito;
• percentual de entregas aprovadas sem retrabalho material;
• carga humana de revisão por tipo de risco;
• quantidade de escaladas úteis versus confirmações automáticas;
• falhas detectadas antes e depois do efeito externo;
• custo total por resultado, incluindo revisão e correção;
• autonomia alcançada por pessoas e agentes em escopos definidos;
• decisões sem owner nominal;
• exceções vencidas ainda operando.

Se a IA produz mais e a revisão cresce na mesma proporção, a squad apenas moveu a fila. Se aprovações caem, mas incidentes sobem, autonomia foi confundida com ausência de controle.

Checklist antes de delegar

Antes de entregar uma tarefa a um agente, responda:

1. Qual outcome e qual limite?
2. Qual capability é necessária — leitura, escrita, execução ou publicação?
3. Que dados e sistemas ficam proibidos?
4. O que o agente faz quando não sabe?
5. Qual controle verifica o resultado?
6. Qual evidência precisa sobreviver?
7. Quem possui a decisão final?
8. Como reverter ou retirar?
9. O que deve virar aprendizado depois?

Sem essas respostas, “autonomia” é apenas autoridade não documentada.

Conclusão

Uma squad humano–IA não é um grupo de modelos simulando cargos. É um sistema de responsabilidades: pessoas definem intenção e respondem por consequências; agentes executam em escopos delimitados; controles verificam; evidências conectam trabalho e decisão.

Isso permite algo mais ambicioso do que automação cega e mais eficiente do que aprovação humana em cada passo.

A IA amplia execução. O humano conserva propósito e accountability. O contrato entre os dois é o que transforma velocidade em resultado.

Leitura anterior: O modelo não é o sistema.