A IA tornou a pesquisa mais rápida e o autoengano mais eficiente. A diferença entre os dois é um conjunto de hábitos, e nenhum deles é complicado.
Uso IA todos os dias de trabalho: para pesquisar, construir sistemas, organizar informações e desenvolver a infraestrutura por trás deste site. Ela encurtou a distância entre uma pergunta e uma primeira resposta plausível. Essa é a dádiva e a armadilha: a primeira resposta muitas vezes chega com o tom e a estrutura de uma resposta final.
Um modelo pode produzir uma explicação impecável antes de eu ter feito o trabalho necessário para saber se a explicação é verdadeira. Ele pode fazer evidências fracas parecerem consolidadas, transformar uma lembrança vaga em uma afirmação confiante e municiar minhas suposições com notas de rodapé que talvez não as sustentem. A pesquisa fica mais rápida, mas a racionalização também.
A solução não é evitar a ferramenta. É atribuir a ela um papel que ela consiga desempenhar e mantê-la fora dos papéis que exigem responsabilidade.
Decida o papel antes de abrir a ferramenta
Obtenho resultados melhores quando decido que tipo de ajuda quero antes de escrever o prompt. A IA pode ser um explorador que identifica caminhos de investigação, um bibliotecário que sugere fontes, um escriturário que organiza anotações, um crítico que encontra lacunas ou um editor que melhora a estrutura. São papéis úteis, e são trabalhos diferentes, com modos de falha diferentes.
O explorador pode inventar caminhos que não existem, então o que ele entrega é uma lista de hipóteses, não de descobertas. O bibliotecário pode recomendar livros que nunca foram escritos, então toda citação é conferida em um catálogo antes de entrar nas minhas anotações. O escriturário é o mais confiável do grupo, porque classificar e formatar são tarefas verificáveis num relance. O crítico só é tão afiado quanto as perguntas que eu lhe dou. O editor é excelente em estrutura e ritmo, e completamente indiferente a se o argumento é verdadeiro.
O que o modelo não é: uma testemunha. Não é uma fonte primária. Não é um autor que responde pelo que escreve. E não deve se tornar o juiz final de uma questão simplesmente porque consegue enunciar uma conclusão com fluência.
A IA rascunha o mapa. Ela não se torna o território.
Trate toda resposta como um conjunto de pistas
Quando um modelo diz que um relatório constatou algo, o passo seguinte é abrir o relatório. Quando ele resume uma decisão judicial, o passo seguinte é ler a decisão ou uma análise jurídica confiável. Quando descreve um debate, o passo seguinte é encontrar a voz séria mais forte de cada lado, não apenas as vozes que o modelo por acaso recuperou.
A advocacia aprendeu isso em público. Em 2023, dois advogados de Nova York foram punidos depois de protocolar uma petição contendo decisões judiciais que um chatbot havia inventado, com direito a nomes de casos, números de processo e citações internas. A parte constrangedora não foi a ferramenta ter fabricado os casos. Ferramentas falham. A parte constrangedora foi que conferir as citações teria levado minutos em qualquer banco de dados jurídico, e ninguém gastou esses minutos.
Mas a citação fabricada é, na verdade, a falha fácil de flagrar, porque se dissolve ao primeiro contato com um banco de dados. Os erros sutis são mais perigosos que os absurdos. Um modelo pode identificar o estudo, o autor e a data corretos e, em seguida, exagerar o que o estudo estabeleceu. Uma pesquisa sobre o que trabalhadores dizem a respeito de produtividade vira evidência de produtividade medida. Uma correlação vira causa. Uma recomendação na seção de discussão vira uma constatação. A citação parece real porque é real; a afirmação presa a ela é a parte que derrapou.
É por isso que verificar fontes significa mais do que confirmar que um documento existe. Preciso confirmar que o documento diz o que estou prestes a dizer que ele diz.
Use uma escada de verificação
Nem toda frase merece a mesma carga de pesquisa. Uma ilustração de passagem pode exigir uma checagem rápida. Uma afirmação envolvendo lei, saúde, dinheiro, teologia, reputação ou eventos atuais exige mais. Para afirmações importantes, uso uma escada simples:
- Encontre a fonte primária. Localize o artigo, a petição, a transcrição, o conjunto de dados, a lei, a documentação do produto ou a declaração original sempre que possível.
- Confronte a afirmação com a fonte. Leia contexto suficiente para saber se a evidência sustenta a formulação, não apenas o tema.
- Verifique a data e a versão. Ferramentas de IA, regulamentações, recursos de produtos e fatos sobre empresas mudam depressa. A resposta correta de ontem pode já estar desatualizada.
- Procure um contraponto crível. Busque evidências contrárias e a crítica metodológica mais forte.
- Guarde a fonte. Salve o documento, ou um link durável, nas minhas anotações, para que a afirmação publicada possa ser conferida depois.
Veja como a escada funciona na prática. Suponha que um modelo me diga que um relatório federal concluiu que certa categoria de avistamentos de UAP foi explicada por atividade de drones. Passo um: encontrar o relatório em si, não uma matéria sobre o relatório. Passo dois: ler a seção. Muitas vezes o relatório diz algo mais estreito, como que drones foram a explicação atribuída a um subconjunto de casos com dados suficientes. Passo três: verificar se um relatório mais recente o substitui. Passo quatro: procurar críticas bem informadas aos métodos do relatório. Passo cinco: arquivar o PDF e o número da página. A frase publicada que sobrevive a esse processo costuma ser mais modesta do que a que o modelo ofereceu. É também uma frase que consigo defender um ano depois.
A escada é mais lenta do que copiar o parágrafo do modelo. Ainda assim, é muito mais rápida do que fazer toda a busca manualmente, e preserva a parte da pesquisa que importa: o contato com a evidência.
Faça o modelo argumentar contra você
Modelos costumam assumir a forma da pergunta. Se peço evidências que sustentem minha ideia, eles são bons em fornecê-las. Se apresento uma teoria com entusiasmo, tendem a aderir ao entusiasmo. A assistência complacente é confortável, mas pode transformar um palpite em um circuito fechado.
Um dos prompts mais úteis do meu repertório é alguma versão de: qual é o argumento mais forte de que estou errado? Também pergunto quais suposições estão carregando mais peso, que evidência mudaria a conclusão e como um crítico cuidadoso descreveria a fraqueza das minhas fontes. Quando um rascunho importa, eu o submeto ao modelo em uma conversa nova, sem nenhum contexto sobre minha intenção, e peço que revise o texto como um verificador de fatos hostil. A conversa nova faz diferença: um modelo que passou uma hora me ajudando a construir o argumento, na prática, já passou para o meu lado.
A resposta não é automaticamente correta só por ser contrária. O valor está em gerar testes que eu talvez não tivesse inventado enquanto defendia minha posição original. Alguns dos contra-argumentos serão fracos. O que não for fraco vale o exercício inteiro.
Separe recuperação, resumo e julgamento
Essas atividades podem parecer uma única conversa contínua, mas são trabalhos diferentes. A recuperação pergunta que material existe. O resumo pergunta o que esse material diz. O julgamento pergunta que peso ele merece e que conclusão decorre dele. A IA pode ajudar nas três, mas sua confiabilidade e sua autoridade não são iguais em cada uma.
Fico à vontade deixando um modelo ordenar uma pilha de documentos, propor temas, comparar definições ou apontar contradições. Fico menos à vontade deixando que ele decida qual fonte é crível sem examinar as razões: juízos de credibilidade embutem suposições sobre instituições, incentivos e histórico que quero visíveis, não automatizadas. E não delego a conclusão final, porque uma conclusão não é apenas uma frase. É um compromisso de defender o raciocínio por trás dela.
Peça proveniência, não citações decorativas
Uma longa lista de links pode criar a aparência de pesquisa enquanto esconde a ausência dela. Prefiro três fontes que sustentem diretamente três afirmações específicas a trinta links vagamente relacionados ao assunto. Para cada ponto importante, quero saber: de onde isso veio? É fonte primária ou secundária? Que trecho exato sustenta a formulação? O que a enfraqueceria?
Isso também é uma técnica de prompt. Pedir “fontes” a um modelo produz uma bibliografia. Pedir que ele vincule uma fonte a uma frase, e que cite o trecho que acredita sustentar essa frase, produz algo que consigo de fato conferir, e com frequência revela que a sustentação era mais frágil do que o resumo confiante fazia parecer. A disciplina não está em mais links. Está em uma corrente mais curta entre cada afirmação e sua evidência.
Se não consigo responder a essas perguntas, a afirmação não está pronta para ser publicada. O modelo pode ter me ajudado a descobri-la, mas descoberta não é verificação.
Proteja o que não deve ser enviado
Disciplina de pesquisa também inclui disciplina de dados. Informações privadas de clientes, registros empresariais confidenciais, material pessoal inédito e credenciais não pertencem a uma ferramenta só porque enviá-los seria conveniente. Antes de usar IA em um documento, pergunto se tenho o direito de compartilhá-lo com aquele sistema e se os controles de dados do sistema condizem com a sensibilidade do material.
No meu trabalho no mercado imobiliário, isso não é teórico. Arquivos de transação contêm detalhes financeiros, circunstâncias pessoais e posições de negociação que pertencem aos clientes, não a mim. A pergunta “o dono deste documento ficaria confortável com o destino que estou prestes a dar a ele?” é um filtro melhor do que qualquer lista de recursos. A conveniência pode fazer os limites parecerem antiquados. As consequências de ignorá-los não são.
Mantenha o peso da autoria
Neste site, a IA ajuda com esboços, organização, transcrição, comparação, edição e descoberta de fontes. Ela pode me ajudar a enxergar uma pergunta mais rápido ou a expressar uma resposta com mais clareza. As conclusões (aquilo em que acredito, o que publico e o que estou disposto a corrigir) continuam sendo trabalho humano.
Responsabilidade não pode ser delegada a um sistema que não pode ser responsabilizado.
As ferramentas vão melhorar. Alguns dos modos de falha de hoje ficarão menos comuns, e novos aparecerão, provavelmente mais sutis, porque o polimento da superfície melhora mais rápido do que a confiabilidade por baixo dela. A vantagem durável não é memorizar uma lista de fraquezas dos modelos. É manter hábitos que sobrevivem às mudanças da tecnologia: conferir a fonte, confrontar a afirmação, acolher o contra-argumento, proteger o material sensível e manter o julgamento onde mora a responsabilidade.
Usada assim, a IA não substitui o pensamento. Ela tira do caminho parte do trabalho mecânico para que sobre mais tempo para exercê-lo.
Livros & leituras complementares
Divulgação de afiliado: Como Associado da Amazon, ganho com compras qualificadas. Recomendo estes livros porque são relevantes para o assunto, não pela comissão.
- Co-Intelligence: Living and Working with AI — Ethan Mollick. Um relato prático de como trabalhar com a IA como colaboradora sem perder de vista suas capacidades desiguais e seus limites.
- AI Snake Oil — Arvind Narayanan e Sayash Kapoor. Um guia cético para separar sistemas de IA úteis de alegações infladas, avaliações fracas e produtos que prometem mais do que conseguem entregar.