Em um ambiente no qual conteúdos falsos podem ser produzidos em segundos, verificar a origem, o contexto e a integridade das informações tornou-se essencial para empresas, governos e cidadãos.

A inteligência artificial generativa está transformando a maneira como informações são produzidas, distribuídas e consumidas. Textos, imagens, vídeos e áudios que antes exigiam tempo, conhecimento técnico e recursos financeiros agora podem ser criados em poucos segundos.

Essa capacidade abre possibilidades extraordinárias para educação, produtividade, comunicação e inovação. Ao mesmo tempo, modifica profundamente a economia da informação — e também da desinformação.

Conteúdos falsos ou enganosos podem ser produzidos com mais rapidez, menor custo, maior qualidade visual e em uma escala difícil de acompanhar. Porém, o desafio mais profundo não está apenas na quantidade de informações falsas circulando. Está na erosão gradual da confiança compartilhada.

Quando as pessoas deixam de saber em quais fontes acreditar, até mesmo informações verdadeiras perdem força. Evidências legítimas passam a ser questionadas, instituições enfrentam maior dificuldade para se comunicar e decisões empresariais, políticas e sociais tornam-se mais vulneráveis à manipulação.

Por isso, a confiança precisa ser entendida como uma infraestrutura essencial da era da inteligência artificial.

Nem todo erro produzido por IA é desinformação

Uma distinção importante precisa ser feita entre informação incorreta e desinformação intencional.

Sistemas de inteligência artificial podem produzir respostas erradas sem a intenção de enganar. Isso acontece quando um modelo cria informações aparentemente plausíveis, mas que não possuem fundamento em fontes confiáveis. Esse fenômeno é conhecido como “alucinação”.

Uma resposta também pode estar errada porque o sistema utilizou dados incompletos, informações desatualizadas ou um contexto insuficiente. Em outros casos, o modelo pode interpretar incorretamente uma pergunta, misturar acontecimentos diferentes ou apresentar como certeza algo que deveria ser tratado apenas como possibilidade.

A desinformação, por outro lado, envolve a produção ou divulgação deliberada de conteúdo falso ou distorcido com o objetivo de manipular pessoas, prejudicar reputações, provocar conflitos ou influenciar decisões.

Essa diferença é fundamental porque os dois problemas exigem respostas distintas.

Erros de modelos podem ser reduzidos com sistemas mais bem treinados, acesso a fontes atualizadas, ferramentas de verificação e supervisão humana. Campanhas intencionais de desinformação exigem também investigação, políticas institucionais, responsabilização, transparência das plataformas e educação do público.

Quando uma resposta convincente não significa uma resposta verdadeira

Os sistemas generativos foram desenvolvidos para produzir respostas coerentes e úteis. Isso não significa, porém, que todas as respostas sejam necessariamente verdadeiras.

Um dos riscos está justamente na capacidade de apresentar informações incorretas de maneira clara, organizada e convincente. Uma resposta pode conter detalhes, referências aparentes e linguagem segura, mesmo quando sua base factual é frágil.

Em ambientes profissionais, esse risco pode produzir consequências relevantes.

Uma informação incorreta incorporada a um relatório pode afetar decisões de investimento. Um dado jurídico desatualizado pode comprometer uma análise regulatória. Uma referência inexistente pode prejudicar um trabalho acadêmico. Um resumo impreciso pode alterar a interpretação de um contrato, de uma política pública ou de um cenário de mercado.

A adoção responsável da inteligência artificial exige, portanto, uma mudança de comportamento: a qualidade da apresentação não pode ser confundida com a qualidade da evidência.

Quanto maior for o impacto de uma decisão, maior deverá ser o nível de verificação.

RAG e ferramentas especializadas podem reduzir erros

Uma das estratégias utilizadas para aumentar a confiabilidade dos sistemas de IA é a geração aumentada por recuperação, conhecida pela sigla RAG — Retrieval-Augmented Generation.

Nesse modelo, antes de produzir uma resposta, a inteligência artificial consulta uma base de documentos selecionados, como normas, contratos, relatórios internos, estudos acadêmicos ou bancos de dados corporativos. A resposta é construída com base nesse material, e não apenas no conhecimento previamente incorporado ao modelo.

Isso pode melhorar a precisão, oferecer informações mais recentes e permitir que o usuário identifique as fontes utilizadas.

Entretanto, o RAG não elimina automaticamente o risco de erro. Se a base consultada estiver desatualizada, incompleta ou contaminada por informações incorretas, o sistema poderá reproduzir essas falhas. Também existe o risco de interpretação inadequada dos documentos recuperados.

Por essa razão, sistemas de recuperação precisam ser acompanhados por critérios de seleção de fontes, controle de versões, registros de consulta, testes frequentes e revisão humana em situações sensíveis.

Ferramentas especializadas também podem ajudar a verificar fatos, detectar manipulações, comparar documentos, analisar metadados e identificar inconsistências. Mas nenhuma tecnologia deve ser tratada como uma autoridade infalível.

Proveniência: conhecer a história de um conteúdo

Em um ambiente digital cada vez mais complexo, não basta perguntar se uma informação parece verdadeira. Será necessário saber de onde ela veio, quem a produziu, quando foi criada e se foi modificada ao longo do caminho.

Esse conjunto de informações é chamado de proveniência digital.

Marcadores de proveniência podem funcionar como uma espécie de histórico do conteúdo, registrando sua origem e as alterações realizadas. Em uma fotografia, por exemplo, esses registros podem indicar qual dispositivo realizou a captura, quando a imagem foi editada e quais ferramentas foram utilizadas.

As marcas d’água digitais também podem ajudar a identificar conteúdos criados ou modificados por inteligência artificial. Entretanto, elas possuem limitações: podem ser removidas, alteradas ou deixar de funcionar quando um arquivo é convertido, recortado ou reproduzido em outra plataforma.

Por isso, a construção da confiança não pode depender exclusivamente de um único marcador técnico. É necessário combinar diferentes camadas de autenticação, identificação, rastreabilidade e verificação.

O “dividendo do mentiroso”

Talvez uma das consequências mais perigosas da expansão de conteúdos sintéticos seja o chamado “dividendo do mentiroso”.

À medida que as pessoas se tornam conscientes de que imagens, vídeos e áudios podem ser manipulados por inteligência artificial, indivíduos mal-intencionados passam a ter uma nova forma de negar evidências verdadeiras: alegar que elas foram fabricadas.

Um vídeo autêntico pode ser descartado como deepfake. Uma gravação real pode ser classificada como áudio sintético. Um documento legítimo pode ser apresentado como uma montagem.

Nesse cenário, a existência de falsificações digitais não apenas facilita a criação de mentiras. Ela também oferece proteção para quem deseja negar fatos reais.

O problema deixa de ser simplesmente distinguir o verdadeiro do falso. Passa a envolver a preservação de uma realidade compartilhada, na qual evidências legítimas ainda possam sustentar decisões, investigações e responsabilidades.

Uma infraestrutura de confiança precisa de várias camadas

Não existe uma ferramenta única capaz de resolver o problema. A confiança digital precisa ser construída por meio de um sistema composto por diferentes atores e mecanismos.

Empresas que desenvolvem sistemas de IA precisam realizar testes, comunicar limitações, monitorar usos indevidos e oferecer mecanismos de rastreabilidade. Plataformas digitais devem aprimorar a identificação de conteúdos manipulados, fornecer contexto e agir com transparência na aplicação de suas políticas.

Empresas que utilizam inteligência artificial precisam estabelecer regras internas. Isso inclui definir quais tarefas podem ser automatizadas, quais informações exigem revisão humana, como as fontes devem ser registradas e quem será responsável pela aprovação final.

Governos e instituições públicas precisam desenvolver estruturas regulatórias capazes de proteger a sociedade sem impedir a inovação responsável. Universidades e centros de pesquisa devem continuar estudando formas de detecção, autenticação e governança.

As redações jornalísticas permanecem fundamentais para investigar informações, verificar fontes e contextualizar acontecimentos. Organizações da sociedade civil podem contribuir com monitoramento independente e educação midiática.

Os cidadãos, por sua vez, precisam desenvolver novos hábitos: observar a fonte, verificar a data, procurar a publicação original, desconfiar de conteúdos excessivamente emocionais e evitar compartilhar informações antes de confirmá-las.

A confiança também é uma questão de governança empresarial

Para as organizações, o tema não deve ser tratado apenas como um problema de comunicação ou tecnologia. Trata-se também de governança, reputação e gestão de riscos.

Empresas precisam saber quais ferramentas seus colaboradores utilizam, que tipo de informação está sendo inserida nesses sistemas e como os conteúdos gerados são revisados antes da divulgação.

Algumas perguntas tornam-se indispensáveis:

• Qual é a origem das informações utilizadas pela IA?
• As fontes podem ser consultadas e verificadas?
• Existe uma pessoa responsável pela revisão?
• O público será informado quando determinado conteúdo tiver sido produzido ou alterado por IA?
• Há um procedimento para corrigir informações falsas?
• Como a organização reagirá caso sua marca, seus executivos ou seus clientes sejam alvos de conteúdos manipulados?

Responder a essas questões antes que uma crise aconteça é muito mais seguro do que improvisar quando a confiança já estiver comprometida.

Um centro global de operações de confiança

O futuro poderá exigir estruturas permanentes dedicadas à integridade da informação: verdadeiros centros de operações de confiança.

Esses centros poderão reunir profissionais de tecnologia, comunicação, segurança, compliance, pesquisa e gestão de crises. Sua função será acompanhar riscos informacionais, verificar conteúdos, analisar a procedência de materiais digitais e coordenar respostas institucionais.

Em vez de depender apenas de uma ferramenta, esse modelo funcionaria por camadas: marcadores de procedência, checagem de fatos, validação de fontes, análise de contexto, revisão humana e comunicação pública.

Redações, universidades, empresas, governos e cidadãos poderiam participar de redes colaborativas de verificação. A confiança deixaria de ser apenas uma percepção abstrata para se tornar um processo estruturado e continuamente monitorado.

A tecnologia pode apoiar a confiança — mas não substituí-la

A inteligência artificial continuará evoluindo. Modelos serão mais precisos, sistemas de detecção serão aprimorados e novos padrões de autenticação serão desenvolvidos.

Mesmo assim, a tecnologia não poderá construir confiança sozinha.

Confiança depende de comportamento consistente, transparência, responsabilidade, instituições confiáveis e disposição para corrigir erros. Ela não nasce apenas da capacidade de identificar conteúdos falsos, mas também da existência de organizações dispostas a explicar como chegaram a determinada conclusão.

O debate sobre inteligência artificial, portanto, não deve se limitar ao que as máquinas conseguem produzir. Ele precisa incluir as estruturas humanas responsáveis por validar, interpretar e responder ao que é produzido.

A IA pode gerar textos, imagens, análises e recomendações. Pode ajudar a localizar evidências e identificar inconsistências. Pode ampliar o acesso ao conhecimento e acelerar processos de verificação.

Mas a credibilidade continua sendo uma construção social.

Na era da inteligência artificial, confiança não será apenas um valor desejável. Será uma infraestrutura essencial para mercados, instituições e democracias.

A IA pode gerar conteúdo. A sociedade ainda precisa gerar credibilidade.

Oxford Group — conectando inovação, estratégia e responsabilidade para preparar organizações para os desafios da nova economia digital.