A inteligência artificial generativa inaugurou uma nova camada de complexidade para o Direito. Se, em um primeiro momento, a preocupação jurídica estava centrada na automação de textos, na tomada de decisões algorítmicas e no tratamento massivo de dados, agora o problema se desloca para uma zona ainda mais sensível: a produção artificial de realidade.

A deepfake não é apenas uma imagem falsa, uma voz manipulada ou um vídeo adulterado. Em contexto jurídico, ela pode se converter em prova aparente, identidade fabricada, manifestação de vontade simulada, autorização inexistente, contratação fraudulenta ou elemento persuasivo capaz de contaminar a percepção de instituições, empresas, bancos, órgãos públicos e do próprio Poder Judiciário.

A discussão, portanto, já não se limita à falsidade documental em sentido clássico. O novo desafio está na falsificação de presença, de voz, de consentimento e de comportamento.

A fraude deixou de falsificar apenas documentos: agora falsifica contexto

Durante décadas, a fraude documental esteve associada a assinaturas imitadas, documentos ideologicamente falsos, adulteração de contratos, falsificação de procurações, boletos e comprovantes. O Direito desenvolveu respostas relativamente estáveis para esse universo: perícia grafotécnica, impugnação documental, incidente de falsidade, ônus da prova, cadeia de custódia e responsabilização civil ou criminal.

A deepfake altera esse cenário porque desloca a falsidade do documento para o ambiente inteiro de confiança.

Uma voz pode simular uma ordem empresarial. Um vídeo pode reproduzir a imagem de um sócio autorizando uma transação. Uma reunião virtual pode ser manipulada para induzir o interlocutor a acreditar que está diante de pessoa real. Uma mensagem de áudio pode conter comando financeiro aparentemente legítimo. Uma imagem pode ser usada para reforçar uma identidade artificial em procedimento de validação.

Esse fenômeno exige uma mudança de abordagem: o debate jurídico não pode se limitar a perguntar se determinado arquivo é autêntico; deve investigar se o procedimento que o aceitou era tecnicamente seguro.

Deepfake e responsabilidade civil: o problema da confiança induzida

A deepfake opera sobre confiança. Ela não precisa vencer todos os sistemas de segurança; basta explorar uma brecha cognitiva, procedimental ou institucional.

Em operações empresariais, por exemplo, o risco não está apenas no arquivo falso em si, mas na possibilidade de que esse arquivo seja integrado a uma cadeia de autorização: um e-mail que parece legítimo, uma voz que aparenta ser do administrador, uma imagem que simula presença, um documento que confirma uma instrução e uma transação executada logo em seguida.

Nesses casos, a responsabilidade civil deve ser analisada a partir de alguns eixos:

primeiro, se a fraude era previsível no contexto da atividade exercida;

segundo, se a parte que aceitou a manifestação de vontade adotou mecanismos proporcionais de verificação;

terceiro, se havia sinais objetivos de anormalidade;

quarto, se houve falha de segurança ou de governança;

quinto, se a resposta posterior ao evento foi adequada para conter o dano.

A deepfake não pode ser tratada como evento absolutamente imprevisível em setores que lidam com autenticação digital, dados sensíveis, operações financeiras, contratos eletrônicos e validação remota de identidade. A previsibilidade tecnológica do risco altera o padrão de diligência esperado.

A prova sintética e o ônus da verificação

A prova digital tradicional já exigia cuidados com autoria, integridade, metadados, cadeia de custódia e contexto de produção. A prova sintética exige algo a mais: verificação da origem e da autenticidade do próprio fenômeno representado.

Em outras palavras, não basta saber se o arquivo foi enviado por determinado canal. É necessário saber se o conteúdo representa um fato real ou uma simulação artificial.

Essa distinção terá impacto direto em litígios bancários, societários, trabalhistas, contratuais e sucessórios. A tendência é que aumentem discussões envolvendo:

autorizações financeiras por voz;

vídeos de suposta anuência contratual;

validações biométricas contestadas;

reuniões virtuais manipuladas;

contratos celebrados com identidade artificial;

mensagens de áudio usadas para simular comando empresarial;

fraudes com imagem de advogados, sócios, gestores ou familiares.

Nesse contexto, a parte que se beneficia da prova digital ou que executa uma ordem com base nela deve demonstrar a robustez do procedimento de autenticação. A simples aparência de legitimidade não pode bastar quando a tecnologia já permite simulações altamente convincentes.

Deepfake, dados pessoais e dever de segurança

A deepfake raramente nasce do nada. Para simular voz, imagem, comportamento ou identidade, o fraudador costuma utilizar dados pessoais previamente disponíveis, coletados, vazados ou extraídos de ambientes digitais.

Por isso, a discussão se aproxima da Lei Geral de Proteção de Dados. A LGPD protege direitos fundamentais de liberdade e privacidade e disciplina operações de tratamento de dados pessoais em meios físicos e digitais por pessoas naturais ou jurídicas, públicas ou privadas.

Quando a fraude utiliza informações sensíveis, dados financeiros, dados de autenticação, imagem, voz ou documentos pessoais, a questão jurídica deve envolver também o dever de segurança, transparência e prestação de contas do agente de tratamento.

A Autoridade Nacional de Proteção de Dados já consolidou orientação de que incidentes de segurança com dados pessoais que possam gerar risco ou dano relevante devem ser comunicados à ANPD e ao titular, especialmente quando envolvem dados sensíveis, financeiros, de autenticação, protegidos por sigilo ou tratados em larga escala.

Essa premissa é relevante para fraudes sofisticadas. Não se deve afirmar automaticamente que toda deepfake decorre de vazamento imputável a uma instituição específica. Mas, diante de uso preciso de dados pessoais, imagem, voz ou informações financeiras, a apuração técnica passa a ser indispensável.

O dever de governança contra a falsificação de identidade

Empresas, instituições financeiras, escritórios, plataformas digitais e prestadores de serviços que utilizam canais remotos de contratação ou validação precisam reavaliar seus protocolos.

A autenticação baseada apenas em aparência, voz, imagem, documento digitalizado ou confirmação por canal vulnerável tende a se tornar insuficiente diante da evolução da fraude sintética. A diligência esperada passa a exigir camadas de verificação, segregação de funções, confirmação por canais independentes, trilhas de auditoria, logs preservados, controle de acesso, análise de comportamento e resposta rápida a incidentes.

No ambiente empresarial, essa mudança é particularmente importante. Um pagamento relevante autorizado por áudio ou vídeo deve ser visto com cautela. Uma alteração cadastral solicitada por suposto gestor deve ser confirmada por canal independente. Uma procuração digital ou instrução de transferência deve ser confrontada com política interna de poderes, limites e confirmação.

A deepfake impõe uma nova gramática de governança: quanto maior o risco da operação, maior deve ser a densidade do procedimento de validação.

O impacto processual: o juiz diante da aparência perfeita

A deepfake também desafia a atividade jurisdicional. O processo civil brasileiro já convive com documentos digitais, capturas de tela, registros eletrônicos, gravações e contratos assinados digitalmente. O problema é que, agora, a prova pode ser formalmente convincente e materialmente falsa.

Isso exigirá maior sofisticação na produção probatória. Em litígios envolvendo deepfake, podem ser relevantes:

perícia técnica em áudio, vídeo ou imagem;

exibição de logs e metadados;

preservação da cadeia de custódia digital;

identificação do dispositivo de origem;

verificação de IP, geolocalização e padrões de acesso;

análise de integridade do arquivo;

confronto com histórico comportamental;

exibição de políticas de autenticação;

demonstração dos controles antifraude adotados.

O ponto central é que a prova sintética não pode ser enfrentada apenas com intuição. A aparência de realidade tornou-se insuficiente como critério de convencimento.

Conclusão

A deepfake inaugura uma nova fase da responsabilidade civil digital. A falsificação deixa de se concentrar no documento e passa a atingir a própria percepção de identidade, presença e consentimento.

No campo jurídico, isso exigirá respostas mais sofisticadas: governança preventiva, protocolos robustos de validação, tratamento adequado de dados pessoais, preservação técnica de evidências e redistribuição adequada do ônus probatório.

A pergunta decisiva não será apenas se o fraudador agiu com tecnologia avançada. Será necessário investigar se a instituição, empresa ou plataforma que aceitou aquela manifestação artificial tinha condições de detectar sinais de risco, adotar cautelas proporcionais e evitar que uma simulação digital produzisse efeitos jurídicos reais.

A deepfake não elimina a responsabilidade de terceiros. Ao contrário, eleva o padrão de diligência de todos que operam em ambientes de confiança digital.