Explainable AI (XAI) na Detecção de Deepfakes: Transparência e Interpretação em Modelos de Visão Computacional: Explainable AI (XAI) in Deepfake Detection: Transparency and Interpretation in Computer Vision Models - Paula, Matheus de Oliveira Pereira (RCMOS - Revista Científica Multidisciplinar O Saber, 2023)
A crescente sofisticação dos deepfakes elevou a urgência de sistemas de detecção de Aprendizado Profundo robustos.No entanto, a natureza de "caixa-preta" dos modelos de Visão Computacional, como as Redes Neurais Convolucionais (CNNs) e os Transformers, representa um obstáculo significativo para sua aceitação em domínios críticos, como o forense e o jurídico. Este artigo explora a aplicação de técnicas de Inteligência Artificial Explicável (XAI) no contexto da detecção de deepfakes, investigando como a transparência e a interpretabilidade dos modelos podem ser alcançadas. Serão discutidas metodologias posthoc e intrínsecas, como CAMs (Class Activation Maps), SHAP e LIME, analisando sua capacidade de gerar evidências visuais e lógicas sobre o processo de classificação,especificamente identificando as regiões da imagem ou vídeo (artefatos) que são determinantes para a decisão de falsidade. O objetivo primário é demonstrar que a integração de XAI é indispensável para construir a confiançanecessária nos sistemas de detecção, transformando a decisão algorítmica em prova pericial verificável, essencial para o estabelecimento da validade e da admissibilidade dessas tecnologias em tribunais e investigações.