Treinamento Ético de Redes Neurais: Conjuntos de Dados, Viés e Privacidade na Detecção de Deepfakes
Ethical Training of Neural Networks: Datasets, Bias, and Privacy in Deepfake Detection
DOI:
https://doi.org/10.51473/rcmos.v1i2.2024.1871Palavras-chave:
deepfakes; ética algorítmica; vieses; privacidade digital; soberania informacional.Resumo
A detecção automatizada de deepfakes, baseada no uso massivo de redes neurais profundas, tornou-se um imperativo civilizacional para a proteção da integridade informacional em plataformas digitais. Entretanto, o ponto mais sensível dessa arquitetura não reside na sofisticação algorítmica do modelo, mas na formação ética dos conjuntos de dados utilizados em seu treinamento — os quais são frequentemente marcados por vieses estruturais de raça, gênero e geopolítica, bem como por violações de privacidade e uso não consentido de imagens biométricas humanas. Este artigo analisa criticamente, com abordagem epistemológica e tecnopolítica, os dilemas éticos fundamentais associados à criação e curadoria de datasets para treinar detectores de deepfakes. Com base em estudos contemporâneos, explora-se como erros na composição do dataset podem reproduzir formas históricas de opressão algorítmica, amplificar desigualdades sociais e até mesmo comprometer a legitimidade democrática das tecnologias de combate à desinformação. Conclui propondo diretrizes éticas e técnicas para o desenvolvimento de pipelines de treinamento responsáveis, auditáveis e compatíveis com princípios de soberania informacional e justiça algorítmica.
Downloads
Referências
ARAL, SINAN. The hype machine: how social media disrupts our elections, our economy, and our health—and how we must adapt. New York: Currency, 2020.
BRUNDAGE, MILES; WHITTLESTONE, JESS. Governance of artificial intelligence: ethics, law and policy. Oxford: Oxford Internet Institute, 2020.
BUOLAMWINI, JOY; GEBRU, TIMNIT. Gender shades: intersectional accuracy disparities in commercial gender classification. Proceedings of Machine Learning Research, 2018.
CRAWFORD, KATE. Atlas of AI: power, politics, and the planetary costs of artificial intelligence. New Haven: Yale University Press, 2021. DOI: https://doi.org/10.12987/9780300252392
DOSHI-VELEZ, FINALE; KIM, BEEN. Towards a rigorous science of interpretable machine learning. arXiv, 2018.
FLORIDI, LUCIANO. The logic of information: a theory of philosophy as conceptual design. Oxford: Oxford University Press, 2020. DOI: https://doi.org/10.1093/oso/9780198833635.001.0001
GEBRU, TIMNIT et al. Datasheets for datasets. In: CONFERENCE ON FAIRNESS, ACCOUNTABILITY, AND TRANSPARENCY. 2018.
MILAN, STEFANIA; TRERÉ, EMILIANO. The rise of data colonialism: reclaiming digital sovereignty. Social Media + Society, 2019.
NATO STRATCOM. Deepfake detection and information integrity report. Brussels: NATO Strategic Communications Centre of Excellence, 2021.
VACCARI, CRISTIAN; CHADWICK, ANDREW. Deepfakes and disinformation: political campaigns in the AI age. Journal of Political Communication, 2020.
ZUBOFF, SHOSHANA. The age of surveillance capitalism. New York: PublicAffairs, 2019.
Downloads
Publicado
Edição
Seção
Categorias
Licença
Copyright (c) 2024 Matheus de Oliveira Pereira Paula (Autor)
Este trabalho está licenciado sob uma licença Creative Commons Attribution 4.0 International License.
Este trabalho está licenciado sob a Licença Creative Commons Atribuição 4.0 Internacional (CC BY 4.0). Isso significa que você tem a liberdade de:
- Compartilhar — copiar e redistribuir o material em qualquer meio ou formato.
- Adaptar — remixar, transformar e construir sobre o material para qualquer propósito, inclusive comercial.
O uso deste material está condicionado à atribuição apropriada ao(s) autor(es) original(is), fornecendo um link para a licença, e indicando se foram feitas alterações. A licença não exige permissão do autor ou da editora, desde que seguidas estas condições.
A logomarca da licença Creative Commons é exibida de maneira permanente no rodapé da revista.
Os direitos autorais do manuscrito podem ser retidos pelos autores sem restrições e solicitados a qualquer momento, mesmo após a publicação na revista.
Como Citar
