Analiza metodelor de detectare a deepfake-urilor și implicațiile lor asupra securității informaționale

Abstract

Lucrarea analizează fenomenul deepfake din perspectiva securității informaționale, abordând atât fundamentele tehnologice ale generării și manipulării conținutului audio-video, cât și limitările și implicațiile metodelor moderne de detecție. Studiul combină analiza teoretică a domeniului cu o componentă practică de implementare și evaluare experimentală a unui sistem de detecție bazat pe învățare profundă, urmărind evidențierea gradului real de aplicabilitate a soluțiilor existente în contexte operaționale. În prima parte a lucrării sunt prezentate conceptele fundamentale asociate fenomenului deepfake, evoluția tehnologiilor generative și principalele riscuri de securitate informațională generate de utilizarea acestora, precum dezinformarea, frauda digitală și compromiterea autenticității conținutului multimedia. De asemenea, sunt analizate implicațiile juridice și etice ale utilizării deepfake-urilor, evidențiind necesitatea existenței unui cadru normativ adecvat și a unor principii de utilizare responsabilă a inteligenței artificiale în mediul digital contemporan. Partea tehnică a lucrării abordează metodele moderne de detecție deepfake, cu accent pe arhitecturile bazate pe rețele neuronale convoluționale și pe tehnicile de preprocesare a datelor video. Sunt discutate atât abordările spațiale și temporale, cât și strategiile de agregare a predicțiilor la nivel de videoclip, fiind evidențiate avantajele acestora, dar și limitările arhitecturale și de generalizare impuse de natura probabilistică a modelelor de învățare profundă. Contribuția practică a lucrării constă în dezvoltarea și evaluarea experimentală a unui sistem complet de detecție deepfake bazat pe arhitectura Xception și pe setul de date FaceForensics++. Sistemul implementat include un pipeline de preprocesare pentru detecția și alinierea fețelor, proceduri de fine-tuning și mecanisme de agregare a predicțiilor la nivel de cadru și videoclip. Rezultatele experimentale obținute evidențiază capacitatea modelului de a identifica manipulări subtile, dar și o serie de limitări semnificative legate de calitatea materialului video, dependența de etapele de preprocesare, consistența temporală a predicțiilor și dificultatea generalizării în fața unor tehnici de generare emergente. În partea finală, lucrarea analizează implicațiile acestor limitări din perspectiva securității informaționale, subliniind faptul că detecția deepfake nu poate fi utilizată ca mecanism defensiv singular. Sunt discutate abordări complementare, precum mecanismele de prevenție și garantare a provenienței conținutului, măsurile organizaționale și de reglementare, precum și rolul educației digitale în reducerea vulnerabilităților cognitive și sociale. În concluzie, cercetarea evidențiază complexitatea fenomenului deepfake și susține necesitatea unei strategii integrate de securitate informațională, oferind un cadru coerent de analiză și evaluare a soluțiilor de detecție, relevant atât pentru mediul academic, cât și pentru aplicațiile practice.

This thesis analyzes the deepfake phenomenon from an information security perspective, addressing both the technological foundations of audio-video content generation and manipulation, as well as the limitations and implications of modern detection methods. The study combines a theoretical analysis of the domain with a practical component involving the implementation and experimental evaluation of a deep learning–based deepfake detection system, aiming to assess the real-world applicability of existing solutions in operational contexts. The first part of the thesis presents the fundamental concepts associated with deepfake technologies, the evolution of generative models, and the main information security risks arising from their use, such as disinformation, digital fraud, and the compromise of multimedia content authenticity. In addition, the legal and ethical implications of deepfake usage are examined, highlighting the need for an appropriate regulatory framework and responsible artificial intelligence practices in the contemporary digital environment. The technical part of the thesis focuses on modern deepfake detection methods, with an emphasis on convolutional neural network-based architectures and video data preprocessing techniques. Both spatial and temporal approaches are discussed, along with video-level prediction aggregation strategies, highlighting their advantages as well as the architectural and generalization limitations imposed by the probabilistic nature of deep learning models. The practical contribution of the thesis consists of the development and experimental evaluation of a complete deepfake detection system based on the Xception architecture and the FaceForensics++ dataset. The implemented system includes a preprocessing pipeline for face detection and alignment, fine-tuning procedures, and mechanisms for aggregating predictions at both frame and video levels. The experimental results demonstrate the model’s ability to detect subtle manipulations, while also revealing significant limitations related to video quality, dependence on preprocessing stages, temporal prediction consistency, and reduced generalization to emerging generation techniques. In the final part, the thesis analyzes the implications of these limitations from an information security perspective, emphasizing that deepfake detection cannot be used as a standalone defensive mechanism. Complementary approaches are discussed, including content provenance and prevention mechanisms, organizational and regulatory measures, and the role of digital literacy in reducing cognitive and social vulnerabilities. In conclusion, the research highlights the complexity of the deepfake phenomenon and supports the need for an integrated information security strategy, providing a coherent framework for the analysis and evaluation of deepfake detection solutions relevant to both academic research and practical applications.