Technologie wykrywania deepfake’ów na potrzeby analizy i nadzoru kryminalistycznego
Dynamiczny rozwój generatywnej sztucznej inteligencji sprawił, że tworzenie mediów syntetycznych (treści generowanych częściowo lub całkowicie przez AI) stało się powszechne i dostępne dla każdego. Technologia ta otwiera nowe możliwości, jednocześnie tworząc także zagrożenia, które mogą podważa procesy demokratyczne i wpływać na bezpieczeństwo publiczne. Szczególnym problemem są deepfake’i, czyli realistyczne, choć całkowicie fałszywe materiały przedstawiające osoby w sytuacjach, które nigdy nie miały miejsca. Treści tego rodzaju mogą służyć do manipulowania opinią publiczną, oszustw finansowych czy sabotowania działań instytucji państwowych.
Dla organów ścigania i laboratoriów kryminalistycznych oznacza to rosnące trudności w ocenie wiarygodności dowodów cyfrowych. Projekt DETECTOR (2025–2028) stanowi odpowiedź na te wyzwania. Jego celem jest dostarczenie specjalistycznych narzędzi do identyfikacji zmanipulowanych materiałów audio, wideo i tekstowych oraz budowa zróżnicowanych i kompleksowych zbiorów danych. Dzięki międzynarodowej współpracy badaczy AI, organów ścigania, ekspertów kryminalistyki, prawników i etyków, DETECTOR wzmocni wiarygodność dowodów cyfrowych, wspierając procesy sądowe. Projekt będzie również rozwijać badania nad wymianą dowodów cyfrowych, zapewniać szkolenia dla specjalistów z zakresu kryminalistyki oraz dostarczać rekomendacje dla decydentów.
PPBW kieruje działaniami związanymi z maksymalizacją wpływu projektu, odpowiadając za strategię komunikacji i upowszechniania, mapowanie interesariuszy oraz współtworzenie ram szkoleniowych. Współpracuje z CENTRIC w wypracowywaniu działań klasteryzujących, koordynacji Rady Doradczej i inicjatywach szkoleniowych, a także z DigInnov w zakresie polityk, eksploatacji i szerokiego wpływu projektu.
PPBW uczestniczy również w pracach zarządczych i jakościowych, analizuje uwarunkowania prawne i etyczne oraz prowadzi elementy ewaluacji zewnętrznej. Ocenia narzędzia DETECTOR pod kątem ich praktycznego zastosowania, zgodności z realnymi procedurami i wartości dla środowiska bezpieczeństwa oraz kryminalistyki cyfrowej.
Celem działań podejmowanych przez powstałą w ramach projektu DETECTOR sieć praktyków jest:
Koordynator:
Partners:
Finansowane przez
Unię Europejską
Napisz do nas: projekty@ppbw.pl
