Polska Platforma Bezpieczeństwa Wewnętrznego
Czy w dobie AI możemy ufać mediom cyfrowym? Jak śledczy, sądy, media, firmy ubezpieczeniowe i inne organizacje polegające na dowodach cyfrowych mogą określać ich autentyczność? DETECTOR został powołany, by wspierać Europę w tym zakresie.
Sztuczna inteligencja znacząco zmieniła sposób tworzenia treści. Realistyczne obrazy, wideo typu deepfake czy generowane automatycznie nagrania głosowe ułatwiają komunikację i sprzyjają rozwojowi nowych usług, ale jednocześnie utrudniają ocenę autentyczności materiałów pojawiających się w przestrzeni cyfrowej. To z kolei może być dużym zagrożeniem dla wielu branż. Aby odpowiedzieć na to wyzwanie, Unia Europejska sfinansowała projekt DETECTOR, którego celem jest opracowanie rozwiązań umożliwiających wiarygodne identyfikowanie treści tworzonych lub modyfikowanych przez sztuczną inteligencję.
Dynamiczny rozwój technologii generatywnych sprawia, że w sieci pojawia się coraz więcej treści tworzonych przy udziale algorytmów. Ich wysoki poziom realizmu może prowadzić do nieporozumień w codziennych sytuacjach – np. gdy syntetyczny głos jest wykorzystywany do podszywania się pod pracownika banku. Równie problematyczne są realistyczne nagrania deepfake, które mogą manipulować opinią publiczną, zakłócać procesy demokratyczne lub utrudniać analizę materiałów wykorzystywanych w badaniach i postępowaniach dochodzeniowych. Narastająca skala treści syntetycznych znacząco komplikuje pracę specjalistów zajmujących się oceną autentyczności materiałów cyfrowych, na przykład firm ubezpieczeniowych czy sądów.
Odpowiedź Unii Europejskiej
Aby skutecznie mierzyć się z tym wyzwaniem, potrzebne są zaawansowane narzędzia wspierające ocenę autentyczności treści i właśnie na tę potrzebę odpowiada DETECTOR, finansowany przez Unię Europejską projekt w ramach programu Horyzont Europa.
Projekt DETECTOR realizuje międzynarodowe konsorcjum skupiające ekspertów z obszaru sztucznej inteligencji, analizy mediów cyfrowych, prawa i etyki. W jego ramach powstaną narzędzia do wykrywania manipulacji w różnych typach treści (w tym treści tekstowych, dźwiękowych, graficznych i wideo) a także zbiory danych wspierające rozwój nowych metod badawczych oraz zasoby szkoleniowe dla specjalistów pracujących z materiałami cyfrowymi. Ważnym elementem projektu będzie również wymiana wiedzy z decydentami oraz innymi kluczowymi interesariuszami na poziomie europejskim.
Rola PPBW
Wśród partnerów projektu znalazła się Polska Platforma Bezpieczeństwa Wewnętrznego, odpowiedzialna m.in. za działania komunikacyjne i upowszechnianie rezultatów, mapowanie interesariuszy, współtworzenie materiałów szkoleniowych oraz analizę aspektów prawnych i etycznych. PPBW będzie również prowadzić działania ewaluacyjne obejmujące ocenę zgodności opracowywanych rozwiązań z potrzebami praktyków, testowanie narzędzi w rzeczywistych procesach pracy oraz porównanie ich z istniejącymi technologiami. Organizacja współpracuje także z partnerami projektu w zakresie koordynacji naukowej, planowania wpływu oraz zarządzania ryzykiem i jakością.
DETECTOR to odpowiedź na rosnącą potrzebę wzmacniania zaufania do treści cyfrowych w szybko zmieniającym się środowisku informacyjnym. Projekt wspiera bezpieczne i świadome korzystanie z zaawansowanych technologii, wzmacniając odporność europejskiej przestrzeni cyfrowej na manipulacje i nadużycia oparte na mediach syntetycznych.
Chcesz dowiedzieć się więcej o projekcie? Odwiedź stronę internetową DETECTOR-a: detector-project.eu
Aby trzymać rękę na pulsie, polecamy zaobserwować również profil projektu na LinkedIn: https://www.linkedin.com/company/detector-project/
