Prawo
Między manipulacją treścią, pozorem autentyczności a ryzykiem prawnym
Deepfake w AI Act: obowiązki transparentności, dezinformacja i ochrona danych – wybrane zagadnienia
Jeszcze niedawno zmanipulowane nagranie było raczej technologiczną ciekawostką niż codziennym ryzykiem komunikacyjnym. Przygotowanie materiału, który rzeczywiście mógł wprowadzić odbiorcę w błąd, wymagało czasu, zaplecza technicznego i specjalistycznych kompetencji. Dziś narzędzia generatywnej sztucznej inteligencji są coraz lepsze, szybsze i łatwiej dostępne.
Początki generatywnego wideo trudno było traktować zupełnie poważnie. Internet żył materiałami, w których postacie miały zbyt wiele palców, twarze „pływały”, a słynne nagranie przedstawiające Willa Smitha jedzącego spaghetti bardziej przypominało surrealistyczny żart niż zapowiedź technologicznej rewolucji. Ten etap mamy już jednak w dużej mierze za sobą.
Odróżnienie autentycznego materiału od syntetycznej imitacji staje się coraz trudniejsze nie tylko dla przeciętnego użytkownika, lecz także dla osób zawodowo zajmujących się komunikacją, mediami, bezpieczeństwem informacji czy compliance. Poza „klasycznymi” formami deepfake odbiorca może zostać wprowadzony w błąd także co do tego, kto stworzył tekst, czy przedstawiona osoba rzeczywiście istnieje oraz czy po drugiej stronie rozmowy znajduje się człowiek, czy system AI.
Deepfake coraz częściej staje się problemem ochrony danych, odpowiedzialności organizacyjnej, cyberbezpieczeństwa i zaufania do komunikacji. Klasyczny fake news nie traci znaczenia, ale generatywna AI pozwala uzupełnić fałszywą narrację o pozornie wiarygodny dowód albo źródło przekazu. Taki materiał może wywołać rzeczywisty wpływ na przedsiębiorstwo, wizerunek konkretnej osoby, procesy decyzyjne, a nawet zaufanie społeczne.
adwokat
aplikant radcowski
…..
Od fałszywej informacji do fałszywego dowodu
Tradycyjna dezinformacja polegała głównie na rozpowszechnianiu nieprawdziwych twierdzeń, manipulowaniu kontekstem albo selektywnym doborze faktów. Narzędzia generatywne zmieniają skalę tego zjawiska, ponieważ pozwalają tworzyć nie tylko fałszywą narrację, ale również fałszywy nośnik dowodowy.
Odbiorca może otrzymać materiał, który wygląda jak autentyczne nagranie, brzmi jak głos konkretnej osoby i jest rozpowszechniany w formacie typowym dla wiarygodnych komunikatów medialnych, korporacyjnych albo urzędowych. Syntetyczny głos prezesa może polecić wykonanie przelewu, realistyczny awatar eksperta może rekomendować produkt, a wygenerowana wypowiedź polityka może zostać przedstawiona jako zapis rzeczywistego wystąpienia.
Fałsz nie musi być przy tym perfekcyjny. Badania nad zachowaniem użytkowników w mediach społecznościowych wskazują, że decyzja o udostępnieniu treści nie zawsze jest poprzedzona dokładną oceną jej prawdziwości. Uwagę mogą silniej przyciągać nowość, emocjonalność, zgodność z przekonaniami odbiorcy albo potencjał materiału do wywołania reakcji.
Dezinformacja bywa również wykorzystywana jako narzędzie tzw. wojny hybrydowej. Odpowiednio przygotowane i rozpowszechniane przekazy mogą służyć pogłębianiu istniejących podziałów społecznych, polaryzacji społeczeństwa, wzmacnianiu nieufności wobec instytucji oraz wywoływaniu silnych emocji i napięć wokół tematów szczególnie wrażliwych. Generatywna AI dodatkowo zwiększa skuteczność takich działań, ponieważ pozwala szybko tworzyć wiarygodnie wyglądające materiały i dostosowywać je do różnych grup odbiorców.
Dezinformacja może dotyczyć co najmniej trzech elementów. Może fałszować samą treść, przedstawiając wydarzenie, które nie miało miejsca. Może fałszować jej źródło, sugerując, że komunikat pochodzi od konkretnej osoby, przedsiębiorstwa albo instytucji. Może wreszcie fałszować charakter interakcji, tworząc wrażenie, że odbiorca rozmawia z człowiekiem, podczas gdy kontaktuje się z chatbotem, voicebotem lub agentem AI. Im bardziej „ludzki” jest sposób komunikowania się systemu, tym większe może być prawdopodobieństwo uznania go za prawdziwego człowieka1. Wrażenie to wpływa na poziom zaufania, sposób interpretowania odpowiedzi oraz gotowość użytkownika do ujawniania informacji.
Deepfake w rozumieniu AI Act
Na poziomie prawa unijnego podstawowym punktem odniesienia dla dyskusji o deepfake’ach jest rozporządzenie Parlamentu Europejskiego i Rady (UE) 2024/1689, czyli AI Act. Obowiązki przejrzystości określone w art. 50 AI Act stosuje się od 2 sierpnia 2026 r. Ograniczony okres przejściowy dotyczy wyłącznie obowiązku oznaczania i zapewnienia wykrywalności treści z art. 50 ust. 2. Dostawcy systemów AI generujących syntetyczne treści, które zostały wprowadzone do obrotu przed 2 sierpnia 2026 r., mają czas na dostosowanie ich do tego obowiązku do 2 grudnia 2026 r. Pozostałe obowiązki z art. 50, w tym obowiązek informowania o interakcji z AI oraz obowiązek oznaczania deepfake’ów przez podmioty stosujące, stosuje się od 2 sierpnia 2026 r.2
Samo pojęcie deepfake zostało zdefiniowane w art. 3 pkt 60 AI Act. Zgodnie z rozporządzeniem oznacza ono wygenerowane lub zmanipulowane przez AI obrazy, treści dźwiękowe lub treści wideo, które przypominają istniejące osoby, przedmioty, miejsca, podmioty lub zdarzenia, a odbiorca mógłby niesłusznie uznać je za autentyczne lub prawdziwe.
Z definicji wynikają cztery podstawowe elementy. Treść musi zostać wygenerowana albo zmodyfikowana przy użyciu AI, mieć formę obrazu, dźwięku lub wideo, przypominać istniejącą osobę, przedmiot, miejsce, podmiot lub zdarzenie oraz móc zostać niesłusznie uznana za autentyczną lub prawdziwą. Tekst nie jest deepfake’em w rozumieniu tej definicji, choć niektóre publikacje tekstowe podlegają odrębnym obowiązkom.
Szczególne znaczenie mają Wytyczne Komisji Europejskiej dotyczące stosowania obowiązków przejrzystości z art. 50 AI Act, opublikowane 20 lipca 2026 r.3 Wytyczne nie są prawnie wiążące i nie zastępują rozporządzenia, ale stanowią obecnie najpełniejsze stanowisko Komisji dotyczące interpretacji tych obowiązków.
Komisja wyjaśnia, że podobieństwo powinno być dostrzegalne i odpowiednio wysokie, lecz materiał nie musi stanowić identycznej kopii rzeczywistości. Istotne jest, czy odtwarza charakterystyczne cechy przedstawianej osoby, przedmiotu, miejsca lub zdarzenia, np. twarz, głos, sposób mówienia, zachowanie, wygląd produktu albo przebieg określonej sytuacji.
Wytyczne szeroko interpretują również pojęcie „istniejących” osób i obiektów. Wystarczające może być podobieństwo do czegoś, co istnieje, może wiarygodnie istnieć albo mogłoby istnieć w rzeczywistości (tj. stwarzające pozór autentyczności). Do tej kategorii Komisja zalicza realistyczne, wygenerowane przez AI awatary i persony, nawet jeżeli nie są cyfrową kopią jednej konkretnej osoby.
Deepfake’em może być zatem nie tylko replika znanego aktora lub polityka, ale także realistyczny syntetyczny influencer, klient, ekspert albo prezes przedsiębiorstwa, którego odbiorca potraktuje jak rzeczywistego człowieka. Poza zakresem definicji powinny natomiast pozostawać sytuacje wyraźnie nierealistyczne, np. smok, latający człowiek albo zwierzę prowadzące samochód, jeżeli nie stwarzają realnego ryzyka wprowadzenia odbiorcy w błąd.
Kluczowy jest pozór autentyczności
Najważniejszym elementem definicji jest możliwość niesłusznego uznania materiału za autentyczny lub prawdziwy. Autentyczność odnosi się do tego, czy materiał jest rzeczywiście tym, za co się podaje: czy głos pochodzi od wskazanej osoby, czy nagranie przedstawia jej faktyczne zachowanie oraz czy produkt lub usługa wyglądają i działają w pokazany sposób. Prawdziwość dotyczy natomiast zgodności przedstawionego komunikatu z faktami.
Intencja twórcy nie jest rozstrzygająca. Materiał może być deepfake’em również wtedy, gdy jego autor nie zamierza nikogo oszukać, a przedstawiona osoba wyraziła zgodę na wykorzystanie wizerunku lub głosu. Zgoda może wpływać na legalność przetwarzania danych albo korzystania z wizerunku, ale nie zmienia charakteru samej syntetycznej treści.
Wytyczne wskazują również, że ocena powinna uwzględniać zamierzoną i racjonalnie przewidywalną grupę odbiorców, kontekst publikacji, kanał dystrybucji i sposób prezentacji materiału. Szczególne znaczenie ma możliwość dotarcia treści do dzieci, osób starszych oraz odbiorców o niższych kompetencjach cyfrowych. Nie stosuje się zatem wyłącznie jednego abstrakcyjnego modelu przeciętnego odbiorcy.
Co może być deepfake’em?
Wytyczne podają przykłady dobrze pokazujące szerokość definicji. Deepfake’em może być m.in. sklonowany głos prowadzących podcast, nagranie osoby przypominającej polityka wygłaszającego przemówienie, syntetyczny wizerunek celebryty użyty w reklamie albo realistyczny awatar prezesa przekazującego pracownikom informacje o wynikach spółki.
Deepfake może dotyczyć także produktu. Komisja wskazuje na obraz użyty w reklamie lub na opakowaniu, który wprowadza w błąd co do rzeczywistego wyglądu, właściwości, jakości lub sposobu korzystania z produktu.
Nie każda modyfikacja prowadzi jednak do powstania deepfake’u. Drobne zmiany techniczne lub estetyczne, takie jak korekta kolorów, poprawa oświetlenia, redukcja szumów, kompresja, zmiana rozmiaru czy niewielkie rozszerzenie tła, co do zasady nie powodują takiej kwalifikacji, jeżeli nie wpływają istotnie na sposób, w jaki odbiorca ocenia autentyczność lub prawdziwość materiału.
Komisja podaje przykład prawdziwego samochodu przedstawionego na wygenerowanym przez AI tle. Jeżeli syntetyczne otoczenie nie wprowadza odbiorcy w błąd co do wyglądu lub właściwości pojazdu, materiał nie musi być deepfake’em. Inaczej należy ocenić przypadek, w którym AI poprawia wygląd samego produktu, dodaje mu nieistniejące funkcje albo pokazuje jego działanie niezgodnie z rzeczywistością.
Poza definicją mogą pozostawać również treści, których fikcyjny charakter jest oczywisty. Wytyczne wymieniają m.in. obraz sfinksa lecącego nad Wieżą Eiffla oraz reklamę sera przedstawiającą myszy prowadzące ludzką rozmowę.
Transparentność jako podstawowa zasada
Art. 50 AI Act nie ustanawia generalnego zakazu tworzenia ani rozpowszechniania deepfake’ów. W większości przypadków opiera się na mechanizmie transparentności: odbiorca powinien wiedzieć, że nie ma do czynienia z autentycznym nagraniem, lecz z materiałem wygenerowanym albo zmanipulowanym (zmodyfikowanym) przy użyciu AI.
Nie oznacza to jednak, że AI Act ogranicza się wyłącznie do obowiązków informacyjnych. Po nowelizacji rozporządzeniem (UE) 2026/1744 art. 5 przewiduje szczególne zakazy dotyczące m.in. wprowadzania do obrotu, oddawania do użytku lub używania określonych systemów AI generujących lub manipulujących realistycznymi materiałami intymnymi identyfikowalnych osób bez wymaganej zgody, a także materiałami związanymi z seksualnym wykorzystywaniem dzieci. Zakazy te, z uwzględnieniem warunków określonych w art. 5 ust. 1a i 1b AI Act, będą stosowane od 2 grudnia 2026 r.
Regulacja działa na dwóch poziomach. Art. 50 ust. 2 nakłada na dostawców systemów AI obowiązek zapewnienia maszynowo odczytywalnego oznaczenia i wykrywalności syntetycznych treści. Art. 50 ust. 4 dotyczy podmiotów stosujących systemy i wymaga przekazania odbiorcy jasnej informacji o sztucznym pochodzeniu konkretnego materiału.
Obowiązki podmiotu stosującego z art. 50 ust. 4 dotyczą korzystania z systemu AI w ramach działalności profesjonalnej. Nie obejmują osoby fizycznej korzystającej z AI wyłącznie w ramach czysto osobistej, niezawodowej aktywności. Nie wyłącza to jednak stosowania innych przepisów, np. dotyczących ochrony danych osobowych, wizerunku, dóbr osobistych czy prawa autorskiego.
Informacja powinna zostać przekazana najpóźniej przy pierwszym kontakcie z treścią w sposób jasny, wyróżnialny i dostępny. Nie powinna być ukryta wyłącznie w regulaminie, dokumentacji technicznej albo pod dodatkowymi warstwami interfejsu.
AI Act przewiduje łagodniejszy sposób wykonania obowiązku wobec deepfake’ów stanowiących część ewidentnie artystycznego, twórczego, satyrycznego, fikcyjnego lub analogicznego utworu albo programu. Nie oznacza to jednak, że każda reklama korzysta z takiego podejścia tylko dlatego, że ma kreatywną lub fabularną formę. Ocena wymaga analizy konkretnego materiału. Wytyczne wskazują przykładowo, że realistyczny syntetyczny influencer prezentujący funkcjonalności sponsorowanego produktu nie korzysta z łagodniejszego reżimu wyłącznie ze względu na sposób przygotowania materiału.4
Nie tylko fałszywa treść. Także fałszywy rozmówca
Dezinformacja w środowisku AI może rozpocząć się już w chwili, gdy użytkownik nie wie, z kim rozmawia. Naturalnie brzmiący voicebot, chatbot używający potocznego języka albo realistyczny awatar mogą stworzyć wrażenie kontaktu z prawdziwym konsultantem lub ekspertem.
Art. 50 ust. 1 AI Act wymaga, aby dostawcy systemów przeznaczonych do bezpośredniej interakcji z osobami fizycznymi projektowali je w sposób zapewniający poinformowanie użytkownika, że kontaktuje się z systemem AI. Wytyczne obejmują tym obowiązkiem m.in. chatboty, asystentów głosowych, telefoniczne infolinie AI, agentów konwersacyjnych, awatary i boty w mediach społecznościowych.
Komisja podkreśla, że informacja powinna ujawniać sztuczny, nieludzki charakter rozmówcy. Samo określenie „asystent”, „doradca” albo „wirtualny konsultant” może być zbyt niejednoznaczne. W rozmowie telefonicznej bezpieczniejszy będzie komunikat wskazujący wprost, że użytkownik rozmawia z asystentem opartym na sztucznej inteligencji. Jedna wyraźna informacja na początku interakcji powinna zazwyczaj wystarczyć. W dłuższych lub szczególnie wrażliwych rozmowach mogą być jednak potrzebne dodatkowe przypomnienia, zwłaszcza w obszarze zdrowia, finansów, ubezpieczeń, reklamacji lub porad prawnych.
W przypadku agentów AI wykonujących zadania i kontaktujących się z osobami trzecimi należy dodatkowo ujawnić, w czyim imieniu agent działa. Wytyczne odnoszą się wprost do agentów prowadzących korespondencję, dokonujących rezerwacji, negocjujących, zawierających umowy lub realizujących zakupy. Samo ujawnienie, że rozmowa odbywa się z AI, nie stanowi oczywiście gwarancji prawdziwości odpowiedzi. Pozwala jednak odbiorcy prawidłowo ocenić źródło komunikatu i odpowiednio skalibrować zaufanie.
Dezinformacja tekstowa
Dezinformacja generowana przez AI nie zawsze przyjmuje postać obrazu, dźwięku lub wideo. Może wyglądać jak zwykły artykuł, komunikat instytucji, raport przedsiębiorstwa albo wpis w mediach społecznościowych.
Art. 50 ust. 4 AI Act obejmuje również teksty wygenerowane lub zmodyfikowane przez AI, jeżeli są publikowane w celu informowania społeczeństwa o sprawach leżących w interesie publicznym. Wytyczne wymieniają w tym kontekście m.in. politykę i procesy demokratyczne, administrację i usługi publiczne, wymiar sprawiedliwości, ochronę praw podstawowych, bezpieczeństwo publiczne, zdrowie publiczne, ochronę środowiska, bezpieczeństwo konsumentów oraz istotne wydarzenia gospodarcze, finansowe, naukowe i kulturalne. Zwykłe teksty reklamowe i opisy produktów zasadniczo pozostają poza tym obowiązkiem. Inaczej może być, gdy zawierają twierdzenia dotyczące zdrowia, bezpieczeństwa konsumentów lub zrównoważonego rozwoju.
Obowiązek oznaczenia nie ma zastosowania, jeżeli tekst przeszedł rzeczywistą weryfikację przez człowieka lub kontrolę redakcyjną, a określona osoba fizyczna albo prawna ponosi odpowiedzialność za publikację. Sama korekta językowa, automatyczne sprawdzenie lub pobieżna akceptacja nie wystarczą. Wytyczne wskazują, że sprawdzenie prawdziwości informacji jest wymaganym minimum.
Weryfikacja powinna przy tym obejmować ostateczną wersję publikowanego tekstu. Jeżeli po przeprowadzeniu human review lub kontroli redakcyjnej AI ponownie merytorycznie zmodyfikuje, uzupełni lub przeformułuje treść, wyjątek przestaje mieć zastosowanie. Ostateczna wersja wymaga więc ponownej rzeczywistej weryfikacji przez człowieka albo, jeżeli spełnione są pozostałe przesłanki art. 50 ust. 4, odpowiedniego oznaczenia.
Deepfake a dane osobowe i dobra osobiste
Deepfake często wiąże się z wykorzystaniem danych konkretnej osoby. RODO definiuje dane osobowe szeroko, dlatego wizerunek, głos, nazwisko, funkcja lub charakterystyczne cechy wyglądu mogą stanowić dane osobowe, jeżeli pozwalają zidentyfikować osobę.
Nie każdy deepfake będzie jednak automatycznie dotyczył danych osobowych. Zgodnie z szerokim podejściem Komisji deepfake’em może być również realistyczna, całkowicie syntetyczna persona, która nie odwzorowuje żadnej możliwej do zidentyfikowania osoby. Zakres AI Act i RODO częściowo się więc pokrywają, ale nie są tożsame.
W niektórych przypadkach w grę mogą wchodzić dane biometryczne. Sam wizerunek twarzy lub nagranie głosu nie stanowią jednak automatycznie danych biometrycznych w rozumieniu RODO. Takimi danymi są dane osobowe wynikające ze specjalnego przetwarzania technicznego dotyczącego cech fizycznych, fizjologicznych lub behawioralnych osoby, które umożliwiają lub potwierdzają jej jednoznaczną identyfikację. Odrębną kwestią jest objęcie ich reżimem szczególnych kategorii danych z art. 9 RODO, który odnosi się do przetwarzania danych biometrycznych w celu jednoznacznego zidentyfikowania osoby fizycznej.
Równolegle zastosowanie mogą znaleźć przepisy o ochronie dóbr osobistych. Deepfake może naruszać wizerunek, nazwisko, cześć, dobre imię, prywatność lub wiarygodność zawodową. Fałszywa wypowiedź może sugerować poparcie produktu, przypisywać osobie nieistniejące zachowanie albo podważać jej reputację.
AI Act nie zastępuje przy tym RODO ani innych przepisów. Oznaczenie materiału jako wygenerowanego przez AI nie legalizuje automatycznie procesu jego stworzenia i rozpowszechnienia. Materiał może być prawidłowo oznaczony, a jednocześnie naruszać prawo do wizerunku, dobra osobiste, prawo autorskie lub zasady uczciwej reklamy.
Co to oznacza dla organizacji?
Z perspektywy compliance coraz trudniej rozdzielać bezpieczeństwo informacji, ochronę danych, komunikację kryzysową i zarządzanie systemami AI. Jeden materiał może jednocześnie stanowić deepfake, naruszać dobra osobiste, prowadzić do bezprawnego przetwarzania danych i tworzyć ryzyko cyberbezpieczeństwa.
Dla mediów i wydawców kluczowe będzie określenie, kiedy AI jedynie wspiera pracę człowieka, a kiedy generuje lub modyfikuje treść w sposób wymagający oznaczenia albo merytorycznej kontroli. Sama polityka redakcyjna lub automatyczny proces sprawdzania nie wystarczą, jeżeli nikt faktycznie nie weryfikuje treści i nie przyjmuje odpowiedzialności za publikację.
Organizacje wykorzystujące voiceboty lub chatboty powinny zadbać, aby użytkownik rozumiał, że kontaktuje się z systemem AI, a nie z człowiekiem. Jeżeli natomiast system działa jako agent AI i kontaktuje się z osobami trzecimi w celu wykonania powierzonych zadań, powinien dodatkowo ujawnić, w czyim imieniu działa. Organizacja wdrażająca takie rozwiązanie powinna zweryfikować, czy funkcjonalność ta została prawidłowo skonfigurowana.
Dla instytucji publicznych deepfake może uderzać nie tylko w reputację konkretnej osoby, ale również w zaufanie do komunikacji publicznej. Szczególnego znaczenia nabierają procedury weryfikacji autentyczności komunikatów, szybkie kanały dementowania fałszywych materiałów i jasne zasady używania AI w komunikacji z obywatelami.
Transparentność nie jest gwarancją prawdy
AI Act nie jest regulacją poświęconą zwalczaniu dezinformacji. Nie przesądza, czy każda informacja wygenerowana przez AI jest prawdziwa, i nie zakazuje wszystkich treści syntetycznych. Jego podstawowym narzędziem jest transparentność. Odbiorca powinien w określonych sytuacjach wiedzieć, że treść została wygenerowana lub zmodyfikowana przez AI albo że rozmówca jest systemem AI, a nie człowiekiem.
Nie eliminuje to dezinformacji, ale ogranicza jedno z jej źródeł: ukryty pozór autentyczności. Oznaczenie nie jest jednak gwarancją prawdziwości, bezpieczeństwa ani legalności. Chatbot może ujawnić, że jest systemem AI, a mimo to podać błędną informację. Syntetyczny materiał może być poprawnie oznaczony, a jednocześnie naruszać cudze prawa. Deepfake, dezinformacja i ochrona danych tworzą więc wspólny obszar ryzyka. Odbiorca może zostać wprowadzony w błąd co do treści, jej źródła albo samego charakteru interakcji.
Wytyczne Komisji Europejskiej z 20 lipca 2026 r. pokazują, że art. 50 AI Act należy traktować jako element szerszego systemu przywracania odbiorcy orientacji w środowisku, w którym granica między komunikacją ludzką i syntetyczną staje się coraz mniej widoczna.
Z perspektywy organizacji ryzyko zaczyna się w chwili, gdy nie potrafi ona jasno określić, gdzie kończy się dopuszczalne wykorzystanie AI, a zaczyna pozór autentyczności, możliwość wprowadzenia odbiorcy w błąd lub wykorzystanie cudzych danych i praw.
Anna Jelińska-Sabatowska,
adwokat
Kacper Gut,
aplikant radcowski
1 H. Suzuki, J. Zhang, D.D. Kim i in., Message Humanness as a Predictor of AI’s Perception as Human: Secondary Data Analysis of the HeartBot Study, „JMIR AI” 202
2 Zgodnie z Wytycznymi deepfake’ów wygenerowanych lub zmanipulowanych przed 2 sierpnia 2026 r. nie trzeba oznaczać retroaktywnie. Jeżeli jednak tekst został wygenerowany wcześniej, ale jest publikowany 2 sierpnia 2026 r. lub później, podlega obowiązkowi oznaczenia, o ile spełnia pozostałe przesłanki art. 50 ust. 4.
3 https://digital-strategy.ec.europa.eu/pl/library/guidelines-transparency-obligations-providers-and-deployers-ai-systems
4 Należy jednak pamiętać, że w takich przypadkach obowiązek transparentności nie znika, lecz ma łagodniejszą formę.
