Definicja deepfake w rozporządzeniu

AI Act definiuje deepfake jako treść obrazu, dźwięku lub wideo wygenerowaną lub zmanipulowaną przez AI, która przedstawia osoby, przedmioty, miejsca, podmioty lub wydarzenia w sposób przypominający istniejące osoby, przedmioty, miejsca, podmioty lub wydarzenia, i która mogłaby być błędnie uznana przez daną osobę za autentyczną lub prawdziwą. Obowiązek oznaczania takich treści wynika z art. 50 rozporządzenia, szerzej opisanego w artykule Art. 50, obowiązki przejrzystości.

Trzy elementy tej definicji mają praktyczne znaczenie:

  1. Realistyczność: treść musi wyglądać na tyle wiarygodnie, że mogłaby zostać wzięta za prawdziwe nagranie lub zdjęcie, a nie za jawnie stylizowaną grafikę.
  2. Przedstawianie istniejących lub podobnych do istniejących elementów: dotyczy osób, miejsc, wydarzeń, nie abstrakcyjnych, fantazyjnych scen bez odniesienia do rzeczywistości.
  3. Ryzyko błędnego wzięcia za autentyczne: kluczowe kryterium oceny, czy dana treść w ogóle podlega obowiązkowi oznaczenia.

Obowiązek oznaczania

Podmiot, który generuje lub manipuluje treścią stanowiącą deepfake, musi ujawnić, że treść została sztucznie wygenerowana lub zmanipulowana. W praktyce ten obowiązek realizuje się na dwóch poziomach: technicznym (znakowanie maszynowe treści w metadanych lub innych mechanizmach czytelnych dla maszyn, szerzej opisane w artykule Znakowanie maszynowe treści syntetycznych) oraz widocznym dla odbiorcy (etykieta, podpis lub inny czytelny znacznik przy samej treści, w sposób jasny i widoczny najpóźniej w momencie pierwszej ekspozycji).

Praktyczny przewodnik po tym, jak to zrobić dla konkretnych typów treści (zdjęcia produktowe, wideo z lektorem AI, materiały tekstowe), znajdziesz w artykule Jak oznaczać treści generowane przez AI.

Wyjątek dla treści oczywiście fantastycznych

Rozporządzenie przewiduje istotny wyjątek: obowiązek oznaczania nie ma zastosowania (albo jest istotnie złagodzony, w praktyce sprowadzony do oznaczenia w sposób niekolidujący z odbiorem dzieła) w przypadku treści stanowiącej wyraźnie artystyczne, twórcze, satyryczne, fikcyjne lub analogiczne dzieło lub program, pod warunkiem odpowiedniego poinformowania o sztucznym charakterze treści w sposób, który nie utrudnia wyświetlania lub korzystania z dzieła.

Innymi słowy: film reklamowy w konwencji jawnej, przerysowanej fikcji, z aktorem AI, który nie udaje realnej osoby, nie musi mieć tak samo nachalnego oznaczenia jak nagranie stylizowane na autentyczny materiał wideo z prawdziwej osoby publicznej.

Gdzie przebiega granica

Częsty błąd: zakładanie, że “wyjątek artystyczny” pozwala pominąć oznaczenie za każdym razem, gdy treść nazwie się “kreatywną” albo “reklamową”. Rozporządzenie patrzy na to, czy przeciętny odbiorca mógłby wziąć daną treść za autentyczną, nie na deklarowaną intencję twórcy.

Praktyczne kryteria pomagające ocenić, po której stronie granicy leży dana treść:

Cecha treści Bliżej deepfake wymagającego pełnego oznaczenia Bliżej wyjątku artystycznego/satyrycznego
Realizm wizualny Fotorealistyczny, trudny do odróżnienia od nagrania Wyraźnie stylizowany, przerysowany, oczywisty jako fikcja
Kontekst publikacji Prezentowany bez dodatkowego kontekstu, jako “zwykły” materiał Osadzony w formacie jednoznacznie rozrywkowym lub satyrycznym
Przedstawiana osoba Realna, rozpoznawalna osoba publiczna lub prywatna Postać fikcyjna, karykaturalna, jawnie niezwiązana z realną osobą
Prawdopodobny odbiór Odbiorca mógłby uznać to za prawdziwe wydarzenie Odbiorca od razu rozpoznaje konwencję fikcji

Ryzyko nadużyć wyjątku

Ten wyjątek jest jednym z bardziej podatnych na nadużycie elementów całego rozporządzenia. Firma może być skłonna oznaczyć nachalny, realistyczny materiał reklamowy jako “satyryczny” tylko po to, żeby uniknąć wyraźnego oznaczenia treści syntetycznej. Ryzyko takiego podejścia jest dwojakie: po pierwsze, sama ocena “czy to satyra” nie jest w gestii firmy publikującej materiał, tylko podlega weryfikacji przez organ nadzoru według obiektywnych kryteriów, w tym prawdopodobnego odbioru przez przeciętnego widza. Po drugie, nadinterpretacja tego wyjątku naraża firmę na to samo ryzyko kar co brak oznaczenia w ogóle, opisane w artykule Kary za naruszenie AI Act, bo w razie kontroli to organ nadzoru, nie firma, ocenia zasadność zastosowanego wyjątku.

Deepfake a odpowiedzialność cywilna i wizerunek

Obowiązek oznaczenia z AI Act to osobna kwestia od odpowiedzialności za samo wykorzystanie wizerunku konkretnej osoby bez zgody, co w polskim prawie reguluje przede wszystkim ochrona dóbr osobistych i prawo autorskie, nie AI Act. Firma, która stworzy deepfake przedstawiający realną osobę bez jej zgody, naraża się więc na dwa niezależne rodzaje ryzyka: administracyjne (brak lub błędne oznaczenie w rozumieniu AI Act) oraz cywilne (naruszenie dóbr osobistych tej osoby, niezależne od tego, czy treść była w ogóle oznaczona). Samo prawidłowe oznaczenie treści jako wygenerowanej przez AI nie zwalnia z odpowiedzialności za wykorzystanie cudzego wizerunku bez podstawy prawnej.

Praktyczna rekomendacja

Dla firm niepewnych, czy dany materiał kwalifikuje się do wyjątku artystycznego, bezpieczniejszym podejściem jest oznaczenie treści jako wygenerowanej przez AI również w przypadkach granicznych, nawet kosztem odrobiny mniej “czystego” efektu wizualnego. Koszt dodatkowej etykiety jest zwykle znacznie niższy niż ryzyko błędnej klasyfikacji materiału, który w razie kontroli okaże się jednak wymagać pełnego oznaczenia.

Najczęściej zadawane pytania

Czy każde zdjęcie produktowe wygenerowane przez AI to deepfake?

Zwykle nie w ścisłym sensie definicji deepfake (bo nie przedstawia konkretnej, istniejącej osoby ani zmanipulowanego, realnego wydarzenia), ale mimo to podlega ogólnemu obowiązkowi oznaczania treści syntetycznych z art. 50. Szczegóły dla e-commerce w artykule Oznaczanie zdjęć produktowych AI.

Czy awatar AI używany w reklamie zamiast prawdziwego lektora to deepfake?

Jeśli awatar przedstawia realistycznie wyglądającą osobę, którą odbiorca mógłby wziąć za prawdziwego człowieka, to tak, i wymaga oznaczenia. Jeśli jest jawnie stylizowaną, animowaną postacią, ryzyko jest niższe, choć ogólny obowiązek oznaczenia treści AI nadal ma zastosowanie.

Kto odpowiada za oznaczenie deepfake, twórca narzędzia czy firma publikująca treść?

Oba podmioty mają swoją część obowiązku: dostawca narzędzia generującego treść odpowiada za techniczne znakowanie maszynowe, a firma publikująca materiał odpowiada za widoczne, czytelne dla odbiorcy oznaczenie w miejscu publikacji.

Czy prawo autorskie do treści AI ma coś wspólnego z obowiązkiem oznaczania deepfake?

To dwa osobne zagadnienia. Obowiązek oznaczania z AI Act dotyczy przejrzystości wobec odbiorcy, niezależnie od tego, kto posiada prawa do treści. Kwestię praw autorskich do materiałów generowanych przez AI opisuje osobny artykuł Prawo autorskie a treści AI.