Jedyna kategoria bez wyjątków
Art. 5 AI Act wymienia praktyki, których nie wolno stosować w ogóle, niezależnie od branży, wielkości firmy czy deklarowanego celu. To jedyna kategoria w całym rozporządzeniu, gdzie nie ma mowy o dokumentacji, ocenie zgodności czy oznaczeniu, tylko o bezwzględnym zakazie. Obowiązuje od 2 lutego 2025, najwcześniej ze wszystkich merytorycznych przepisów AI Act, razem z obowiązkiem kompetencji AI opisanym w artykule Art. 4, kompetencje AI.
Dla typowej małej lub średniej firmy w Polsce ta lista ma znaczenie głównie prewencyjne: pokazuje granicę, za którą nie wolno przejść przy projektowaniu narzędzi marketingowych, scoringowych czy rekrutacyjnych opartych na AI.
Pełna lista praktyk niedopuszczalnych
Manipulacja podprogowa i wykorzystywanie słabości
Zakazane jest stosowanie technik manipulacji podprogowej, wykraczających poza świadomość danej osoby, lub celowo manipulacyjnych czy wprowadzających w błąd technik, które w istotny sposób zniekształcają zachowanie osoby lub grupy osób, powodując lub mogąc powodować u niej lub u innej osoby szkodę. Podobnie zakazane jest wykorzystywanie słabości związanych z wiekiem, niepełnosprawnością lub trudną sytuacją społeczną lub ekonomiczną danej osoby lub grupy osób.
Scoring społeczny
Zakazana jest ocena lub klasyfikacja osób fizycznych lub grup osób w danym okresie na podstawie ich zachowania społecznego lub znanych, wywnioskowanych albo przewidywanych cech osobistych, jeśli prowadzi to do szkodliwego lub niekorzystnego traktowania w kontekście niezwiązanym z okolicznościami, w jakich dane zostały pierwotnie zebrane, lub traktowania nieproporcjonalnego do wagi zachowania.
Ocena ryzyka popełnienia przestępstwa na podstawie profilowania
Zakazane jest stosowanie systemów AI do oceny lub przewidywania ryzyka popełnienia przestępstwa przez osobę fizyczną wyłącznie na podstawie profilowania jej cech osobowości lub cech charakterystycznych, bez obiektywnych, weryfikowalnych faktów bezpośrednio związanych z działalnością przestępczą.
Nieukierunkowane pobieranie wizerunków twarzy
Zakazane jest tworzenie lub rozszerzanie baz danych rozpoznawania twarzy poprzez nieukierunkowane pobieranie wizerunków twarzy z internetu lub nagrań z kamer monitoringu (CCTV).
Rozpoznawanie emocji w pracy i edukacji
Zakazane jest stosowanie systemów AI do wnioskowania o emocjach osoby fizycznej w miejscu pracy oraz w instytucjach edukacyjnych, z wąskim wyjątkiem dla zastosowań medycznych lub związanych z bezpieczeństwem.
Kategoryzacja biometryczna wrażliwych cech
Zakazane jest stosowanie systemów kategoryzacji biometrycznej, które klasyfikują osoby fizyczne indywidualnie na podstawie danych biometrycznych w celu wywnioskowania lub wywnioskowania rasy, poglądów politycznych, przynależności do związków zawodowych, przekonań religijnych lub światopoglądowych, życia seksualnego lub orientacji seksualnej.
Biometria czasu rzeczywistego w przestrzeni publicznej
Zakazane jest, co do zasady, stosowanie systemów zdalnej identyfikacji biometrycznej w czasie rzeczywistym w przestrzeniach publicznie dostępnych do celów egzekwowania prawa. Rozporządzenie przewiduje tu wąskie wyjątki, dopuszczone wyłącznie dla organów ścigania, m.in. przy poszukiwaniu ofiar konkretnych przestępstw, zapobieganiu konkretnemu, poważnemu i bezpośredniemu zagrożeniu życia, lub identyfikacji osoby podejrzanej o poważne przestępstwo, każdorazowo pod rygorystycznymi warunkami proceduralnymi i, zwykle, wymogiem zgody sądu lub organu niezależnego.
Tabela: praktyka a przykład zastosowania, którego unikać
| Praktyka zakazana | Przykład sytuacji, która mogłaby naruszyć zakaz |
|---|---|
| Manipulacja podprogowa | Reklama wykorzystująca techniki oddziałujące poniżej progu świadomej percepcji odbiorcy |
| Scoring społeczny | Ocena “wiarygodności” klienta na podstawie niepowiązanych z transakcją danych z mediów społecznościowych |
| Wykorzystywanie słabości | Kierowanie ofert kredytowych do osób w trudnej sytuacji finansowej w sposób celowo pogłębiający ich zadłużenie |
| Rozpoznawanie emocji w pracy | Analiza mimiki pracowników podczas rozmów z klientami w celu oceny ich “zaangażowania” |
| Nieukierunkowane pobieranie wizerunków | Budowa własnej bazy rozpoznawania twarzy przez masowe pobieranie zdjęć z internetu |
Częsty błąd: przekonanie, że skoro firma “nie robi nic złego z premedytacją”, to zakazy z art. 5 jej nie dotyczą. Zakaz działa niezależnie od intencji, liczy się faktyczny mechanizm działania systemu i jego skutek dla osób, wobec których jest stosowany.
Dlaczego ta kategoria nie ma poziomów pośrednich
W przeciwieństwie do systemów wysokiego ryzyka, gdzie odpowiednia dokumentacja i nadzór pozwalają legalnie stosować dane rozwiązanie, praktyki z art. 5 są zakazane bez względu na to, jak dobrze udokumentowane, przejrzyste czy nadzorowane przez człowieka byłyby. Ustawodawca uznał, że skutki tych praktyk (naruszenie godności, dyskryminacja, masowa inwigilacja) są na tyle poważne, że żadna procedura zgodności nie usprawiedliwia ich stosowania.
Jak to się ma do zwykłych narzędzi marketingowych i HR
Większość MŚP nie projektuje systemów AI od podstaw, tylko korzysta z gotowych narzędzi zewnętrznych dostawców do marketingu, obsługi klienta czy rekrutacji. Ryzyko naruszenia art. 5 pojawia się rzadko, ale nie jest zerowe, głównie w dwóch sytuacjach: przy wdrażaniu narzędzi do “scoringu” klientów opartych na danych niezwiązanych z celem, w jakim zostały zebrane, oraz przy narzędziach analizujących emocje lub mimikę pracowników czy kandydatów w rekrutacji, co wprost wpada w zakazaną kategorię rozpoznawania emocji w miejscu pracy. Przed wdrożeniem jakiegokolwiek narzędzia opartego na profilowaniu warto sprawdzić, na jakiej podstawie ono działa, nie tylko jaki efekt marketingowy obiecuje dostawca.
Najczęściej zadawane pytania
Czy zwykły system rekomendacji produktów może naruszyć zakaz manipulacji?
W typowym zastosowaniu nie. Granica przebiega między personalizacją oferty (dozwoloną) a technikami oddziałującymi poza świadomością odbiorcy w sposób wywołujący szkodę. Standardowe rekomendacje “klienci kupili też” nie są tego rodzaju praktyką.
Czy monitoring pracowników przez AI zawsze jest zakazany?
Nie każdy monitoring, tylko konkretnie rozpoznawanie emocji pracowników. Inne formy monitorowania wydajności czy zgodności z procedurami mogą podlegać innym przepisom (w tym kategorii wysokiego ryzyka), ale niekoniecznie samemu zakazowi z art. 5.
Jaka kara grozi za naruszenie zakazanych praktyk?
To najwyższy próg kar w całym rozporządzeniu: do 35 milionów euro lub 7% globalnego rocznego obrotu firmy, w zależności od tego, która kwota jest wyższa. Dla MŚP i startupów art. 99 ust. 6 każe stosować kwotę niższą. Pełne rozbicie progów opisuje artykuł Kary za naruszenie AI Act.
Od kiedy obowiązuje zakaz praktyk niedopuszczalnych?
Od 2 lutego 2025. Pełny harmonogram wejścia w życie poszczególnych przepisów rozporządzenia znajdziesz w artykule Kalendarz wejścia w życie AI Act.