Podejście oparte na ryzyku, nie na technologii
AI Act nie pyta, jaki algorytm stoi za systemem AI, tylko do czego ten system służy i jakie realne skutki może mieć jego działanie. To fundamentalna różnica względem regulacji, które próbowałyby zdefiniować “sztuczną inteligencję” technicznie i objąć ją jednym zestawem zasad. Zamiast tego rozporządzenie dzieli zastosowania na cztery poziomy ryzyka i do każdego dopina inny zestaw obowiązków, od zera do pełnej certyfikacji.
Ten wybór ma konkretną konsekwencję dla firm: system AI sam w sobie nie jest “zgodny” albo “niezgodny” z AI Act. Zgodny albo niezgodny jest konkretny sposób jego użycia. Ten sam model językowy może być systemem minimalnego ryzyka (używany do sugerowania tematów bloga) albo systemem wysokiego ryzyka (użyty do automatycznej selekcji CV kandydatów do pracy) w zależności wyłącznie od kontekstu zastosowania.
Poziom 1: ryzyko niedopuszczalne
Praktyki z tej kategorii są zakazane bez wyjątku, niezależnie od tego, kto je stosuje i w jakim celu. Zakaz obowiązuje od 2 lutego 2025. Przykłady:
- scoring społeczny obywateli przez organy publiczne na podstawie zachowania lub cech osobistych,
- manipulacja podprogowa wykraczająca poza świadomość osoby, wpływająca na jej decyzje w sposób szkodliwy,
- wykorzystywanie słabości określonych grup (wiek, niepełnosprawność, sytuacja ekonomiczna) do zniekształcania ich zachowań,
- masowe, nieukierunkowane pobieranie wizerunków twarzy z internetu lub nagrań CCTV do baz rozpoznawania twarzy.
Pełną listę i szczegóły opisuje artykuł Zakazane praktyki AI. Dla typowej firmy usługowej ta kategoria ma znaczenie głównie negatywne: warto wiedzieć, czego unikać przy projektowaniu systemów scoringu klientów czy narzędzi marketingowych opartych na profilowaniu emocjonalnym.
Poziom 2: ryzyko wysokie
Systemy dopuszczone do użytku, ale obwarowane rozbudowanymi obowiązkami: oceną zgodności przed wprowadzeniem na rynek, dokumentacją techniczną, rejestracją w unijnej bazie, nadzorem człowieka i systemem zarządzania ryzykiem przez cały cykl życia produktu. Załącznik III do rozporządzenia wymienia konkretne obszary, m.in.:
- rekrutacja i selekcja kandydatów do pracy,
- ocena zdolności kredytowej i scoring finansowy,
- systemy stosowane w edukacji do oceniania uczniów lub kwalifikowania na studia,
- infrastruktura krytyczna (zarządzanie ruchem drogowym, sieciami energetycznymi, wodociągami),
- ochrona zdrowia w kontekście diagnostyki i triażu pacjentów,
- egzekwowanie prawa i zarządzanie migracją.
Pełne rozwinięcie tej kategorii, wraz z wyjaśnieniem, dlaczego większość MŚP w nią nie wchodzi, znajdziesz w artykule Systemy wysokiego ryzyka.
Poziom 3: ryzyko ograniczone
Tu mieści się zdecydowana większość realnych zastosowań AI w małych i średnich firmach: chatboty, systemy generujące treści (tekst, grafikę, wideo, audio), rozwiązania rozpoznające emocje w niektórych kontekstach oraz systemy kategoryzacji biometrycznej. Obowiązek jest jeden, ale konkretny: przejrzystość. Użytkownik musi wiedzieć, że ma do czynienia z AI, a treści syntetyczne muszą być odpowiednio oznaczone. Szczegóły reguluje art. 50, opisany w artykule Art. 50, obowiązki przejrzystości.
Poziom 4: ryzyko minimalne
Zdecydowana większość systemów AI na rynku, od filtrów spamu po silniki rekomendacji produktów w sklepie internetowym, mieści się w tej kategorii. Rozporządzenie nie nakłada tu dodatkowych obowiązków ponad te ogólne (jak art. 4 dotyczący kompetencji zespołu, który obowiązuje niezależnie od poziomu ryzyka konkretnego systemu). Ustawodawca zachęca w tej kategorii do dobrowolnych kodeksów postępowania, ale nie są one wymogiem prawnym.
Zestawienie czterech poziomów
| Poziom | Status prawny | Typowy przykład | Główny obowiązek |
|---|---|---|---|
| Niedopuszczalne | Zakaz stosowania | Scoring społeczny, manipulacja podprogowa | Brak, praktyka jest zabroniona |
| Wysokie | Dopuszczone, silnie regulowane | Rekrutacja, scoring kredytowy | Ocena zgodności, dokumentacja, nadzór człowieka |
| Ograniczone | Dopuszczone, obowiązek informacyjny | Chatbot, generowana grafika | Ujawnienie kontaktu z AI (art. 50) |
| Minimalne | Dopuszczone bez dodatkowych wymogów | Filtr spamu, rekomendacje produktów | Brak, poza obowiązkami ogólnymi (art. 4) |
Częsty błąd w interpretacji: firmy zakładają, że skoro ich system AI “tylko sugeruje”, a decyzję zawsze podejmuje człowiek, to automatycznie ląduje w kategorii minimalnego ryzyka. To nieprawda dla systemów z załącznika III, gdzie nawet wspomagająca rola AI w decyzji o zatrudnieniu czy kredycie wystarcza, żeby system uznać za wysokiego ryzyka.
Dlaczego to podejście, a nie blankietowy zakaz
Alternatywą dla podejścia opartego na ryzyku byłby albo całkowity zakaz określonych technologii (co zablokowałoby też ich pożyteczne zastosowania), albo jeden zestaw zasad dla wszystkich systemów AI (co przeciążyłoby obowiązkami drobne, niegroźne narzędzia i jednocześnie mogłoby być zbyt łagodne dla systemów faktycznie ryzykownych). Podejście warstwowe pozwala skoncentrować najcięższe obowiązki tam, gdzie błąd systemu AI realnie krzywdzi konkretną osobę, np. przy odrzuceniu kandydata do pracy albo przy błędnej ocenie zdolności kredytowej, a jednocześnie nie obciąża firmy używającej AI wyłącznie do sugerowania tematów newslettera.
Najczęściej zadawane pytania
Czy jeden system AI może zmienić poziom ryzyka w zależności od użycia?
Tak. To samo narzędzie, np. ogólny model językowy, może być minimalnego ryzyka przy jednym zastosowaniu i wysokiego ryzyka przy innym. Poziom ryzyka przypisuje się do konkretnego zastosowania, nie do samej technologii.
Który poziom dotyczy typowej małej firmy w Polsce?
W praktyce dwa: ograniczone (chatbot, generowane treści) i, rzadziej, wysokie (jeśli AI wspiera decyzje rekrutacyjne albo kredytowe). Minimalne ryzyko dotyczy licznych narzędzi wspomagających, z których większość firm korzysta bez świadomości, że w ogóle podlegają AI Act.
Czy warto samodzielnie klasyfikować własne systemy AI do poziomów ryzyka?
Warto zacząć od inwentaryzacji: jakie narzędzia AI firma faktycznie wykorzystuje i do czego. Klasyfikacja graniczna, zwłaszcza przy podejrzeniu wysokiego ryzyka, powinna być skonsultowana z osobą znającą tekst rozporządzenia, bo konsekwencje błędnej oceny są poważniejsze niż przy pozostałych poziomach.
Czy poziom minimalnego ryzyka oznacza brak jakichkolwiek obowiązków?
Nie do końca. Obowiązek kompetencji AI z art. 4 dotyczy zespołu obsługującego dowolny system AI, niezależnie od jego poziomu ryzyka. Sam system może nie wymagać dodatkowych działań, ale ludzie, którzy go używają, nadal powinni rozumieć jego ograniczenia.