Dlaczego definicja w ogóle ma znaczenie
Zanim jakikolwiek obowiązek z AI Act zacznie mieć zastosowanie, musi być spełniony warunek wstępny: to, czego firma używa, musi być “systemem AI” w rozumieniu rozporządzenia. Brzmi to jak formalność, ale w praktyce rozstrzyga, czy zwykły skrypt liczący rabaty w sklepie internetowym podlega tym samym zasadom co chatbot oparty na modelu językowym. Nie podlega, i warto rozumieć dlaczego.
Definicja z rozporządzenia, w uproszczeniu
AI Act definiuje system AI jako system maszynowy, który działa z pewnym poziomem autonomii, może wykazywać zdolność adaptacji po wdrożeniu i który, na podstawie otrzymanych danych wejściowych, generuje wyniki takie jak przewidywania, treści, rekomendacje lub decyzje, mogące wpływać na środowiska fizyczne lub wirtualne. Trzy elementy w tej definicji robią całą robotę:
- Autonomia: system podejmuje pewien zakres działań bez bezpośredniej, krokowej instrukcji człowieka na każdym etapie.
- Wnioskowanie na podstawie danych wejściowych: wynik nie jest z góry zaprogramowaną odpowiedzią na każdy możliwy wariant wejścia, tylko efektem modelu, który uogólnia na podstawie danych.
- Wpływ na wynik: system faktycznie coś generuje: przewidywanie, treść, rekomendację lub decyzję, która ma znaczenie dla dalszego działania.
Czym różni się od zwykłego oprogramowania
Klasyczny program komputerowy, w tym rozbudowany system reguł typu “jeśli warunek A, to akcja B” (if-else), nie jest systemem AI w rozumieniu rozporządzenia, nawet jeśli zawiera setki takich reguł. Kluczowa różnica leży w tym, że logika takiego systemu jest w pełni zdefiniowana przez programistę z góry: dla każdego możliwego wejścia istnieje jednoznacznie zaprogramowana ścieżka wyjścia. System AI, w przeciwieństwie do tego, wyprowadza swoje wyniki z wzorców wyuczonych na danych (uczenie maszynowe) albo z modeli wnioskujących w sposób nieliniowy, którego pełnej ścieżki decyzyjnej programista nie zapisał ręcznie.
Prosty przykład: kalkulator rabatu, który odejmuje 10% od ceny, jeśli klient wpisze kod promocyjny, to zwykłe oprogramowanie. System, który na podstawie historii zakupów, pory dnia i zachowania na stronie przewiduje, jaki rabat najskuteczniej skłoni danego klienta do zakupu, to już, przy odpowiedniej konstrukcji, system AI.
Co się łapie, a co nie
| Przykład | System AI? | Uzasadnienie |
|---|---|---|
| Chatbot oparty na modelu językowym (GPT, Claude) | Tak | Generuje odpowiedzi na podstawie wnioskowania, nie z góry zapisanej listy odpowiedzi |
| Formularz kontaktowy z regułą “jeśli pole puste, pokaż błąd” | Nie | W pełni zdefiniowana logika warunkowa, zero wnioskowania |
| Silnik rekomendacji produktów uczący się na zachowaniu użytkowników | Tak | Wynik zależy od wzorców wyuczonych na danych, nie ze sztywnej reguły |
| Arkusz kalkulacyjny z formułami | Nie | Deterministyczne obliczenia według jawnie zapisanych wzorów |
| Narzędzie generujące grafiki reklamowe (Midjourney, DALL-E) | Tak | Generuje nową treść na podstawie wnioskowania z promptu |
| Filtr antyspamowy oparty na prostej liście słów kluczowych | Zależy | Filtr oparty wyłącznie na sztywnej liście słów raczej nie, filtr uczący się na podstawie klasyfikacji wiadomości zwykle tak |
| System oceny CV kandydatów uczący się na wzorcach zatrudnień | Tak | Klasyczny przykład systemu AI, dodatkowo wysokiego ryzyka |
Dlaczego to rozróżnienie bywa mylące w praktyce
Wiele narzędzi marketowanych jako “AI” przez producentów w rzeczywistości łączy elementy klasycznego oprogramowania z komponentami uczenia maszynowego, np. system CRM z wbudowanym modułem sugestii treści maila. W takich przypadkach dla celów AI Act liczy się konkretna funkcja, z której korzysta firma, a nie cała etykieta produktu. Z drugiej strony, niektóre systemy nazwane przez marketing prościej niż “AI” (np. “inteligentne rekomendacje”) mogą technicznie spełniać definicję, jeśli faktycznie wnioskują na podstawie danych. Więcej o tym, jak to rozróżnienie wpływa na przypisanie poziomu ryzyka, opisuje artykuł Cztery poziomy ryzyka w AI Act.
Częsty błąd: ocena “to na pewno nie AI” na podstawie samej nazwy narzędzia albo tego, jak proste wydaje się jego działanie. Definicja z rozporządzenia patrzy na mechanizm działania (wnioskowanie z danych), nie na markę czy prostotę interfejsu.
Skąd wzięła się ta definicja
Definicja z rozporządzenia jest w dużej mierze wzorowana na definicji wypracowanej przez OECD (Organizację Współpracy Gospodarczej i Rozwoju), zaktualizowanej w toku prac nad AI Act, żeby uwzględnić rozwój modeli generatywnych, które nie istniały jeszcze w pierwotnych wersjach projektu rozporządzenia. To nie przypadek: ustawodawca unijny świadomie oparł się na już istniejącym, międzynarodowym konsensusie technicznym, zamiast tworzyć od zera własną, izolowaną definicję, co miało ułatwić spójność regulacyjną z innymi jurysdykcjami pracującymi nad podobnymi przepisami.
Dlaczego to rozróżnienie wpływa na obowiązki dostawcy i stosującego
Jeśli narzędzie nie spełnia definicji systemu AI, żadne obowiązki z rozporządzenia w ogóle nie mają zastosowania, niezależnie od tego, czy jest to firma pełniąca rolę dostawcy czy stosującego, opisaną w artykule Dostawca vs stosujący. Dlatego pierwszym krokiem każdej inwentaryzacji narzędzi w firmie powinno być ustalenie, które z używanych rozwiązań faktycznie są systemami AI w tym prawnym sensie, a które to zwykłe, zautomatyzowane oprogramowanie.
Najczęściej zadawane pytania
Czy Excel z zaawansowanymi formułami to system AI?
Nie. Arkusz kalkulacyjny, niezależnie od złożoności formuł, działa według w pełni zdefiniowanej logiki matematycznej, bez wnioskowania na podstawie wyuczonych wzorców.
Czy prosty chatbot z drzewkiem decyzyjnym (przyciski, nie wolny tekst) to system AI?
Zwykle nie, jeśli odpowiedzi są z góry zaprogramowaną ścieżką wyboru opcji, bez generowania nowych treści ani wnioskowania. Granica bywa cienka, jeśli taki chatbot dodatkowo klasyfikuje intencję użytkownika przy pomocy modelu uczenia maszynowego.
Kto ostatecznie rozstrzyga, czy dane narzędzie to system AI?
W praktyce ocenę przeprowadza się na podstawie definicji z rozporządzenia i wytycznych Komisji Europejskiej. W granicznych, niejednoznacznych przypadkach warto skonsultować się z prawnikiem, zamiast opierać decyzję wyłącznie na marketingowej nazwie narzędzia.
Czy definicja systemu AI jest taka sama we wszystkich przepisach UE?
Nie zawsze. AI Act ma własną definicję, częściowo spójną z definicją OECD, na której się wzorowano, ale inne akty prawne (np. dotyczące danych czy odpowiedzialności cywilnej) mogą posługiwać się nieco innym zakresem pojęciowym.