Najczęstszy scenariusz, o którym nikt nie myśli

Kiedy firmy słyszą “AI Act”, pierwsze skojarzenie to zwykle chatbot na stronie albo generowane grafiki. Tymczasem najczęstszy realny kontakt polskich firm z AI wygląda zupełnie inaczej: ktoś w zespole otwiera ChatGPT, Copilota albo Claude, żeby napisać ofertę, odpowiedzieć na maila klienta albo przygotować szkic pisma. To narzędzie pracy wewnętrznej, nie produkt publikowany na zewnątrz, i właśnie dlatego łatwo przeoczyć, że i tak podlega ono rozporządzeniu, tylko w innym miejscu niż się spodziewasz.

Dlaczego to nie jest obowiązek oznaczania

Dobra wiadomość na start: jeśli używasz ChatGPT do napisania oferty czy maila, który potem sam czytasz, poprawiasz i wysyłasz pod swoim nazwiskiem, nie musisz dopisywać klientowi informacji “ten e-mail został wygenerowany przez AI”. Obowiązek oznaczania treści syntetycznych z art. 50 dotyczy głównie treści prezentowanych jako informacja publiczna, obrazu, wideo i audio, nie zwykłej korespondencji biznesowej czy ofert handlowych. Pełny zakres tego obowiązku opisuje artykuł Art. 50: obowiązek przejrzystości.

To rozróżnia ten scenariusz od chatbota na stronie, opisanego w artykule Mam chatbota na stronie: kompletny scenariusz, gdzie klient wchodzi w bezpośrednią interakcję z systemem AI i musi wiedzieć, że rozmawia z maszyną.

To, co naprawdę ma znaczenie: art. 4

Właściwym obowiązkiem w tym scenariuszu jest art. 4 AI Act, dotyczący kompetencji zespołu w zakresie AI, obowiązujący od lutego 2025. Każda osoba w firmie korzystająca z ChatGPT, Copilota czy podobnego narzędzia w pracy powinna rozumieć podstawy jego działania, w tym:

  • Że model może z pełnym przekonaniem podać nieprawdziwą informację (tzw. halucynacja), np. wymyślić nieistniejący przepis, cenę czy dane kontaktowe.
  • Że odpowiedzialność za treść wysłanej oferty czy e-maila pozostaje po stronie osoby, która go wysłała, niezależnie od tego, czy tekst napisał człowiek, czy AI.
  • Że model nie ma dostępu do aktualnych, wewnętrznych danych firmy, chyba że zostały mu wprost podane w prompcie, więc nie należy zakładać, że “wie”, jaka jest aktualna oferta czy cennik.

Praktyczny sposób zaprojektowania takiego szkolenia, wraz z dokumentacją potwierdzającą jego przeprowadzenie, opisuje artykuł Szkolenie zespołu z art. 4.

Najczęstszy błąd w tym scenariuszu to traktowanie ChatGPT jako narzędzia niewymagającego żadnego przygotowania, bo “przecież każdy umie go używać”. W praktyce umiejętność wpisania pytania to nie to samo co rozumienie, kiedy odpowiedzi nie można ufać.

Poufność danych klienta w promptach

Drugi, równie ważny wątek tego scenariusza: co dzieje się z danymi klienta, które trafiają do treści promptu. Jeśli ktoś w zespole wkleja do ChatGPT fragment korespondencji z klientem, dane osobowe, warunki umowy czy szczegóły oferty, żeby AI pomogło napisać odpowiedź, te dane trafiają poza firmę, do serwerów zewnętrznego dostawcy.

To nie jest bezpośrednio kwestia regulowana przez AI Act, tylko przez RODO i zwykłą politykę bezpieczeństwa danych firmy, ale w praktyce jest to ryzyko, które pojawia się dokładnie w tym samym momencie co obowiązek kompetencji z art. 4, więc warto omówić je razem, przy tym samym szkoleniu zespołu.

Praktyczna zasada, łatwa do wdrożenia bez dużych zmian organizacyjnych:

Rodzaj danych w prompcie Ryzyko Zalecenie
Ogólny szkic oferty bez danych klienta Niskie Można używać swobodnie
Fragment maila z danymi kontaktowymi klienta Średnie Usuń dane osobowe przed wklejeniem, jeśli to możliwe
Warunki umowy, ceny negocjowane indywidualnie, dane wrażliwe Wysokie Unikaj wklejania bez wersji biznesowej narzędzia z umową o przetwarzaniu danych

Kto w firmie powinien o tym wiedzieć

W praktyce ten scenariusz dotyczy najszerszej grupy osób w firmie: handlowców piszących oferty, obsługi klienta odpowiadającej na maile, asystentów administracyjnych przygotowujących pisma. To dokładnie odwrotność sytuacji z chatbotem na stronie, gdzie temat dotyczy głównie jednej osoby technicznej odpowiedzialnej za wdrożenie widgetu. Tutaj każdy, kto ma dostęp do ChatGPT czy podobnego narzędzia, powinien znać podstawowe zasady.

Narzędzia z historią rozmów: dodatkowe ryzyko

Wiele osób nie zdaje sobie sprawy, że popularne narzędzia AI domyślnie zapisują historię rozmów, czasem wykorzystywaną do dalszego trenowania modelu, jeśli nie zostanie to świadomie wyłączone w ustawieniach konta. Oznacza to, że dane klienta wklejone do prompta miesiąc temu mogą wciąż istnieć w historii konta firmowego, dostępnej dla każdego, kto ma do niego dostęp, nawet jeśli dana osoba już nie pracuje nad tym klientem. Warto sprawdzić ustawienia prywatności i historii w narzędziu, którego używa zespół, i rozważyć regularne czyszczenie historii rozmów zawierających dane klientów, szczególnie w przypadku kont współdzielonych przez kilka osób.

Co zrobić w praktyce

  1. Sprawdź, kto w zespole faktycznie używa AI do pisania ofert i maili, nawet jeśli robi to nieformalnie, bez wiedzy przełożonego (tzw. Shadow AI w firmie).
  2. Zorganizuj krótkie szkolenie, obejmujące zarówno ograniczenia AI (halucynacje), jak i zasady poufności danych klienta w promptach.
  3. Rozważ przejście na wersję biznesową narzędzia AI z umową o przetwarzaniu danych, jeśli zespół regularnie pracuje na danych klientów.
  4. Udokumentuj przeprowadzone szkolenie, żeby mieć dowód spełnienia obowiązku z art. 4 na wypadek kontroli.

Jeśli chcesz sprawdzić, jakie braki widać już na poziomie samej strony firmy, przydatny będzie audyt strony, a gotowy moduł szkolenia z art. 4 znajdziesz w Pakiecie Zgodności.

Najczęściej zadawane pytania

Czy muszę informować klienta, że ofertę pomógł napisać ChatGPT?

Nie, o ile treść przechodzi przez Twoją weryfikację i jest wysyłana jako Twoja oferta handlowa, nie jako publikowana informacja czy treść dziennikarska. To inny scenariusz niż chatbot czy publikowana treść generowana.

Czy każdy pracownik musi przejść osobne szkolenie z art. 4?

Wystarczy, że firma zapewni odpowiednie kompetencje wszystkim osobom faktycznie korzystającym z narzędzi AI w pracy. Może to być jedno wspólne szkolenie dla całego zespołu, o ile obejmuje realne scenariusze użycia w danej firmie.

Czy da się bezpiecznie wklejać dane klienta do ChatGPT?

Zależy od wersji narzędzia. Wersje biznesowe z odpowiednią umową o przetwarzaniu danych dają większe gwarancje niż darmowa wersja konsumencka. Niezależnie od wersji, dobrą praktyką jest ograniczanie ilości danych osobowych wklejanych do promptu do niezbędnego minimum.

Co jeśli AI wygeneruje błędną informację w ofercie, którą wyślę klientowi?

Odpowiedzialność za treść wysłanej oferty pozostaje po stronie firmy i osoby, która ją wysłała, niezależnie od narzędzia użytego do jej napisania. Dlatego szkolenie z ograniczeń AI, w tym ryzyka halucynacji, ma realne znaczenie praktyczne, nie tylko formalne.