AI w aplikacji mobilnej: AI Act to nie jedyna zasada, której musisz przestrzegać

Aplikacja mobilna z funkcjami AI (rekomendacje, chatbot wbudowany w appkę, generowanie treści, personalizacja) podlega AI Act dokładnie tak samo jak strona internetowa, ale ma dodatkową warstwę, o której łatwo zapomnieć: sklepy aplikacji, App Store od Apple i Google Play, mają własne, odrębne polityki dotyczące funkcji AI, niezależne od unijnego rozporządzenia i często bardziej szczegółowe w niektórych obszarach. Dla twórcy aplikacji oznacza to konieczność spełnienia dwóch różnych zestawów wymogów jednocześnie.

Typowe funkcje AI w aplikacjach mobilnych

Najczęstsze zastosowania AI w polskich aplikacjach mobilnych to:

  • Chatbot albo asystent wbudowany w appkę, odpowiadający na pytania użytkownika.
  • Silnik rekomendacji (treści, produktów, dopasowanych ofert) dostosowany do zachowania użytkownika.
  • Generowanie treści w aplikacji: opisy, podsumowania, grafiki tworzone na żądanie użytkownika.
  • Funkcje personalizacji interfejsu i doświadczenia użytkownika oparte na uczeniu maszynowym.

Podobnie jak w innych scenariuszach opisanych w tej bazie wiedzy, większość z tych funkcji mieści się w kategorii ograniczonego albo minimalnego ryzyka, zgodnie z podziałem opisanym w artykule Cztery poziomy ryzyka w AI Act. Wysokie ryzyko pojawia się rzadziej, głównie jeśli aplikacja ocenia lub profiluje użytkowników w sposób mający istotny wpływ na ich sytuację (np. aplikacja do oceny zdolności kredytowej czy rekrutacji).

AI Act: co dotyczy aplikacji mobilnej

Zasady są te same co dla strony internetowej, tylko przeniesione na kontekst appki:

  • Jeśli aplikacja ma wbudowanego chatbota AI, użytkownik musi wiedzieć, że rozmawia z systemem AI, analogicznie do zasad opisanych w artykule Jak oznaczyć chatbota zgodnie z art. 50.
  • Jeśli aplikacja generuje treści (obraz, tekst prezentowany jako informacja) na żądanie użytkownika i te treści są udostępniane dalej (np. eksportowane, publikowane), powinny nieść odpowiednie oznaczenie.
  • Zespół tworzący i utrzymujący aplikację podlega obowiązkowi kompetencji z art. 4, dokładnie tak samo jak zespół tworzący stronę internetową.

Polityki sklepów aplikacji: dodatkowa, odrębna warstwa

To jest element specyficzny wyłącznie dla aplikacji mobilnych, nieobecny przy stronach internetowych. Apple i Google mają własne wytyczne dotyczące funkcji generatywnych AI w aplikacjach, obejmujące między innymi:

  • Wymogi dotyczące moderacji treści generowanych przez użytkowników z pomocą AI w aplikacji (np. filtrowanie treści nieodpowiednich).
  • Obowiązek jasnego opisania w karcie aplikacji w sklepie, jakie funkcje AI aplikacja zawiera.
  • Osobne zasady dotyczące aplikacji, w których AI generuje treści wizerunkowe (np. edycja zdjęć twarzy), traktowane przez sklepy szczególnie ostrożnie.

Najczęstszy błąd twórców aplikacji to skupienie się wyłącznie na AI Act i pominięcie wymogów sklepu aplikacji, co skutkuje odrzuceniem aplikacji przy publikacji albo aktualizacji, zupełnie niezależnie od zgodności z unijnym rozporządzeniem. Te dwa zestawy wymogów trzeba sprawdzać osobno, bo żaden z nich nie zastępuje drugiego.

Na co zwrócić uwagę przy projektowaniu funkcji AI w aplikacji

Kilka praktycznych zasad, które warto uwzględnić już na etapie projektowania, a nie dopisywać na końcu:

  1. Zaprojektuj wbudowane oznaczenie funkcji AI (np. etykieta “AI” przy elemencie interfejsu, komunikat przy pierwszym uruchomieniu funkcji) zamiast zostawiać to do ręcznej konfiguracji przez zespół marketingu na później.
  2. Sprawdź aktualne wytyczne sklepu aplikacji dotyczące AI przed wysłaniem aplikacji do publikacji, bo te wytyczne zmieniają się częściej niż przepisy prawa.
  3. Jeśli aplikacja pozwala użytkownikom generować i udostępniać treści (np. grafiki, awatary), zaplanuj mechanizm oznaczania tych treści jako syntetycznych przy eksporcie czy publikacji poza aplikacją.
  4. Udokumentuj funkcje AI w aplikacji w wewnętrznym rejestrze, tak samo jak dla innych systemów AI używanych w firmie, zobacz Rejestr systemów AI.

Porównanie: strona internetowa a aplikacja mobilna

Aspekt Strona internetowa Aplikacja mobilna
AI Act Dotyczy w pełni Dotyczy w pełni, bez różnic
Dodatkowe wymogi platformy Brak, poza ogólnymi zasadami hostingu Wytyczne App Store i Google Play dotyczące AI
Aktualizacja oznaczeń Można zmienić od razu Wymaga często nowej wersji aplikacji i procesu akceptacji
Ryzyko odrzucenia publikacji Nie dotyczy Realne, jeśli funkcje AI nie spełniają polityk sklepu

Ostatni wiersz tej tabeli ma praktyczne znaczenie dla harmonogramu: zmiana oznaczenia AI na stronie internetowej to kwestia minut, w aplikacji mobilnej może oznaczać kilka dni oczekiwania na akceptację nowej wersji w sklepie, więc warto planować te zmiany z odpowiednim wyprzedzeniem.

Aktualizacje aplikacji a szybkość reagowania na zmiany prawne

Warto zaplanować z wyprzedzeniem, jak Twój zespół zareaguje, jeśli w przyszłości zmieni się wymóg dotyczący oznaczeń AI, albo sklep aplikacji zaktualizuje swoją politykę. W przeciwieństwie do strony internetowej, gdzie poprawka trafia do użytkowników natychmiast po wdrożeniu, w aplikacji mobilnej zmiana wymaga zbudowania nowej wersji, przejścia przez proces akceptacji sklepu (który może potrwać od kilku godzin do kilku dni) i czekania, aż użytkownicy faktycznie zaktualizują aplikację na swoich telefonach. Ten opóźniony cykl wdrożeniowy to dobry argument, żeby projektować oznaczenia AI jako elastyczny element interfejsu (np. tekst pobierany z konfiguracji zdalnej), a nie na sztywno wpisany w kod aplikacji, co ułatwia szybkie poprawki bez czekania na pełny cykl publikacji nowej wersji.

Co zrobić w praktyce

Zacznij od inwentaryzacji funkcji AI w aplikacji i sprawdzenia, które z nich wymagają oznaczenia zgodnie z AI Act. Następnie porównaj to z aktualnymi wytycznymi sklepu, w którym publikujesz aplikację. Na końcu upewnij się, że zespół projektowy i deweloperski przeszedł podstawowe szkolenie z art. 4, obejmujące specyfikę pracy z funkcjami AI w aplikacji. Jeśli Twoja firma ma też stronę internetową promującą aplikację, warto sprawdzić jej zgodność audytem strony.

Najczęściej zadawane pytania

Czy AI Act inaczej traktuje aplikacje mobilne niż strony internetowe?

Nie, zasady są te same, niezależnie od platformy. Różnica leży w dodatkowych wymogach sklepów aplikacji, które nie wynikają z AI Act, tylko z osobnych polityk Apple i Google.

Co jeśli moja aplikacja tylko korzysta z gotowego API do generowania treści, bez własnego modelu?

Nadal odpowiadasz jako dostawca własnej aplikacji za to, jak funkcje AI są prezentowane użytkownikowi, w tym za odpowiednie oznaczenia, niezależnie od tego, czyj model działa pod spodem. Więcej o tym rozróżnieniu w artykule AI Act dla firm SaaS budujących na API.

Czy sklepy aplikacji same sprawdzają zgodność z AI Act?

Nie, sklepy aplikacji weryfikują zgodność ze swoimi własnymi politykami, nie z unijnym rozporządzeniem. Zgodność z AI Act pozostaje odrębnym obowiązkiem prawnym niezależnie od tego, czy aplikacja przeszła weryfikację sklepu.

Jak często zmieniają się polityki AI sklepów aplikacji?

Częściej niż przepisy prawa, czasem kilka razy w roku. Dobrą praktyką jest sprawdzanie aktualnych wytycznych przed każdą większą aktualizacją aplikacji zawierającą zmiany w funkcjach AI, nie poleganie na wiedzy sprzed kilku miesięcy.