Dziewięć rozdziałów o AI w prawie UE.
Kancelarii wystarczą trzy.

W poniedziałek rano przedsiębiorca nie może zapłacić dostawcom, bo bank zablokował mu rachunek. Blokady zażądał Szef Krajowej Administracji Skarbowej, bo wskaźnik ryzyka wyliczony w systemie STIR wskazał, że firma może służyć wyłudzeniom skarbowym. Wskaźnik liczy się co najmniej raz dziennie w zautomatyzowanym przetwarzaniu, według algorytmów, które biorą pod uwagę między innymi „nietypowe, w danej sytuacji, zachowanie” przedsiębiorcy i jego powiązania z innymi podmiotami (art. 119zn § 2 i 3 Ordynacji podatkowej). Blokada trwa do 72 godzin (art. 119zv § 1), a bank nie mówi klientowi o żądaniu z własnej inicjatywy (art. 119zv § 4a). Nawet gdyby STIR był systemem AI w rozumieniu AI Act, obowiązki wysokiego ryzyka by go nie objęły. Arthur Bianco w drugim rozdziale tej książki wyjaśnia dlaczego, choć o STIR nie pisze ani słowa.

O czym jest ta książka

Redaktorzy zadają jedno pytanie: czy obecne prawo UE jest gotowe na zmiany, które przynosi AI. Odpowiadają na nie dziewięcioma rozdziałami z różnych gałęzi prawa, publicznego, prywatnego i karnego. Większość rozdziałów bierze jeden sektor i sprawdza, gdzie ogólne reguły AI Act spotykają się z prawem sektorowym, a gdzie się mijają. Dwa wychodzą poza ten schemat: Moraiti pisze o teorii prawa karnego, a Biber i Hofmann o konstrukcji samego AI Act. Tom zamyka rozdział Biber i Hofmanna o tym, dlaczego prawa podstawowe w AI Act nie przekładają się na środki ochrony. Redaktorzy nazywają go zwieńczeniem i wezwaniem do działania. Pierwszy rozdział to ich wstęp, który streszcza osiem pozostałych.

Na warsztacie, z którego wyrosła książka, teksty komentowali m.in. rzecznik generalna TSUE Tamara Ćapeta, sędziowie Trybunału i Sądu, Paul Nemitz z Komisji Europejskiej oraz praktycy z Clifford Chance i Europejskiego Mechanizmu Stabilności. Literatura w przypisach sięga marca 2026 r. Rozporządzenia 2026/1744 (Digital Omnibus), które zmieniło AI Act w lipcu 2026 r., książka nie uwzględnia. Wracamy do tego niżej.

Recenzja właściwa

Wspólny mianownik: prawa w motywach, procedury w artykułach

Najmocniejszy tekst tomu stoi na końcu. Biber i Hofmann pokazują, że AI Act wielokrotnie powołuje się na prawa podstawowe, a słowo „prawo” w sensie uprawnienia jednostki pada tylko przy dwóch przepisach: prawie do wniesienia skargi do organu nadzoru rynku (art. 85) i prawie do wyjaśnienia decyzji opartej na wyniku systemu wysokiego ryzyka (art. 86). Resztę ochrony dają procedury: ocena skutków dla praw podstawowych (FRIA, art. 27), nadzór człowieka (art. 14), ocena zgodności, którą przy większości systemów z załącznika III dostawca przeprowadza sam. Autorzy nazywają to pomyleniem zgodności z rozliczalnością. Ocena zgodności sprawdza, czy produkt spełnia wymogi. Prawo podstawowe wymaga czegoś innego: uzasadnienia ograniczenia, niezależnej kontroli i drogi do sądu.

Ta teza porządkuje pozostałe rozdziały. U Bianco procedur wysokiego ryzyka nie ma wcale, bo administracja podatkowa nie trafiła do załącznika III. Zostają tylko zakazy i obowiązki przejrzystości. U Yusifli procedury są, tylko pracownik nie ma jak ich uruchomić. Terzidou bada narzędzie, którego AI Act nie uważa za ryzykowne, choć ludzie podejmują na jego podstawie decyzje procesowe.

Podatki: wyłączenie z motywu 59

Bianco zaczyna od faktu: administracje podatkowe w UE używają AI do typowania kontroli, wykrywania oszustw i obsługi podatników. Potem pokazuje, że AI Act je omija. Załącznik III nie wymienia podatków, a motyw 59 wprost mówi, że systemy przeznaczone do postępowań administracyjnych organów podatkowych i celnych nie powinny być klasyfikowane jako systemy wysokiego ryzyka używane przez organy ścigania. Rozszerzyć listy też się nie da: Komisja może zmieniać załącznik III tylko w obszarach, które już w nim są (art. 7 ust. 1 lit. a). Bianco przypisuje to wrażliwości politycznej suwerenności fiskalnej i podstawie prawnej AI Act, czyli art. 114 TFUE, którego ust. 2 wyłącza przepisy podatkowe. Wniosek jest trzeźwy: ochrona podatnika przed algorytmem zależy od prawa krajowego, więc w każdym państwie wygląda inaczej.

Praca: furtka z art. 6 ust. 3 jest węższa, niż wygląda

Yusifli bada, czy pracodawca może wyprowadzić system kadrowy spod reżimu wysokiego ryzyka, powołując się na art. 6 ust. 3. Przepis pozwala uznać system z załącznika III za niebędący wysokiego ryzyka, jeśli nie stwarza znaczącego ryzyka szkody i nie wpływa istotnie na wynik decyzji, a do tego spełnia jeden z czterech warunków, np. wykonuje wąskie zadanie proceduralne. Autorka śledzi historię przepisu od poprawek Parlamentu z czerwca 2023 r. do kompromisu ze stycznia 2024 r. i dochodzi do wniosku ostrożniejszego niż tytuł rozdziału („How to get away with high-risk AI”). Masowe obchodzenie uważa za mało prawdopodobne, bo system profilujący osoby fizyczne zawsze pozostaje systemem wysokiego ryzyka (art. 6 ust. 3 akapit trzeci), a dostawca, który uznał, że jego system nie jest wysokiego ryzyka, musi tę ocenę udokumentować (art. 6 ust. 4) i zarejestrować siebie oraz system w bazie UE (art. 49 ust. 2).

Najciekawszy fragment rozdziału dotyczy narzędzi rekrutacyjnych zaprojektowanych tak, żeby nie wyglądały na profilowanie. Zamiast oceniać osobowość kandydata, system rozbija ocenę na drobne zadania: dopasowanie słów kluczowych, weryfikację doświadczenia, analizę stylu pisania. Każde z nich z osobna wygląda na zwykłe przetwarzanie danych. Razem tworzą profil. Kto doradza dostawcy HR-tech, powinien ten akapit przeczytać dwa razy, bo opisuje argument, który regulator może podnieść przy kontroli.

Słabsza jest część o FRIA. Autorka słusznie zauważa, że art. 27 nie obejmuje większości pracodawców, bo ocenę skutków muszą przeprowadzić podmioty prawa publicznego, prywatne podmioty świadczące usługi publiczne oraz podmioty stosujące systemy do oceny zdolności kredytowej i ubezpieczeń. Proponuje traktować art. 27 jako miarę także tam, gdzie nie jest obowiązkiem. To rozsądna rada dla compliance, ale nie wykładnia przepisu.

Chatboty prawne: czytelne, pewne siebie, bez źródeł

Terzidou przetestowała siedem wariantów popularnych chatbotów (ChatGPT, ChatGPT Pro, GPT „Free Legal Advice”, Gemini, Gemini Advanced, Copilot oraz Copilot dla studentów i firm). Zadała im 16 pytań o eksmisję lokatora w prawie greckim i oceniła odpowiedzi w skali od 1 do 5 według kryteriów wyprowadzonych z unijnych wytycznych etycznych dla godnej zaufania AI: sprawiedliwości, poszanowania autonomii, wyjaśnialności i zapobiegania szkodzie.

Wyniki są dla prawnika znajome. Wszystkie chatboty pisały poprawną greką, rozumiały terminologię i trzymały się greckiej jurysdykcji. Wszystkie poza Gemini Advanced często myliły próg właściwości sądu (podawały 20 000 euro zamiast 600 euro), jeden powołał przepis kodeksu postępowania cywilnego, który zastąpiono w ostatniej nowelizacji, a żaden nie wymienił kompletu dokumentów potrzebnych do wniosku. Najgorzej wypadły cytowania. Większość odpowiedzi nie podawała żadnego źródła. Kiedy źródło się pojawiało, był to wpis na blogu kancelarii, a nie tekst ustawy ani orzeczenie.

Trafna jest też jej uwaga o zastrzeżeniach: formuła „model może się mylić” chroni głównie dostawcę. Przerzuca odpowiedzialność na użytkownika, który ufa przekonującemu tonowi odpowiedzi. Rekomenduje, by sądy budowały własne chatboty oparte na wyszukiwaniu w oficjalnych źródłach (RAG), z cytatem pod każdą odpowiedzią i linkiem do rejestru adwokatów, a na gruncie AI Act proponuje traktować je jak systemy wysokiego ryzyka.

Pozostałe rozdziały w skrócie

Lorenzoni opisuje podwójną rolę danych w prawie konkurencji: dane są przewagą dominujących firm i paliwem dla narzędzi, którymi organy ochrony konkurencji mają wykrywać zmowy. Postuluje, by udostępnianie danych organom (B2G i G2G) stało się regułą. Moraiti przekonująco odrzuca analogię między osobą prawną a systemem AI w prawie karnym: spółka skupia ludzi i ich zamiary, system AI nie, więc karanie go byłoby „pustym przypisaniem” odpowiedzialności. Dopuszcza ograniczoną osobowość w prawie cywilnym jako narzędzie podziału ryzyka. Bruzzese pokazuje, że wykrywanie oszustw płatniczych przez uczenie maszynowe rozbija się o brak danych, którymi banki nie chcą się dzielić, i proponuje unijną bazę danych o oszustwach na wzór bazy AML prowadzonej przez EBA. Antunes analizuje zabezpieczenia wierzytelności w smart kontraktach pod prawem luksemburskim i rekomenduje kontrakty hybrydowe, w których człowiek może wstrzymać automat.

Gdzie ta książka jest słaba

Stan prawny sprzed lipca 2026 r. Książka nie zna rozporządzenia 2026/1744, które weszło w życie 27 lipca 2026 r. Główne tezy to przeżywają, bo art. 6 ust. 3 i 4, art. 27 i art. 49 ust. 2 stoją w tekście skonsolidowanym bez zmian. Zmieniły się jednak dwie rzeczy, o których czytelnik powinien wiedzieć. Obowiązki dla systemów wysokiego ryzyka z załącznika III stosuje się od 2 grudnia 2027 r. (art. 113 lit. c pkt i), a obowiązek z art. 4 dostał nowe brzmienie: dostawcy i podmioty stosujące mają teraz „podejmować środki wspierające rozwój” kompetencji w zakresie AI. Yusifli czyta art. 4 jako szeroki obowiązek wobec pracowników, a takie odczytanie było śmiałe już przy pierwotnym tekście.

Wnioski mocniejsze niż analiza. W dwóch rozdziałach zakończenie mówi więcej, niż pokazał tekst. Yusifli w analizie pisze, że z art. 6 ust. 3 nie da się wyprowadzić obowiązku FRIA, a w zakończeniu wymienia przeprowadzenie FRIA wśród „kumulatywnych” przesłanek, które utrudniają błędną klasyfikację. Terzidou w wynikach podaje, że przypomnienie o konsultacji z prawnikiem pojawiało się konsekwentnie tylko w trzech chatbotach, a w zakończeniu pisze, że zastrzeżenia były widoczne i powtarzane w całej rozmowie. Kto cytuje te rozdziały, niech cytuje analizę, nie puentę.

Numeracja z projektu. Bianco miejscami posługuje się numeracją z projektu Komisji z 2021 r.: pisze o prawodawstwie harmonizacyjnym z załącznika II (w tekście ostatecznym to załącznik I) i o obowiązku przejrzystości z art. 52 (dziś art. 50), choć w innych miejscach używa numeracji ostatecznej. Dla teoretyka to drobiazg, dla praktyka, który przepisze przypis do opinii, już nie.

Jeden oceniający, szesnaście pytań. Test Terzidou przeprowadziła jedna osoba, bez drugiego oceniającego i bez miary zgodności ocen. Dotyczy jednego typu sprawy w jednym prawie krajowym, a daty dostępu w przypisach pochodzą z 2025 r., więc wyniki opisują wersje modeli z tamtego czasu. Metoda jest trwalsza niż liczby.

Zbiór nierówny. To w większości prace doktorów i doktorantów z jednej jednostki doktoranckiej. Według naszej tabeli trzy rozdziały warto przeczytać w każdej kancelarii, trzy przydadzą się w wąskich specjalizacjach, a dwa zainteresują głównie teoretyków albo prawników z Luksemburga.

Czego autorzy nie powiedzieli, a co musi powiedzieć polski prawnik - interpretacja MateMatic

Pierwsza linia: STIR to gotowy przypadek Bianco. Polska ma system, który automatycznie ocenia ryzyko podatnika i na tej podstawie prowadzi do blokady rachunku. Ordynacja podatkowa opisuje go jawnie: wskaźnik ryzyka, algorytmy, pięć grup kryteriów (art. 119zn § 3), blokada do 72 godzin (art. 119zv § 1). Czy STIR jest systemem AI w rozumieniu art. 3 pkt 1 AI Act, zależy od techniki, której ustawa nie opisuje. Nawet jeśli jest, motyw 59 wyłącza postępowania administracyjne organów podatkowych z kategorii systemów wysokiego ryzyka organów ścigania. Doradca podatkowy i adwokat klienta z zablokowanym rachunkiem szukają więc ochrony w Ordynacji podatkowej i RODO, nie w AI Act. Bianco opisał tę lukę na poziomie UE, a STIR pokazuje ją w polskiej praktyce.

Druga linia: na samoklasyfikację jest opinia KRiBSI. Yusifli martwi się, że o tym, czy system jest wysokiego ryzyka, decyduje sam dostawca. Polska ustawa o systemach sztucznej inteligencji (Dz.U. 2026 poz. 1003) daje od 28 października 2026 r. narzędzie, którego książka nie mogła znać: opinię indywidualną Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Strona usługi na gov.pl podaje jako przykład pytanie, czy system mieści się w wyjątku z art. 6 ust. 3. Opinia kosztuje 150 zł, Komisja ma na nią 30 dni, a w sprawach skomplikowanych 60. Jeśli nie zdąży, uznaje się, że wydała opinię zgodną ze stanowiskiem wnioskodawcy (art. 12 ust. 3), a opinia po anonimizacji trafia do BIP (art. 17 ust. 1). Kontroli dokonuje więc ktoś z zewnątrz, ale tylko wtedy, gdy dostawca sam o nią poprosi. Obowiązek dokumentacji i rejestracji z art. 6 ust. 4 i art. 49 ust. 2 opinia nie zastępuje.

Trzecia linia: skarga do KRiBSI zamyka lukę tylko w połowie. Biber i Hofmann piszą, że skarga do organu nadzoru rynku (art. 85) to jedno z dwóch praw jednostki w AI Act. W Polsce skargę rozpatruje KRiBSI, wniesienie jest bezpłatne, a od 28 października Komisja może po skardze prowadzić postępowanie i nakładać kary, z odwołaniem do Sądu Okręgowego w Warszawie (sądu ochrony konkurencji i konsumentów). To uruchamia nadzór, ale nie daje skarżącemu odszkodowania ani nie uchyla decyzji, która go dotknęła. Na tym polega różnica między nadzorem a środkiem ochrony, o której piszą autorzy, i polska ustawa jej nie usuwa.

Czwarta linia: regulacja sektorowa, o którą prosi Yusifli, już częściowo istnieje. Rozdział o pracy nie omawia dyrektywy 2024/2831 w sprawie poprawy warunków pracy za pośrednictwem platform internetowych, która ma osobny rozdział o algorytmicznym zarządzaniu. Państwa członkowskie mają ją wdrożyć do 2 grudnia 2026 r. (art. 29 ust. 1), czyli za miesiąc. Dyrektywa obejmuje tylko cyfrowe platformy pracy, więc nie zastąpi ochrony w zwykłym zakładzie pracy, ale kancelaria obsługująca platformę dostawczą albo przewozową powinna czytać ją razem z AI Act.

Piąta linia: test Terzidou da się powtórzyć po polsku w godzinę. Szesnaście pytań, cztery kryteria, skala od 1 do 5. Wystarczy wziąć sprawę, którą kancelaria zna na pamięć, np. wypowiedzenie najmu albo zapłatę z umowy, i zadać pytania narzędziu, którego używa. Kryterium, na którym chatboty wypadły u Terzidou najsłabiej, czyli cytat do oficjalnego źródła, w polskim prawie da się sprawdzić mechanicznie: przepis z aktualnego tekstu jednolitego ma numer Dziennika Ustaw, a orzeczenie ma sygnaturę.

Co z tego wynika

Książka nie jest komentarzem do AI Act ani podręcznikiem compliance. To zbiór diagnoz, z których trzy dają się przenieść na polską praktykę prawie bez tłumaczenia. Rozdział Yusifli przyda się każdemu, kto doradza dostawcy albo użytkownikowi systemu kadrowego. Rozdział Terzidou opisuje w greckim prawie to, co Stanford zmierzył w amerykańskich narzędziach do badań prawnych (TOM 066): pewny ton, braki w treści, źródła, których nie da się sprawdzić. Rozdział Biber i Hofmanna dopowiada to, co Rada Europy zapisała w podręczniku o prawach człowieka i AI (TOM 029): bez środka ochrony prawo podstawowe pozostaje deklaracją.

Rada praktyczna jest prosta. Przeczytajcie rozdziały 3, 5 i 9, a przy rozdziale 2 zatrzymajcie się, jeśli macie praktykę podatkową. Każdy przepis AI Act, który z niej przepiszecie, sprawdźcie w tekście skonsolidowanym po rozporządzeniu 2026/1744.

Na koniec test dla kancelarii. Weźcie trzy pytania z prawa najmu, które klienci zadają wam najczęściej, i zadajcie je narzędziu AI, którego używacie. Ile odpowiedzi wskazało przepis z aktualnego tekstu jednolitego, a ile tylko opisało zasadę własnymi słowami?

Wnioski dotyczące polskiego prawa, AI Act, ustawy o systemach sztucznej inteligencji i doboru narzędzi są interpretacją MateMatic, nie stanowiskiem NRA, KRRP, KRDP ani PUODO. Autorzy książki nie pisali o polskim prawie; powiązania ze STIR, opinią KRiBSI i dyrektywą o pracy platformowej stawiamy my.