Izba Karna Trybunału Sprawiedliwości Wysp Kanaryjskich ukarała w lipcu 2026 r. adwokata grzywną 840 euro. W apelacji zamieścił on cytaty z orzeczeń hiszpańskiego Sądu Najwyższego (Tribunal Supremo) i Trybunału Konstytucyjnego (Tribunal Constitucional), których nigdy nie wydano. Były podane w cudzysłowie i wyróżnione w tekście, dokładnie tak jak autentyczne orzecznictwo. Sąd zlecił sprawdzenie wszystkich cytatów działowi dokumentacji i bibliotek. Wyszło co najmniej 25 orzeczeń nieistniejących albo w ogóle niezwiązanych ze sprawą.
Adwokat tłumaczył, że to zwykłe niedopatrzenie. Sąd zakwalifikował to jako zaniedbanie podstawowych obowiązków zawodowych wskutek rażącej nieostrożności, naruszające obowiązek dobrej wiary procesowej i szacunek należny sądowi. Zwrócił też uwagę, że na tym etapie prawnik powinien być już świadomy zjawiska halucynacji AI, i przypomniał, że odpowiedzialność za treść pisma spoczywa na podpisującym je adwokacie.
To nie był pierwszy taki przypadek na Kanarach. Pół roku wcześniej ta sama izba ukarała innego adwokata za 48 fałszywych cytatów, sięgniętych z narzędzia AI ogólnego przeznaczenia. Wtedy sąd sprawdził, ile kosztuje roczna subskrypcja specjalistycznego narzędzia AI dla prawników, ustalił, że podstawowe plany zaczynają się od około 70 euro miesięcznie, i napisał wprost, że takie narzędzie prawdopodobnie uchroniłoby prawnika przed tym błędem. Stąd wzięła się kwota 840 euro, czyli roczny koszt. Tamten adwokat przyznał się i przeprosił, więc zapłacił połowę. Lipcowy nie przyznał się, więc zapłacił całość.
Rzecz dzieje się w Unii Europejskiej, nie za oceanem. W Polsce również – mamy orzeczenie NSA I FZ 104/26, w którym sąd skrytykował pełnomocnika za bezkrytyczne zaufanie sztucznej inteligencji. Wspominałem o tym, przy okazji kwestii zaufania do systemów AI.
Uwaga na jedno rozróżnienie, bo bywa ono gubione: żaden z tych sądów nie zakwestionował korzystania z AI. Zakwestionowały brak weryfikacji i sięgnięcie po narzędzie nieprzystosowane do pracy prawniczej.
Realny problem: halucynację łatwo pominąć, bo narzędzia są tak zbudowane
Łatwo powiedzieć „trzeba było sprawdzić”. Trudniej odpowiedzieć, dlaczego doświadczeni prawnicy tego nie zrobili i to w piśmie, które szło do sądu.
Odpowiedź jest niewygodna dla całej branży narzędzi AI. Typowy czat jest zbudowany tak, że przeoczenie halucynacji jest stanem domyślnym, a nie wypadkiem przy pracy.
Model nie odróżnia zmyślonego wyroku od prawdziwego, bo z jego perspektywy oba są po prostu prawdopodobnym ciągiem znaków. Podaje więc jeden i drugi identycznie: właściwa forma, poprawny format sygnatury, cudzysłów, pewny siebie ton. Halucynacja nie przychodzi z ostrzeżeniem, tylko w tym samym tonie, co prawda.
Do tego dochodzi konstrukcja samego interfejsu:
- nic nie jest oznaczone jako niepewne – odpowiedź wygląda jednolicie, więc nie masz sygnału, gdzie skierować uwagę,
- nie ma śladu do źródła – nie da się kliknąć w tezę i zobaczyć, z którego dokumentu pochodzi, bo najczęściej nie pochodzi z żadnego,
- rozmowa dryfuje – im dłuższa, tym większa szansa, że błąd z wcześniejszej tury zostanie przyjęty za ustalenie i będzie się propagował,
- wynik kopiuje się do Worda – na tym etapie odpowiedź jest już Twoim tekstem i czyta się ją jak własny draft, a nie jak cudze twierdzenie do weryfikacji.
Weryfikacja jest więc możliwa, ale w całości spoczywa na dyscyplinie użytkownika i wymaga osobnej pracy: wypisz sobie sygnatury, otwórz bazę, sprawdź każdą po kolei. Przy terminie na karku to pierwsza rzecz, która wypada z procedury.
Jak jest to rozwiązane w beDocs?
Nie da się zbudować programu, który nie halucynuje, bo to cecha modeli językowych (tak, wiem – powtarzam się). Da się natomiast zbudować program, w którym pominięcie halucynacji wymaga wysiłku, zamiast być drogą najmniejszego oporu. Na tym oparte są decyzje projektowe w beDocs.
Nie ma modułu czatu. Miałem go gotowego i działającego, po czym go wyrzuciłem. Zamiast rozmowy jest budowanie kontekstu: przygotowujesz uporządkowany materiał, wysyłasz jedno zapytanie i dostajesz gotowy draft. Nie ma dziesięciu rund, w których model może dryfować i utrwalać własne błędy.
Model nie ma dostępu do niczego, czego sam nie załączysz. Nie ma bazy aktów prawnych, która po drodze podrzuci mu „jakieś” orzecznictwo poza Twoją kontrolą. To Ty decydujesz, które przepisy i wyroki wchodzą do analizy, bo to Ty najlepiej wiesz, które są właściwe. Jest wbudowana wyszukiwarka korzystająca z API Sejmu i Systemu Analizy Orzeczeń Sądowych, ale nic nie trafia do modelu samo z siebie.
Niepewność jest oznaczona automatycznie. Kiedy model powołuje przepis albo nie jest czegoś pewien, oznacza te fragmenty jako treści do weryfikacji. Nie musisz o tym pamiętać ani prosić o to w promptcie, bo zabezpieczenia są zaszyte w programie.
Każda taka teza staje się osobnym punktem do sprawdzenia. W module weryfikacji beDocs wyłapuje je z odpowiedzi i zamienia w listę, którą przechodzisz przed eksportem. Zatwierdzasz, poprawiasz albo usuwasz jednym kliknięciem. Zmyślony przepis nie przejdzie do pisma bez Twojej świadomej akceptacji, bo eksport prowadzi przez ten krok.
Wyniki modułów lokalnych są podpięte pod konkretny fragment. W przeszukiwaniu i w zestawieniach przy każdej odpowiedzi widzisz plik, stronę lub fragment, na którym program się oparł. Sprawdzenie to kilka sekund, nie osobne zadanie.
Eksport idzie od razu na Twój papier firmowy. Nie ma etapu kopiowania z okna czatu, na którym cudze twierdzenie niepostrzeżenie staje się Twoim tekstem.
Powiem też wprost rzecz, której nie zamierzam przemilczeć. To nie zdejmuje z Ciebie odpowiedzialności. Za treść pisma odpowiada prawnik i tak orzekł NSA, tak orzekł sąd na Kanarach, i tak zostanie. Nie twierdzę, że nie musisz weryfikować. Twierdzę, że weryfikacja przestaje być dodatkową pracą, którą trzeba sobie samemu narzucić, a staje się częścią normalnego przebiegu pracy w programie. A błąd, który łatwo wyłapać, rzadko trafia do sądu.
I jeszcze jedno – każdy program, to tylko program – zawsze weryfikuj wynik.
Źródła:
- Infobae, sprawa z lipca 2026 r.: 840 euro i co najmniej 25 nieistniejących orzeczeń
- Canarias7, ustalenia sądu i raport działu dokumentacji TSJ Canarias
- Vozpopuli, kwalifikacja prawna czynu
- El Español, sprawa z lutego 2026 r.: 48 fałszywych cytatów i wyliczenie kosztu subskrypcji
- Noticias Jurídicas, omówienie sprawy lipcowej
- Polskie relacje: TVN24, RMF24
