Nie będę ukrywać, że tworzę (w zasadzie już kończę) oprogramowanie wspierane AI dla prawników. Analizuję przy tym również konkurencyjne rozwiązania — i widzę jeden poważny problem: „zaufaj nam”.
- zaufaj, że nasze AI poprawnie dobierze przepisy i orzeczenia,
- zaufaj, że nasze AI nie halucynuje,
- zaufaj, że dane są bezpieczne,
- zaufaj, że są w EOG,
- zaufaj, że nic nie wysyłamy,
- zaufaj, że mamy dobrą anonimizację (jeśli w ogóle jest), itd.
Do czego może prowadzić takie zaufanie? Polecam zerknąć do tego orzeczenia: I FZ 104/26.
W skrócie: sąd skrytykował pełnomocnika jednej ze stron za to, że bezkrytycznie zaufał sztucznej inteligencji.
A jak to faktycznie jest z tymi obietnicami?
Baza aktów prawnych, szczególnie orzeczeń, jest naprawdę spora. Większość systemów chmurowych bazuje na RAG, który odpala się w ich środowisku pośredniczącym. Teoretycznie to dobre rozwiązanie, ponieważ RAG opiera się na semantyce (znaczeniu) i dodatkowo można go filtrować. Trzeba jednak pamiętać, że zarządzanie, utrzymanie i wyszukiwanie w takiej bazie jest kosztowne — a każdy chce koszty minimalizować. Jaki jest tego skutek? Wyniki bywają bardzo pobieżne, a model często dostaje słabej jakości źródło. Do tego zwykle dzieje się to „nad” tym, na co masz wpływ, więc nie masz możliwości wprowadzenia bieżącej korekty.
Halucynacje. Trzeba postawić sprawę jasno — KAŻDY model będzie w jakiś sposób halucynował. Ważne, byś łatwo mógł to wyłapać. Jeśli odpowiedź modelu jest wizualnie poprawna, łatwo o przeoczenie halucynacji. Prawdopodobnie to właśnie spotkało prawnika, którego skrytykował NSA.
Dane są bezpieczne — to wszystko bazuje na zaufaniu do systemów dostawcy. Ale jaką masz gwarancję:
- że nic nie zostanie zapisane,
- że nikt tego nie przechwyci ani nie wykradnie,
- że dane faktycznie są w EOG?
Tylko deklaracje i zaufanie.
Kilka przykładów z polskiego rynku:
- API zwykle wskazuje na OpenAI, Gemini czy Anthropic — firmy amerykańskie, które większość infrastruktury mają za oceanem,
- anonimizacja odbywa się w chmurze — czyli przed samym procesem już je wysłałeś dalej; a jaką masz gwarancję, że model wyłapie wszystko, że nie pomyli tagów?
- pliki nie opuszczają komputera, ale ich treść w formacie Markdown — już tak, w całości.
A czy nie lepiej zapobiegać niż leczyć?
I właśnie dlatego powstaje beDocs [Aktualizacja: premiera miała miejsce 14.07.2026] — po to, żebyś mógł/mogła korzystać z AI w sposób, który oddaje Ci pełną kontrolę. Bo kto lepiej niż Ty nakieruje model na właściwe tory?
Co beDocs robi, by zapobiegać takim sytuacjom? O tym w kolejnym wpisie — zaobserwuj, żeby nie przegapić.
Więcej o sprawie, do której nawiązuję: NSA: pełnomocnik nie może bezmyślnie korzystać z AI.
