PLLuM wspiera obywateli. Ruszają testy prototypów inteligentnego asystenta

Tempo zmian i rozwój narzędzi opartych na sztucznej inteligencji, które mają wspierać obywateli i urzędników, robi wrażenie. Niedawno konsorcjum HIVE AI udostępniło nowy model językowy w trzech wersjach. Teraz potrafi on m.in. tworzyć oficjalne e-maile czy wnioski, zdecydowanie lepiej formatuje odpowiedzi i jest bardziej odporny na ataki. PLLuM-12B-nc-250715 osiąga dużo lepsze niż jego poprzednik PLLuM-12B-nc wyniki w niezależnych benchmarkach i został bardzo pozytywnie przyjęty przez użytkowników. 

Konsorcjum rozwija oparte też usługi oparte na modelach: wspólnie z zespołem Centralnego Ośrodka Informatyki (COI), odpowiedzialnym za rozwój aplikacji mObywatel, pracuje nad wdrożeniem modeli PLLum do Wirtualnego Asystenta. To inteligentny czat, który umożliwi prowadzenie rozmów o sprawach urzędowych. Konsorcjum tworzy także inteligentnego asystenta dla Ministerstwa Cyfryzacji i prowadzi pilotażowe wdrożenia modeli w wybranych urzędach.     

Udostępnione do testów narzędzia powstały niezależnie od prac nad Wirtualnym Asystentem, który będzie częścią aplikacji mObywatel 2.0. Prototypy pomogą sprawdzić, jak modele językowe radzą sobie z wyszukiwaniem w dokumentach odpowiedzi na pytania, które mogą zadawać użytkownicy i użytkowniczki szukający informacji o usługach publicznych. Chodzi o to, by gotowe rozwiązanie było jak najbardziej dopracowane, funkcjonalne i bezpieczne.  

– Chociaż nasze prototypowe usługi asystenta różnią się od rozwiązania rozwijanego od dwóch lat przez Centralny Ośrodek Informatyki i są zbudowane na prostszej architekturze, oba systemy odpowiadają na te same pytania, korzystając z bazy dokumentów z serwisu gov.pl oraz modelu językowego PLLuM – tłumaczy dr Agnieszka Karlińska, kierowniczka Zakładu Dużych Modeli Językowych w NASK PIB, która kieruje również HIVE AI – Liczymy na to, że testy pozwolą nam stworzyć katalog typowych pytań z domeny urzędowej. Takich, z którymi nasze systemy powinny sobie radzić, ułatwią też zrozumienie, jak użytkownicy wchodzą w interakcję z asystentem. A także określić, jakich odpowiedzi oczekują, na przykład – jak długich i w jakim stylu. Te informacje pomogą nam znacznie usprawnić dalsze prace nad wdrożeniami.  

Kompleksowe testy  

Wiedza w dużym modelach językowych (LLM) nie jest aktualizowana na bieżąco. To jeden z głównych problemów. Ponieważ proces treningu jest kosztowny i czasochłonny, nie odbywa się w sposób ciągły. Może się również zdarzyć, że w danych treningowych zabraknie dokumentów na temat ważnych dla użytkowników spraw. W rezultacie model może nie znać odpowiedzi lub – co gorsza – zmyślać ją, generując tzw. halucynacje.  

I  tu konsorcjum HIVE AI proponuje rozwiązanie tego problemu. Najpierw przeprowadzone zostaną testy uproszczonego prototypu asystenta, który ogranicza się do interakcji jednoturowych. Oznacza to, że system nie zapamiętuje kontekstu i każda odpowiedź generowana jest wyłącznie na podstawie pojedynczego zapytania. Kolejnym krokiem będą pogłębione wieloturowe testy, prowadzone w systemie ShpaRAG – autorskim narzędziu do projektowania i testowania tzw. systemów RAG (Retrieval-Augmented Generation).  

Jak to działa? Najpierw system wyszukuje dokumenty najlepiej pasujące do zapytania (w tym przypadku pochodzące z domeny gov.pl), a następnie – wykorzystując model językowy – generuje odpowiedź. Jest ona bardziej precyzyjna i wiarygodna, bo uwzględnia nie tylko informacje z dokumentów, ale też szerszy kontekst. ShpaRAG pozwala sprawdzać, jak działają różne elementy takiego systemu – od wyszukiwania i oceny dopasowania po generowanie odpowiedzi.   

– W ramach prac nad prototypem inteligentnego asystenta opracowaliśmy zestaw serwisów umożliwiających budowanie rozwiązań typu RAG z gotowych komponentów – opowiada dr inż. Marek Kozłowski z Ośrodka Przetwarzania Informacji (OPI PIB), który w HIVE AI koordynuje prace wdrożeniowe. – Na tej bazie powstało narzędzie ShpaRAG, które umożliwia sprawne „składanie” i kontrolowane testowanie różnych konfiguracji systemów RAG – z uwzględnieniem różnorodnych komponentów wyszukiwania, re-rankingowania i generowania odpowiedzi. To prawdopodobnie jedno z nielicznych, jeśli nie jedyne, narzędzie pozwalające na kontrolowane i precyzyjne budowanie oraz testowanie RAG-ów do celów badawczych i anotacyjnych.  

ShpaRAG umożliwia interakcje wieloturowe, czyli prowadzenie rozmowy z asystentem składającej się z kilku pytań i odpowiedzi. Pozwala to na formułowanie serii dopytań lub doprecyzowanie intencji osoby pytającej.   

Oba rozwiązania – prototyp inteligentnego asystenta i ShpaRAG – powstały w ramach prac realizowanych w projekcie PLLuM przez konsorcjum sześciu jednostek naukowych, którego liderem była Politechnika Wrocławska. Ich celem było utworzenie polskojęzycznego dużego modelu językowego oraz prototypowego zastosowania tego modelu dla administracji publicznej właśnie w formie polskojęzycznego inteligentnego asystenta. W 2025 roku do grona konsorcjantów dołączyły Cyfronet AGH oraz Centralny Ośrodek Informatyki, a liderem rozszerzonego konsorcjum HIVE AI został NASK PIB. Rozwiązania zaktualizowano i znacznie rozwinięto, między innymi wprowadzając w ShpaRAG-u wieloturowość czy wprowadzając do asystenta nowe modele PLLuM.    

Prototyp jednoturowego asystenta udostępniony zostanie do testów – podobnie jak opublikowany nieco ponad tydzień temu model PLLuM-12B-nc-250715-chat – w aplikacji PLLuM Chat utrzymywanej przez CLARIN-PL.  

Ku cyfrowej przyszłości – co dalej?   

Cyfrowa administracja to nie wizja przyszłości – to rzeczywistość, która właśnie się dzieje. A PLLuM jest jej ważnym elementem. Udostępnienie prototypów inteligentnego asystenta obywatelskiego to ważny krok w kierunku nowoczesnej, dostępnej i przyjaznej obywatelom administracji. Choć obecne wersje mają charakter testowy i ograniczoną funkcjonalność, już teraz pokazują potencjał, jaki niesie ze sobą integracja zaawansowanych modeli językowych z usługami publicznymi.  

Wspólne działania zespołów HIVE AI, NASK, OPI i COI pokazują, że Polska nie tylko nadąża za globalnymi trendami w cyfryzacji, ale również aktywnie je współtworzy. Dzięki podejściu opartemu na rzetelnych danych, transparentności i bezpieczeństwie, budowane są fundamenty pod rozwiązania, które w przyszłości mogą stać się codziennym wsparciem dla milionów obywateli.