PLLuM odpowiada już na pytania użytkowników mObywatela, a także wspiera pracowników administracji, samorządów i biznesu. Wkrótce trafi do Kancelarii Prezesa Rady Ministrów, Kancelarii Senatu oraz Prokuratorii Generalnej. Wdrożenia to jednak nie wszystko. Następny krok? Nauczyć PLLuM widzieć.
Polska, podobnie jak wiele innych państw, rozwija własny duży model językowy. PLLuM dołącza tym samym do takich projektów jak SEA-LION w Singapurze, ALIA w Hiszpanii czy TAIDE na Tajwanie. Kolejne wdrożenia PLLuM oraz przygotowania do stworzenia modelu wizyjnego były okazją do podsumowania dotychczasowych prac podczas śniadania prasowego w Ministerstwie Cyfryzacji.
– Pamiętam, że jedną z pierwszych decyzji, które musiałem podjąć po przyjściu do ministerstwa, było rozstrzygnięcie, czy inwestujemy w polski model językowy. Głosy ekspertów nie były wtedy jednoznaczne. Słyszałem: po co nam własny model, skoro mamy globalne rozwiązania? Zdecydowaliśmy się zaryzykować i dziś widzimy efekty tej decyzji. PLLuM działa już w mObywatelu, trafia do administracji i biznesu, a zespół pracuje nad kolejnymi możliwościami, w tym nad modelem wizyjnym. To pokazuje, że warto było postawić na rozwój własnej technologii i kompetencji w Polsce – mówi Dariusz Standerski, wiceminister cyfryzacji.
PLLuM można bezpłatnie pobrać z platformy Hugging Face, gdzie model jest udostępniany bezpośrednio na koncie Ministerstwa Cyfryzacji. To rozwiązanie wyjątkowe na skalę światową – Polska jest jedynym krajem, którego resort udostępnia w ten sposób własny model językowy. Fakt ten dostrzegła również sama platforma Hugging Face.
PLLuM już pracuje dla użytkowników
Najbardziej widocznym wdrożeniem PLLuM jest wirtualny asystent w aplikacji mObywatel. Do tej pory użytkownicy wysłali mu ponad 1 mln 170 tys. wiadomości i przeprowadzili przeszło 730 tys. konwersacji. Najczęściej pytania padają o korzystanie z aplikacji i dodawanie do niej dokumentów, procedury związane z dowodem osobistym i paszportem oraz sprawy dotyczące rejestracji i zbycia pojazdów.
– Możemy mówić o jednym z większych wdrożeń dużego modelu językowego w europejskiej administracji publicznej. PLLuM zasila wirtualnego asystenta w mObywatelu, aplikacji, z której korzysta już ponad 12 milionów osób. Kiedy rozmawiamy z zagranicznymi partnerami i pokazujemy im skalę tego rozwiązania, robi ono wrażenie – podkreśla Szymon Łukasik, dyrektor Ośrodka Badań nad Bezpieczeństwem Sztucznej Inteligencji w NASK.
Model znajduje zastosowanie również wewnątrz administracji. Ministerstwo Cyfryzacji oraz Ministerstwo Rozwoju i Technologii testują asystentów dla swoich pracowników. W Gdyni PLLuM pomaga przeszukiwać Biuletyn Informacji Publicznej, w Poznaniu jest pilotażowo wykorzystywany w Biurze Poznań Kontakt, a w Łodzi wspiera urzędników w wyszukiwaniu wewnętrznych dokumentów.
– Zainteresowanie PLLuM-em jest bardzo duże. Regularnie otrzymujemy pytania o możliwości wykorzystania modelu, sposób jego wdrożenia czy potrzebną infrastrukturę, dlatego staramy się dzielić naszym doświadczeniem i wspierać zainteresowane instytucje. W najbliższych latach chcemy uczestniczyć w co najmniej kilkudziesięciu wdrożeniach, a wiele rozmów już się toczy. Skala wykorzystania PLLuM może być jednak znacznie większa. Model jest otwarty i dostępny dla każdego, dlatego część organizacji pobiera go, testuje i wdraża samodzielnie, nawet bez naszej wiedzy – dodaje Szymon Łukasik.
PLLuM będzie także patrzył. Trwają prace nad modelem wizyjnym
Kolejnym krokiem jest stworzenie modelu, który będzie potrafił pracować nie tylko z tekstem, ale także z obrazem. Zanim rozpoczęto jego budowę, zespół sprawdził możliwości dostępnych modeli i zidentyfikował obszary, w których radzą sobie one słabiej. Okazało się, że samo rozpoznawanie treści zdjęcia nie stanowi dla nich dużego problemu. Skuteczność spada jednak, gdy odpowiedź wymaga znajomości polskiej kultury, sztuki czy realiów.
Aby móc dokładnie mierzyć te różnice, powstał PoVisLE – Polish Vision-Language Evaluation. Zbiór obejmuje 1117 zdjęć i 2366 pytań, i pozwala sprawdzać, czy modele potrafią łączyć rozumienie obrazu z polskim językiem i kontekstem kulturowym. Równolegle zgromadzono już 30 mln zdjęć, które mają posłużyć jako zbiór treningowy do przyszłego modelu wizyjnego.
Rozwinięcie PLLuM o możliwości wizyjne otworzy drogę do nowych zastosowań. Model będzie mógł analizować m.in. zdjęcia i skany dokumentów oraz odpowiadać na pytania dotyczące ich treści.
– Pozyskujemy dane obrazowe, które mają nam posłużyć do zbudowania polskiego modelu językowo-wizyjnego. Naszym celem jest, by PLLuM nie tylko z nami rozmawiał za pomocą tekstu, ale także, można powiedzieć, widział. Pozwoli to na przykład wykorzystywać w rozmowie skany dokumentów i zadawać pytania dotyczące ich treści. To rozwiązanie potrzebne jest użytkownikom indywidualnym, ale przede wszystkim zastosowanie znajdzie w administracji publicznej – wyjaśnia Szymon Łukasik.
Do dalszych prac potrzebne są jednak wysokiej jakości dane – zarówno polskie teksty na odpowiednich licencjach, jak i zbiory zdjęć oraz skanów wraz z opisami. Ważny jest także udział użytkowników: testowanie modeli i przekazywanie informacji zwrotnych pozwala wskazywać obszary, które wymagają dalszego doskonalenia.