Polski model PolDense wyprzedza w rankingu duże modele wyszukiwania informacji

Polski Ośrodek Przetwarzania Informacji (OPI) opublikował rodzinę modeli językowych PolDense, zaprojektowanych specjalnie do wyszukiwania informacji w tekstach polskich. Najmniejszy problem miał ich flagowy wariant, PolDense 1B, który zajął pierwsze miejsce w rankingu Polish Information Retrieval Benchmark (PIRB), wyprzedzając modele wielokrotnie większe od siebie.

PolDense to nie kolejny duży model generatywny, lecz rodzina tzw. dense retrieverów, czyli modeli zamieniających tekst na wektory liczbowe używane do wyszukiwania najbardziej pasujących fragmentów dokumentów. Tego typu technologia stoi za mechanizmami RAG (Retrieval Augmented Generation), które pozwalają chatbotom i asystentom AI sięgać po aktualne, konkretne dane zamiast polegać wyłącznie na wiedzy zapisanej w parametrach modelu podczas treningu.

Wynik w rankingu PIRB

Polish Information Retrieval Benchmark to test stworzony wcześniej właśnie przez AI Lab OPI, obejmujący kilkadziesiąt zadań wyszukiwania informacji w języku polskim, od dokumentów prawnych po teksty medyczne i biznesowe. W tym zestawieniu PolDense 1B uzyskał wynik 64,11 punktu, co dało mu pierwsze miejsce przed Llama-Embed-Nemotron-8B (63,73 pkt) od Nvidii oraz BGE-Multilingual-Gemma2-9B (63,26 pkt) z chińskiego laboratorium BAAI. Oba te modele mają dziewięciokrotnie więcej parametrów niż polski konkurent.

Przewaga mniejszego modelu nad znacznie większymi konkurentami wynika ze specjalizacji językowej. Modele wielojęzyczne muszą dzielić swoją pojemność między dziesiątki języków naraz, podczas gdy PolDense trenowano z myślą wyłącznie o specyfice polszczyzny, jej fleksji i słownictwie specjalistycznym.

Sześć wariantów dla różnych zastosowań

Rodzina PolDense obejmuje sześć modeli o rozmiarach od 17 milionów do 1 miliarda parametrów. Najmniejsze warianty mają trafić do lekkich wdrożeń działających lokalnie, na przykład na urządzeniach mobilnych lub w systemach o ograniczonych zasobach obliczeniowych, podczas gdy największy, PolDense 1B, adresowany jest do dużych systemów korporacyjnych. Wszystkie warianty obsługują teksty do 8192 tokenów, co pozwala przetwarzać długie dokumenty bez ich dzielenia na małe fragmenty.

Zespół podkreśla, że modele mają zastosowanie przede wszystkim w systemach RAG, chatbotach i asystentach AI oraz w wyszukiwarkach dokumentów wewnętrznych firm i instytucji publicznych. To obszar, w którym jakość wyszukiwania bezpośrednio przekłada się na trafność odpowiedzi generowanych przez większe modele językowe.

Finansowanie i otwarta licencja

Projekt powstał w ramach inicjatywy LLMs4EU, finansowanej ze środków unijnych oraz polskiego Ministerstwa Cyfryzacji. Wszystkie modele PolDense udostępniono bezpłatnie na platformie Hugging Face na otwartej licencji, co oznacza, że mogą z nich korzystać zarówno firmy komercyjne, jak i instytucje naukowe czy administracja publiczna bez opłat licencyjnych.

Udostępnienie modeli PolDense to kolejny krok w budowaniu polskich kompetencji w obszarze sztucznej inteligencji. Tworzymy otwarte technologie, które mogą być wykorzystywane przez naukowców, administrację publiczną i przedsiębiorców do budowy nowoczesnych, efektywnych i bezpiecznych narzędzi AI - dr hab. inż. Jarosław Protasiewicz, dyrektor Ośrodka Przetwarzania Informacji

Dr inż. Marek Kozłowski, kierownik AI Lab w OPI, zwraca uwagę na cel projektu w kontekście różnorodności zastosowań. Zespół chciał dostarczyć modele skalowalne od dużych wdrożeń korporacyjnych po proste, lokalne instalacje, zachowując przy tym otwarty dostęp dla całego polskiego ekosystemu AI.

Naszym celem było opracowanie rodziny modeli odpowiadającej na potrzeby bardzo różnych zastosowań, od dużych systemów korporacyjnych po lekkie wdrożenia działające lokalnie. Wszystkie modele udostępniamy za darmo na platformie Hugging Face, aby wspierać rozwój polskiego ekosystemu AI - dr inż. Marek Kozłowski, kierownik AI Lab, Ośrodek Przetwarzania Informacji

Co dalej z projektem

Zespół AI Lab zapowiada kontynuację prac nad wyspecjalizowanymi modelami wyszukiwania informacji. Kolejnym krokiem ma być EuroDense, model wspierający wyszukiwanie w dziewięciu językach europejskich, którego premierę OPI zapowiada w najbliższych miesiącach. To rozszerzenie podejścia sprawdzonego przy PolDense na skalę europejską, w duchu tej samej inicjatywy LLMs4EU.

Sukces PolDense wpisuje się w szerszy trend budowy wyspecjalizowanych, mniejszych modeli językowych dla języka polskiego, obok już istniejących projektów jak Bielik czy PLLuM. W odróżnieniu od tamtych, które koncentrują się na generowaniu tekstu, PolDense adresuje inną, choć równie istotną warstwę infrastruktury AI, czyli wyszukiwanie i indeksowanie informacji, na której opierają się praktyczne wdrożenia RAG w firmach i instytucjach.