Czym jest sztuczna inteligencja i modele LLM?

Sztuczna inteligencja, którą wszyscy znamy dziś pod nazwą „chatbotów GPT", opiera się na modelach LLM. Dotyczy to zarówno amerykańskich modeli od OpenAI i Google, jak i europejskiego Le Chat stworzonego przez Mistral. Każdy z nich bazuje na tym samym fundamencie — modelu językowym. LLM to skrót od angielskiego „large language model", czyli „duży model językowy".

Istnieje powszechne przekonanie, że modele te mają własną „inteligencję". W rzeczywistości są to matematyczne algorytmy predykcyjne, które przewidują, jakie słowo najlepiej pasuje po innym słowie. Modele LLM są trenowane na ogromnych zestawach danych z różnych dziedzin.

Poniżej uproszczony przykład tego, jak model LLM (np. ChatGPT) generuje odpowiedź na pytanie „Czy kot to zwierzę?":

  1. Tokenizacja — model dzieli słowa na tokeny (token to matematyczna interpretacja słowa lub jego fragmentu).
  2. Analiza sekwencji — LLM analizuje otrzymane tokeny i szuka wzorców, których nauczył się podczas treningu. Model wie, że „kot" jest powiązany z kategoriami „ssak", „zwierzę", „domowy", oraz że „zwierzę" jest ogólną kategorią, do której „kot" należy w zdecydowanej większości tekstów treningowych.
  3. Obliczanie prawdopodobieństwa — model liczy, jakie jest prawdopodobieństwo wystąpienia kolejnego możliwego tokenu. „Tak" jest bardzo prawdopodobne, ponieważ w tekstach treningowych kot był klasyfikowany jako zwierzę; „Nie" — mało prawdopodobne z odwrotnego powodu.
  4. Generowanie odpowiedzi — model wybiera najbardziej prawdopodobny token i odpowiada: „Tak".
~500
przetargów dziennie w BZP1
946
klas CPV w modelu Procuro
$4.8 bln
wartość rynku AI do 2033 r.2

Ograniczenia modeli LLM

Modele LLM są tak dokładne, jak materiały, na których się uczą. Gdyby wytrenować mały model LLM na założeniu, że Ziemia jest płaska, model podałby właśnie taką odpowiedź na pytanie o jej kształt. Dlatego użytkowników uczula się na sprawdzanie odpowiedzi — modele mogą podawać informacje niezgodne z prawdą, jeśli na takich danych zostały wytrenowane.

Warto wiedzieć

Modele LLM można krytykować za tzw. halucynacje, tracenie wątku czy przekłamania. Dokładność modelu zależy bezpośrednio od jakości i zakresu danych treningowych — nie od samego rozmiaru modelu.

Kiedy modele LLM są idealnym narzędziem?

Dobrze wytrenowany model, przygotowany do wykonywania konkretnych zadań, jest w stanie bardzo dokładnie analizować duże ilości tekstu, badać jego kontekst i przyporządkowywać do niego odpowiednie wartości.

Przykład: jeśli wytrenujemy model LLM na dużej ilości danych dotyczących rozkładów jazdy autobusów w danym mieście, otrzymamy szybkie i precyzyjne narzędzie do sprawdzania, jaki autobus jedzie, dokąd i kiedy. Model nie będzie mylił rozkładów jazdy z innymi miastami, ponieważ został specjalnie wytrenowany w wąskiej dziedzinie — rozkładach autobusów we Wrocławiu.

Kluczowe jest zatem wyspecjalizowanie modelu pod konkretne zadanie — a nie poleganie na modelu ogólnego przeznaczenia.

Praktyczne zastosowania modeli LLM w przetargach publicznych

Jaki jest problem, który należy rozwiązać?

Rynek zamówień publicznych jest bardzo obszerny i złożony w swojej naturze. Zamawiający mają listy wymagań, które muszą zostać skumulowane w opisach przedmiotów zamówień i przedstawione jako kody CPV (opisaliśmy je szczegółowo w osobnym artykule). Dziennie w Biuletynie Zamówień Publicznych publikowanych jest około 500 przetargów.1

Przy takiej ilości danych wykonawcy stają przed wyzwaniem efektywnego wyszukiwania. Muszą dobierać kody CPV tak, aby jak najdokładniej opisać swoją branżę. Zły dobór kodów jest równoznaczny z pominięciem przetargów, co bezpośrednio wpływa na obroty firm. Co więcej, im trudniej znaleźć przetarg, tym mniej firm w nim wystartuje. Obniżona konkurencyjność rynku zwiększa koszty gmin i innych publicznych zamawiających — a długoterminowo zawyżone wydatki publiczne mogą negatywnie wpłynąć na rozwój gospodarki.

Jak modele LLM mogą pomóc?

Podstawowa metoda wyszukiwania przetargów to filtrowanie za pomocą kodów CPV. Problem w tym — jaki kod wybrać? Dodatkowo niektóre dziedziny są opisane kodami CPV lepiej, inne gorzej. Na przykład przygotowanie operatu wodnoprawnego nie ma własnego kodu CPV. Firmy wykonujące operaty muszą albo same wybrać kody, albo poprosić o pomoc eksperta, który z doświadczenia wskaże właściwe kody.

Dobrze wytrenowane modele LLM — bazując na milionach archiwalnych przetargów — uczą się, jakie przedmioty zamówień były opisywane jakimi kodami. Przykładem jest Platforma Procuro, której specjalnie wytrenowany model na danych z przetargów publicznych precyzyjnie dopasowuje kody CPV do opisu firmy klienta. Robi to nie tylko zgodnie z ogólnym opisem kodu, ale też biorąc pod uwagę, jak często dany kod CPV był faktycznie używany do opisania np. operatu wodnoprawnego. Dobrze wytrenowane modele LLM są w stanie bardzo dokładnie dopasować kody CPV, nawet gdy ich opis nie pasuje idealnie do przedmiotu zamówienia.

Platforma Procuro — Profil Inteligentnego Dopasowania AI
Firma specjalizuje się w przygotowaniu operatów
wodnoprawnych oraz dokumentacji środowiskowej.
71313000-5
91%
71351900-2
86%
90711000-4
78%
71330000-0
38%
Kody CPV dopasowane przez model AI na podstawie opisu działalności firmy

Rozwiązanie zastosowane w Platformie Procuro nie tylko celnie dopasowuje kody CPV, ale jest też intuicyjne w obsłudze i daje możliwość zmiany opisu działalności w każdej chwili. Dostęp do wyspecjalizowanego narzędzia pozwala użytkownikowi korzystać z jego zasobów zawsze wtedy, gdy zajdzie taka potrzeba.

Procuro — Inteligentne Dopasowanie AI

Sprawdź, jakie kody CPV pasują do Twojej firmy

Opisz zakres działalności, a nasz model AI przypisze odpowiednie kody CPV i automatycznie dopasuje nowe przetargi z BZP i TED.

Wypróbuj bezpłatnie →

Dalej niż modele LLM — modele hybrydowe w Platformie Procuro PRO

Modele hybrydowe łączą więcej niż jeden model sztucznej inteligencji, aby zapewnić lepszą wydajność i wszechstronność. Wersja PRO Platformy Procuro jest rozszerzona o model NLP (ang. Natural Language Processing — przetwarzanie języka naturalnego). Modele NLP służą do rozumienia struktury i znaczenia tekstu.

Platforma Procuro używa embeddingowego modelu NLP do semantycznej analizy przetargów. Model rozumie kontekst treści przedmiotu zamówienia wraz z jego komponentami, co pozwala ocenić, czy treść ogłoszenia pasuje do wymagań użytkownika.

Modele LLM i NLP jako jeden model hybrydowy w praktyce

Poniżej opisujemy, jak Platforma Procuro PRO łączy model LLM i NLP w jednym narzędziu do wyszukiwania przetargów publicznych.

Platforma Procuro PRO — pipeline modelu hybrydowego
Krok 1 — Model LLM Użytkownik opisuje zakres działalności firmy Wytrenowany model LLM dopasowuje kody CPV Krok 2 — Kryteria użytkownika Użytkownik określa, co go interesuje, a czego unika: + budowa dróg – budowa mostów + catering w szkole – catering firmowy Krok 3 — Model NLP Model analizuje przetargi dopasowane po kodach CPV Ocena semantyczna zgodna z kryteriami użytkownika Krok 4 — Wynik Dodatkowe parametry: wartość wadium, lokalizacja, terminy Tylko najbardziej trafne przetargi

Najpierw użytkownik opisuje zakres działania swojej firmy — wyspecjalizowany model LLM dopasowuje kody CPV. Następnie użytkownik opisuje, jakie cechy przetargów w jego branży go interesują, a jakich unika. Model NLP analizuje przetargi dopasowane wcześniej po kodach CPV pod kątem zgodności z dokładnymi kryteriami użytkownika. Wraz z dodatkowymi parametrami, takimi jak wartość wadium, lokalizacja i terminy, Platforma Procuro PRO ocenia każde ogłoszenie i pokazuje wyłącznie najbardziej trafne wyniki.

Jaki jest rezultat zastosowania modelu hybrydowego?

Połączenie modeli LLM i NLP w jeden pakiet pozwala zmaksymalizować dopasowanie przetargów do wymagań wykonawców. Firma zajmująca się cateringiem dla szkół podstawowych nie będzie musiała ręcznie filtrować wyników i samodzielnie wybierać spośród nich tych, których przedmiotem zamówienia jest catering szkolny. Dzięki semantycznej analizie NLP Platforma Procuro pokaże w pierwszej kolejności właśnie takie przetargi, ponieważ model rozumie i analizuje treść przedmiotu zamówienia.

Platforma Procuro PRO — semantyczna analiza ogłoszeń
+ catering w szkole podstawowej – catering firmowy
catering szkolny SP nr 14
97%
żywienie uczniów szkoła
92%
catering firmowy
9%
Przetargi ocenione semantycznie — zgodnie z kryteriami użytkownika

Zastosowanie hybrydowego modelu AI w Platformie Procuro pomaga niwelować systemowy problem wyszukiwania przetargów poprzez rozszerzenie filtrowania po kodach CPV o semantyczną analizę treści ogłoszeń.


Podsumowanie

Narzędzia sztucznej inteligencji stają się coraz bardziej powszechne. Według raportu UN Trade & Development szacuje się, że rynek AI osiągnie wartość 4,8 biliona dolarów do 2033 roku.2 Globalne rynki zostaną nieodwracalnie ukształtowane przez jego wpływ.

Przy tak gwałtownie rozwijającym się rynku należy mieć na uwadze problem tzw. „cytryny"3 — czyli asymetrii informacji, gdzie kupujący dysponuje mniejszą wiedzą niż sprzedający. Dlatego tak ważne jest etyczne wykorzystanie modeli AI: wytrenowanych na właściwych danych i odpowiednio zarządzanych.

Dla rynku zamówień publicznych narzędzia oparte na modelach AI będą kształtować sposób, w jaki firmy wyszukują przetargi, i podnosić efektywność całego procesu. Dla zamawiających oznacza to bardziej konkurencyjny rynek oparty na lepszych cenach i stabilności. Dla wykonawców — dotarcie do wszystkich przetargów i uczciwe konkurowanie z innymi.

Procuro — bezpłatne 10 dni

Zacznij monitorować przetargi dopasowane do Twojej firmy

Bez karty kredytowej. Bez automatycznego odnowienia. Pełny dostęp do wszystkich funkcji przez 10 dni.

Wypróbuj bezpłatnie →

Źródła

  1. Departament Informacji, Edukacji i Analiz Systemowych, Warszawa, 07.02.2025 r.
  2. UN Trade & Development — raport o rynku AI, 2024.
  3. Akerlof, G. A. (1970). „The Market for Lemons: Quality Uncertainty and the Market Mechanism". The Quarterly Journal of Economics.