Large Language Models - wprowadzenie

Witaj w Module 10! Darwin tutaj z Large Language Models (LLM) - najpotężniejszą technologią AI!

Przez cały moduł 9 trenowaliśmy modele, które robiły jedną rzecz: rozpoznawały gatunek albo przewidywały populację. Każde nowe zadanie oznaczało nowy zbiór danych i nowy trening. Duże modele językowe działają inaczej - jeden model odpowiada na pytania, pisze kod i tłumaczy teksty, a zadanie opisujesz mu zwykłym językiem.

Analogia Safari: LLM to jak mądry przewodnik Safari, który przeczytał wszystkie książki o przyrodzie i potrafi odpowiedzieć na każde pytanie, pisać historie i pomagać w zadaniach! Ma jednak jedną wadę: gdy czegoś nie wie, potrafi z pełnym przekonaniem opowiedzieć zmyśloną historię.

Czym są Large Language Models?

LLM to modele AI wytrenowane na ogromnych ilościach tekstu. Potrafią rozumieć i generować ludzki język.

Oto lista rzeczy, do których najczęściej je zaprzęgamy:

1# LLM może:
2# - Odpowiadać na pytania
3# - Pisać kod
4# - Tłumaczyć języki
5# - Analizować tekst
6# - Pomagać w programowaniu

To nie jest kod do uruchomienia, tylko ściąga w komentarzach. Wszystkie te zadania model wykonuje tą samą metodą - zmienia się jedynie polecenie, które mu wysyłasz, czyli prompt.

Popularne modele LLM

Rynek zmienia się co kilka miesięcy, więc nazwy poniżej traktuj jako zdjęcie z wyprawy, a nie mapę na zawsze. Aktualną listę zawsze sprawdzisz w dokumentacji dostawcy.

OpenAI GPT

• GPT-5, GPT-5 mini
• Najpopularniejsze modele komercyjne
• Świetne do różnorodnych zadań

GPT-5 to model rozumujący, a OpenAI wydaje już kolejne generacje.

Anthropic Claude

• Claude Haiku 4.5, Sonnet 5, Opus 5.5 (wcześniej m.in. Sonnet 4.6 i Opus 4.8)
• Bezpieczny i pomocny AI
• Długi kontekst (od 200k do 1M tokenów, zależnie od modelu)

Open Source

• Llama (Meta)
• Mistral
• Falcon

Precyzyjniej mówi się o modelach open-weight: możesz pobrać ich wagi i uruchomić je na własnym sprzęcie, ale licencja, jak w przypadku Llamy, może stawiać warunki.

Podstawowe pojęcia

Tokeny

Model nie czyta liter ani całych słów, tylko tokeny - kawałki tekstu, na które dzieli go tokenizer:

1# Tokeny to "kawałki" tekstu
2# "Hello world" = ["Hello", " world"] = 2 tokeny
3
4# Limity tokenów (okno kontekstu, przykłady):
5# - GPT-5: 400k tokenów
6# - Claude: 200k-1M tokenów (zależnie od modelu)
7# - Llama 3.1: 128k tokenów

Zauważ, że spacja należy do tokenu " world". Tekst po polsku zwykle zużywa więcej tokenów niż ten sam tekst po angielsku, a za tokeny płacisz w API, więc to realny koszt.

Temperatura

Model przy każdym kroku wybiera kolejny token spośród wielu kandydatów. Temperatura decyduje, jak śmiało sięga po mniej prawdopodobne. Do wywołania potrzebujemy klienta z biblioteki openai, który odczyta klucz API ze zmiennej środowiskowej OPENAI_API_KEY:

1# Kontroluje "kreatywność" odpowiedzi
2# temperature=0 - prawie deterministyczne, bardzo powtarzalne odpowiedzi
3# temperature=1 - bardziej kreatywne i zróżnicowane
4
5from openai import OpenAI
6
7client = OpenAI()
8
9response = client.chat.completions.create(
10    model="gpt-4.1-mini",
11    messages=[{"role": "user", "content": "Napisz wiersz"}],
12    temperature=0.7  # Umiarkowana kreatywność
13)

messages to lista wiadomości z rolą i treścią, a tekst odpowiedzi odczytasz przez response.choices[0].message.content. Nawet przy temperature=0 nikt nie gwarantuje identycznych odpowiedzi, są tylko bardzo powtarzalne. W OpenAI zakres to 0-2, w Anthropic 0-1. Ważna pułapka: modele rozumujące, takie jak GPT-5, odrzucają temperaturę inną niż domyślna 1, dlatego w przykładzie użyłem gpt-4.1-mini. Do ekstrakcji danych i kodu polecam niską temperaturę, do burzy mózgów wyższą.

Context Window

Okno kontekstu to limit tokenów, które model obejmuje naraz - Twoje pytanie, historię rozmowy i jego odpowiedź:

1# Ile tekstu model "pamięta" w jednej rozmowie
2# GPT-5: 400k tokenów
3# Claude: 200k-1M tokenów (całe książki!)
4
5# Dłuższy kontekst = lepsza pamięć konwersacji

"Pamięć" jest tu umowna. Model między wywołaniami API nie pamięta niczego - to Twoja aplikacja za każdym razem wysyła całą dotychczasową rozmowę. Gdy przekroczy ona okno, najstarsze wiadomości trzeba skrócić albo pominąć.

Jak działają LLM?

Pod maską każda odpowiedź powstaje w czterech krokach:

1# Uproszczony model działania:
2# 1. Tokenizacja - tekst -> tokeny
3# 2. Embedding - tokeny -> wektory liczbowe
4# 3. Transformer - przetwarzanie uwagi (attention)
5# 4. Generowanie - przewidywanie następnego tokenu
6
7# LLM NIE rozumieją tekstu jak ludzie
8# Są bardzo dobrymi "maszynami przewidującymi"

Mechanizm attention pozwala modelowi przy każdym tokenie ważyć, które wcześniejsze słowa są istotne. Krok 4 powtarza się token po tokenie, aż odpowiedź się skończy. Stąd biorą się halucynacje: model tworzy tekst prawdopodobny, a nie sprawdzony, więc ważne fakty zawsze weryfikuj.

Zastosowania LLM

W programowaniu

• Generowanie kodu
• Debugging
• Code review
• Dokumentacja

W biznesie

• Chatboty obsługi klienta
• Analiza dokumentów
• Automatyzacja raportów

W twórczości

• Pisanie tekstów
• Brainstorming
• Tłumaczenia

W następnej lekcji połączymy się z API i wyślemy pierwsze prawdziwe zapytanie, a w kolejnych nauczymy model korzystać z narzędzi.

Pamiętaj: LLM to oczytany przewodnik, który przewiduje następne słowo - słuchaj go chętnie, ale mapę sprawdzaj sam.