Large Language Models - wprowadzenie

Witaj w Module 10, @name! Darwin tutaj z Large Language Models (LLM) - najpotężniejszą technologią AI! 🤖✨

Analogia Safari: LLM to jak mądry przewodnik Safari, który przeczytał wszystkie książki o przyrodzie i potrafi odpowiedzieć na każde pytanie, pisać historie i pomagać w zadaniach!

Czym są Large Language Models?

LLM to modele AI wytrenowane na ogromnych ilościach tekstu. Potrafią rozumieć i generować ludzki język.

1# LLM może:
2# - Odpowiadać na pytania
3# - Pisać kod
4# - Tłumaczyć języki
5# - Analizować tekst
6# - Pomagać w programowaniu

Popularne modele LLM

OpenAI GPT

• GPT-5, GPT-5 mini
• Najpopularniejsze modele komercyjne
• Świetne do różnorodnych zadań

Anthropic Claude

• Claude Haiku 4.5, Sonnet 4.6, Opus 4.8
• Bezpieczny i pomocny AI
• Długi kontekst (100k+ tokenów)

Open Source

• Llama (Meta)
• Mistral
• Falcon

Podstawowe pojęcia

Tokeny

1# Tokeny to "kawałki" tekstu
2# "Hello world" = ["Hello", " world"] = 2 tokeny
3
4# Limity tokenów:
5# - GPT-5: 8k-128k tokenów
6# - Claude 4: 200k tokenów
7# - Llama: 4k-8k tokenów

Temperatura

1# Kontroluje "kreatywność" odpowiedzi
2# temperature=0 - deterministyczne, zawsze te same odpowiedzi
3# temperature=1 - bardziej kreatywne i zróżnicowane
4
5response = client.chat.completions.create(
6    model="gpt-5",
7    messages=[{"role": "user", "content": "Napisz wiersz"}],
8    temperature=0.7  # Umiarkowana kreatywność
9)

Context Window

1# Ile tekstu model "pamięta" w jednej rozmowie
2# GPT-5: 8k-128k tokenów
3# Claude: 200k tokenów (całe książki!)
4
5# Dłuższy kontekst = lepsza pamięć konwersacji

Jak działają LLM?

1# Uproszczony model działania:
2# 1. Tokenizacja - tekst -> tokeny
3# 2. Embedding - tokeny -> wektory liczbowe
4# 3. Transformer - przetwarzanie uwagi (attention)
5# 4. Generowanie - przewidywanie następnego tokenu
6
7# LLM NIE rozumieją tekstu jak ludzie
8# Są bardzo dobrymi "maszynami przewidującymi"

Zastosowania LLM

W programowaniu

• Generowanie kodu
• Debugging
• Code review
• Dokumentacja

W biznesie

• Chatboty obsługi klienta
• Analiza dokumentów
• Automatyzacja raportów

W twórczości

• Pisanie tekstów
• Brainstorming
• Tłumaczenia