Ogólny obraz
Tradycyjne oprogramowanie to lista instrukcji napisanych przez ludzi: jeśli wydarzy się to, zrób tamto. AI odwraca ten proces. Zamiast zapisywać reguły, inżynierowie pokazują systemowi wiele przykładów i pozwalają algorytmowi uczącemu się samodzielnie odkryć reguły.
Niemal każdy system AI, z którego dziś korzystasz, działa według tego samego schematu.
| Etap | Co się dzieje | Przykład: asystent czatu |
|---|---|---|
| Dane | Zbieranie i czyszczenie przykładów. | Duże ilości tekstu, kodu i rozmów. |
| Model | Wybór architektury z parametrami, które można dostosowywać. | Sieć neuronowa typu Transformer z miliardami parametrów. |
| Trenowanie | Dostosowywanie parametrów, aby ograniczyć liczbę błędów. | Przewidywanie następnego tokenu, a potem doskonalenie modelu na podstawie informacji zwrotnych od ludzi i AI. |
| Ocena | Testowanie na danych, których model wcześniej nie widział. | Testy porównawcze, testy bezpieczeństwa i ocena przez ludzi. |
| Wnioskowanie | Użycie modelu do przetworzenia nowych danych wejściowych. | Odpowiedź na Twoją wiadomość w kilka sekund. |
Krok 1: Dane
Dane są surowcem dla AI. Model może nauczyć się tylko wzorców obecnych w danych treningowych, dlatego ich jakość, różnorodność i reprezentatywność wpływają na wszystko, co następuje później.
- Dane ustrukturyzowane: tabele, na przykład z transakcjami, odczytami czujników lub dokumentacją medyczną.
- Dane nieustrukturyzowane: tekst, obrazy, dźwięk i wideo, które stanowią większość informacji na świecie.
- Dane z etykietami: przykłady z przypisaną poprawną odpowiedzią, takie jak zdjęcia oznaczone jako "kot" lub "pies".
- Dane syntetyczne: przykłady wygenerowane przez inne modele AI, dziś powszechnie używane do trenowania i dostrajania nowych modeli.
Przed trenowaniem dane są czyszczone, usuwane są duplikaty oraz szkodliwe treści i materiały niskiej jakości, a następnie dane są zamieniane na liczby, które model potrafi przetworzyć. W przypadku tekstu oznacza to podział na tokeny, czyli słowa lub ich fragmenty.
Krok 2: Metody uczenia się
Uczenie maszynowe pozwala uczyć się na podstawie danych na kilka sposobów. Współczesne systemy często je łączą.
Uczenie nadzorowane
Uczy się na przykładach z etykietami. Jest wykorzystywane do wykrywania spamu, klasyfikacji obrazów medycznych i przewidywania cen.
Uczenie nienadzorowane
Odkrywa strukturę danych bez etykiet, na przykład segmenty klientów lub nietypowe transakcje.
Uczenie się w sposób samonadzorowany
Samodzielnie tworzy etykiety na podstawie surowych danych, na przykład ukrywając słowo i próbując je przewidzieć. W ten sposób wstępnie trenuje się LLM.
Uczenie przez wzmocnienie
Uczy się metodą prób i błędów na podstawie nagród. Jest wykorzystywane w AI grającej w gry, robotyce i trenowaniu modeli rozumujących.
Krok 3: Sieci neuronowe
Większość współczesnych systemów AI korzysta ze sztucznych sieci neuronowych. Sieć składa się z warstw małych jednostek (neuronów). Każda jednostka mnoży otrzymane wartości przez wagi, sumuje wyniki i przekazuje je przez prostą funkcję nieliniową do następnej warstwy.
- Warstwa wejściowa otrzymuje liczby reprezentujące dane, na przykład wartości pikseli lub wektorowe reprezentacje tokenów.
- Warstwy ukryte przekształcają te liczby krok po kroku w coraz bardziej abstrakcyjne cechy, takie jak krawędzie, kształty i obiekty na obrazie.
- Warstwa wyjściowa generuje wynik, na przykład prawdopodobieństwo wystąpienia każdego z możliwych następnych słów.
Uczenie głębokie oznacza po prostu wykorzystanie sieci z wieloma warstwami. Różne architektury nadają się do różnych danych: sieci konwolucyjne do obrazów, sieci rekurencyjne do starszych systemów rozpoznawania mowy, modele dyfuzyjne do generowania obrazów, a modele Transformer do języka i coraz częściej niemal wszystkiego innego.
Krok 4: Trening
Trenowanie to proces optymalizacji, który powtarza się miliardy razy.
- Przejście w przód: model przewiduje wynik dla partii przykładów.
- Błąd: funkcja straty mierzy, jak bardzo przewidywanie odbiegało od prawidłowego wyniku.
- Propagacja wsteczna: algorytm oblicza, w jakim stopniu każda waga przyczyniła się do błędu.
- Spadek gradientowy: każda waga jest nieznacznie korygowana w kierunku, który zmniejsza błąd.
Najbardziej zaawansowane modele językowe trenuje się na ogromnych zbiorach danych, korzystając przez tygodnie lub miesiące z tysięcy wyspecjalizowanych układów (GPU lub TPU). Według publicznych szacunków trenowanie największych modeli kosztuje dziesiątki lub setki milionów dolarów. Dlatego tylko kilka firm buduje je od podstaw.
Częstym problemem jest przeuczenie: model zapamiętuje przykłady treningowe zamiast uczyć się ogólnych wzorców. Inżynierowie wykrywają je, testując model na osobnych danych walidacyjnych, a zapobiegają mu dzięki większej ilości danych, regularyzacji i wczesnemu zatrzymaniu treningu.
Krok 5: Wnioskowanie
Inferencja zachodzi wtedy, gdy korzystasz z AI. Wytrenowane wagi pozostają niezmienne, a Twoje dane wejściowe przechodzą przez sieć jeden raz (lub, w przypadku generowania tekstu, jeden raz dla każdego generowanego tokena), aby powstał wynik.
Inferencja jest znacznie tańsza niż trenowanie, ale przy setkach milionów użytkowników nadal wymaga dużych centrów danych. Dlatego dostawcy oferują modele różnej wielkości: małe, szybkie modele do prostych zadań oraz większe modele lub modele rozumujące do trudnych problemów.
Jak działają duże modele językowe
Duże modele językowe (LLM), takie jak OpenAI GPT, Anthropic Claude i Google Gemini, oraz modele z otwartymi wagami, takie jak Llama, Mistral, Qwen czy DeepSeek, powstają w kilku etapach.
Tokeny i osadzenia
Tekst jest dzielony na tokeny, a każdy token otrzymuje osadzenie: długą listę liczb odzwierciedlającą jego znaczenie. Słowa o podobnym znaczeniu mają podobne osadzenia.
Architektura Transformer i mechanizm uwagi
Architektura Transformer, wprowadzona w 2017 roku, wykorzystuje mechanizm zwany uwagą. Dla każdego tokena mechanizm ten określa, które inne tokeny w kontekście są najważniejsze. Dzięki temu model może powiązać zaimek z właściwym rzeczownikiem lub pytanie z odpowiednim fragmentem długiego dokumentu.
Trenowanie wstępne
Model przetwarza ogromne ilości tekstu i uczy się przewidywać następny token. Aby robić to dobrze, musi przyswoić gramatykę, fakty, sposoby rozumowania i wzorce pisania kodu.
Dalsze trenowanie
Surowy model po trenowaniu wstępnym jedynie kontynuuje tekst. Dostosowywanie do instrukcji, uczenie ze wzmocnieniem na podstawie informacji zwrotnej od ludzi (RLHF) i podobne metody uczą go wykonywać polecenia, prowadzić rozmowę, odmawiać spełniania szkodliwych próśb i przyznawać się do niepewności.
Kontekst i narzędzia
Podczas inferencji model widzi okno kontekstowe zawierające Twoją rozmowę, instrukcje, a czasem także wyszukane dokumenty. Generowanie wspomagane wyszukiwaniem (RAG) i wyszukiwanie w internecie dostarczają mu aktualnych informacji, których nie poznał podczas treningu.
Modele rozumujące i agenci AI
Od 2024 roku dwa kierunki rozwoju zmieniły sposób działania zaawansowanej AI w praktyce.
Modele rozumujące są trenowane, często metodą uczenia ze wzmocnieniem, aby analizować problem w kilku etapach przed udzieleniem ostatecznej odpowiedzi. Większa moc obliczeniowa wykorzystana podczas udzielania odpowiedzi zwykle poprawia wyniki w matematyce, naukach ścisłych, programowaniu i planowaniu. Większość głównych dostawców oferuje już tryby rozumowania lub „myślenia”.
Agenci AI wykorzystują model w powtarzalnym cyklu: planują, wykonują działanie za pomocą narzędzia, sprawdzają wynik i planują kolejny krok. Narzędzia mogą służyć do przeglądania internetu, uruchamiania kodu, edycji plików lub obsługi innego oprogramowania. Agenci potrafią wykonywać zadania wieloetapowe, ale nadal potrzebują jasnych celów, odpowiednich uprawnień i kontroli człowieka.
Systemy wieloagentowe idą o krok dalej: pozwalają kilku AI pełniącym różne role współpracować lub spierać się ze sobą. Badania nad „debatą AI” sugerują, że wzajemna krytyka modeli może ujawnić błędy, które umknęłyby pojedynczemu modelowi.
Co to oznacza w codziennym użytkowaniu
Wiedza o tym, jak działa AI, pomaga wypracować lepsze nawyki.
- Podawaj kontekst. Model zna tylko informacje ze swoich danych treningowych i z Twojego polecenia.
- Ważne fakty proś poprzeć uzasadnieniem i źródłami, a potem je sprawdzaj.
- Do złożonych problemów używaj modelu rozumującego, a do szybkich szkiców szybkiego modelu.
- Porównuj perspektywy. Różne modele, trenowane na różnych danych, mogą dochodzić do różnych wniosków.
Debatly ułatwia porównywanie perspektyw: kilka postaci AI debatuje nad Twoim pytaniem, a sędzia AI podsumowuje, kto przedstawił najlepsze argumenty i dlaczego. W tej samej aplikacji możesz też rozmawiać bezpośrednio z najnowszymi modelami OpenAI, Anthropic i Google.