Co to jest
Epoka treningu to jedno pełne przejście modelu przez cały zestaw danych treningowych. Jeśli treningując model masz zbiór 1000 zdjęć swojej postaci, jedna epoka oznacza, że model zobaczył i nauczył się na podstawie wszystkich tych 1000 zdjęć dokładnie raz.
Model uczy się na mniejszych grupach zdjęć naraz (zwanych batchami), ale pojęcie epoki liczy se na poziomie całego zestawu danych. Po skończeniu pierwszej epoki model rozpoczyna drugą — znowu przechodzi przez te same zdjęcia, ale za każdym razem jego wewnętrzne parametry się zmieniają, stopniowo ulepszając się w generowaniu obrazów postaci.
Liczba epok to jedna z kluczowych decyzji przy treningu. Nie chodzi o to, aby trenować „jak najdłużej", ale aby znaleźć punkt, w którym model nauczył się reprezentacji postaci bez przeuczenia — sytuacji, gdy zaczyna memoryzować szczegóły z treningowego zbioru zamiast uogólniać cechy.
Do czego służy przy modelkach AI
Przy trenowaniu modelu generującego wirtualną modelkę liczba epok wpływa bezpośrednio na to, jak dobrze model zrozumie charakterystyczne cechy postaci. Za mało epok — model nie nauczył się dostatecznie wielu wariantów pozycji, oświetlenia czy mimiki. Za dużo epok — zamiast nauczyć się rysować „Twoją postać w różnych kontekstach" model zaczyna pamiętać konkretne zdjęcia z treningu i ma problemy z generowaniem nowych scen lub wariantów.
Praktycznie oznacza to różnicę między modelką, która wygląda naturalnie w każdym alu, a modelką, która powtarza te same dziwne artefakty w określonych pozycjach. Epoki to jeden z mechanizmów, które pomagają znaleźć złoty środek między niedostatecznym a przesadnym treningiem.
Jak się tego używa
Przy konfiguracji treningu zazwyczaj określasz liczbę epok jako jeden z parametrów. Wartość zależy od kilku czynników: wielkości zbioru treningowego (większy zbiór — zwykle mniej epok potrzeba), charakteru modelu (LoRA — metoda trenowania części modelu — może wymagać innej liczby niż trenowanie całego modelu) oraz od tego, ile czasu i mocy obliczeniowej masz dostępną.
Zazwyczaj zaczynasz od testowania wariantów. Trenujesz z kilkoma epoki, obserwujesz wyniki generowane przez model, a następnie przeprowadzasz kolejne testy z inną liczbą epok. Dobra praktyka to zapisanie checkpointów modelu po każdej epoce — wtedy możesz porównać między sobą jak model wyglądał po 5, 10, 20 czy 50 epokach bez potrzeby powtarzania całego treningu.
Monitoruj stratę (loss) podczas treningu. Jeśli strata cały czas mniejsza znaczy że model się uczy, ale możesz już widzieć kiedy ten proces wyraźnie się spowalnia — to dobry moment, aby zatrzymać treningu.
Najczęstszy błąd
Ludzie nieraz zakładają, że „więcej epok to zawsze lepiej". W rzeczywistości po pewnym momencie dodatkowe epoki nie poprawiają jakości — zaczynają ją pogorszać. Model zamiast uczyć się uniwersalnych cech postaci zaczyna zapamiętywać szczegóły konkretnych treningowych zdjęć. Efekt jest taki, że model świetnie rysuje pozycje „które widział", ale całkowicie zawala się na czegoś nowego.
Drugim błędem jest trenowanie bez sprawdzenia wyników pośrednich. Jeśli odkryjesz, że model był najlepszy po 15 epokach, ale ostatecznie trenowałeś aż 100 epok — straciłeś czas i obliczenia.