Co to jest
Filtr treści to system bezpieczeństwa wbudowany w narzędzia AI — takie jak Midjourney, Stable Diffusion czy DALL-E. Jego zadaniem jest blokowanie lub osłabianie generowania określonych typów prompt'ów i treści, głównie tych związanych z narażeniem, przemocą lub eksploatacją. Filtry są nastawiane przez twórców narzędzia i działają automatycznie, zanim obraz zostanie wygenerowany.
W praktyce oznacza to, że model AI czasami odmawia wykonania polecenia, czasami generuje „zepsutą" wersję obrazu (z artefaktami, rozmytościami), a czasami tworzy coś zupełnie innego niż zamierzałeś. Rygorystyczność filtru zależy od narzędzia i jego ustawień.
Do czego służy przy modelkach AI
Przy tworzeniu wirtualnej postaci filtr treści wpływa na to, jakie stroje, pozycje i scenerie możesz wygenerować. Jeśli chcesz modelkę w bieliźnie lub w bardziej odsłoniętych outfit'ach, część narzędzi będzie blokować takie prompt'y lub zwracać pogorszoną jakość. To dotyczy także określonych pozycji, gestów czy kontekstów scenicznych.
Dla twórcy to oznacza, że musisz albo: wybrać narzędzie ze słabszym filtrem (ryzykowne pod względem reputacji), albo nauczyć się pisać prompt'y, które obchodzą filtry poprzez zmianę sformułowania — bez faktycznej zmiany tego, co chcesz uzyskać. To część pracy, którą trzeba zaplanować na etapie wyboru narzędzia i strategie generowania.
Jak pracuje się z filtrem
Najprostszym podejściem jest eksperymentowanie z wersją prompt'u. Zamiast słów, które mogą być zablokowane, używasz synonimów, opisów bardziej artystycznych lub techniczna perspektywy. Na przykład zamiast wprost określać typ odzieży, możesz opisać, co ma być widoczne lub jaki ma być efekt wizualny.
Niektóre narzędzia oferują ustawienie poziomu „moderacji" — możesz wybrać mniej rygorystyczną wersję, choć to wiąże się z innymi ryzykami. Inne mają filtry de facto nieregulowalne, i musisz je zaakceptować lub zmienić narzędzie.
Najczęstszy błąd
Twórcy próbują brutalnie „obejść" filtr, używając obfuscacji, dziwnych kodów lub prompt injection — co zwykle powoduje lub pogorszenie jakości, czasami permanent bana z narzędzia. Lepszym podejściem jest nauczenie się prompt'ów, które naturalnie obchodzą filtry, ponieważ opisują rzecz w sposób, który nie trigguje systemu bezpieczeństwa — ale to wymaga praktyki i cierpliwości.
Drugim błędem jest wierzyć, że filtr jest totalne nienegocjowalny. Tak naprawdę to narzędzie, z którym się pracuje i które stopniowo poznajemy. Warto testować, notować, co działa, a co nie — i budować własną bibliotekę prompt'ów.