Pracovní slovník projektu NTN
Ve zdejších článcích se možná objevuje víc „divných“ pojmů, než je běžné. Ne ze snahy působit odborně – spíš proto, že některé věci bez nich nejdou přesně pojmenovat. Pojmy níže nejsou oficiální terminologie. Je to pracovní slovník projektu NTN. Seznam je otevřený a může se měnit podle toho, kam se projekt posune.
I. Jak mluví systém
Bias (systematická odchylka)
Stabilní tendence systému odpovídat určitým směrem. Nejde o náhodnou chybu, ale o stabilní vzorec vznikající z dat, architektury nebo interakce. Bias není sám o sobě chyba. Je to vlastnost systému.
Pattern Completion Bias (automatické doplňování vzorce)
Tendence doplnit chybějící části podle známého vzoru místo přiznání nejistoty. Systém raději dokončí obraz, než aby ponechal prázdné místo.
Coherence Over Truth Bias (přednost koherence před pravdou)
Tendence dát přednost plynulé a vnitřně konzistentní odpovědi před faktickou přesností. Výsledek může být jazykově přesvědčivý a přesto nesprávný.
Context Contamination Bias (kontaminace kontextem)
Převzetí implicitních předpokladů z otázky bez jejich ověření. Kontext se stává součástí odpovědi.
Prior Anchoring Bias (ukotvení v první interpretaci)
Silné navázání na první rámec nebo hypotézu. Další vývoj konverzace se od něj obtížně odchyluje.
Drift (posun významu)
Postupné vychýlení interpretace během konverzace. Nejde o náhlou chybu, ale o nenápadnou změnu směru.
Hallucination (syntetický výmysl)
Výstup prezentovaný jako faktický, aniž by měl oporu v datech dostupných modelu. Jazyk je strukturovaný a přesvědčivý, podklad chybí.
II. Jak působí forma
Koherence (vnitřní soudržnost)
Vlastnost konkrétní výpovědi držet pohromadě logicky i jazykově.
Koherentnost (míra soudržnosti)
Míra, do jaké celý systém nebo argumentační celek působí soudržně napříč částmi.
Koherentní nesmysl
Výpověď, která je jazykově plynulá, logicky strukturovaná a působí vnitřně soudržně, ale nemá dostatečný vztah k realitě nebo faktům. Soudržnost tu nevychází z pravdivosti, ale z toho, že jazyk dobře navazuje. Právě tato hladkost může snižovat naši ochotu pochybovat.
Authority Leakage (únik autority)
Forma odpovědi může vytvářet dojem vyšší jistoty nebo kompetence, než jaká je skutečně podložena.
False Neutrality Bias (zdánlivá neutralita)
Vytváření dojmu vyváženosti i tam, kde realita vyvážená není. Jazyková symetrie může maskovat skutečnou asymetrii.
Vnímání pravdivosti (perceived truth)
Pocit, že něco je pravdivé, vyvolaný formou, plynulostí nebo autoritou projevu, nikoli nutně ověřenými daty.
III. Jak poznáváme my
Ontologie (předpoklad toho, co existuje)
To, co považujeme za reálné, podstatné nebo vůbec existující. Každý systém – technický i lidský – pracuje s určitou ontologií, i když si ji neuvědomujeme. V kontextu LLM to znamená, jaké věci se v jeho odpovědích objevují jako samozřejmé jen proto, že jsou běžné v jazyce. V NTN jde často o otázku, zda mluvíme o stejné věci, i když používáme stejné slovo.
Epistemický (vztahující se k poznání)
Týká se způsobu, jak něco víme, jak si tvoříme jistotu a jak rozlišujeme mezi přesvědčením a poznáním.
Epistemické tření (napětí v procesu poznávání)
Moment, kdy něco dává smysl, ale zároveň vzniká jemná pochybnost o tom, proč to dává smysl tak hladce.
Strukturální tření (jemný nesoulad v systému)
Situace, kdy jednotlivé části dávají smysl samy o sobě, ale jejich spojení působí lehce mimo osu.
Human Deference Bias (lidská poddajnost autoritě modelu)
Tendence přisuzovat systému větší kompetenci, než jakou skutečně má, protože jeho výstup působí jistě. Nejde o slabost jednotlivce, ale o běžnou reakci na plynulý a sebevědomý jazyk.
IV. Jak nastavujeme hranice
Guard (ochranný rámec)
Pravidlo nebo omezení, které nastavuje hranice výstupu. Je to strukturální pojistka.
Kill-switch (okamžité zastavení)
Podmínka, která při splnění přeruší další analýzu nebo generování. Používá se tam, kde by pokračování mohlo vést k metodickému zkreslení.
Context Header (rámec konverzace)
Soubor předem definovaných instrukcí a pravidel, které mají stabilizovat chování modelu v konkrétním kontextu. Je to způsob, jak si předem ujasnit, co od systému chceme, ještě než začne odpovídat. Technicky je Context Header součástí promptu – obvykle jeho rozsáhlejší a systematičtější úvodní část. Na rozdíl od běžného zadání však neslouží k vyřešení jedné otázky, ale k dlouhodobému nastavení role, priorit a omezení systému. Context Header nemůže odstranit neurčitost systému. Může ji jen omezit v konkrétním směru.
Red-team (záměrně kritické testování)
Způsob práce, který nehledá potvrzení funkčnosti, ale slabiny systému.
Misalignment (strukturální nesoulad)
Stav, kdy systém funguje podle své vnitřní logiky, ale tato logika není plně sladěna s lidským záměrem nebo realitou.
V. Jak je systém postaven
Pravděpodobnostní systém (probabilistic system)
Základní vlastnost jazykového modelu. Model negeneruje odpovědi na základě porozumění světu, ale na základě pravděpodobnosti jazykových pokračování. Každý další token vybírá podle toho, co nejlépe statisticky navazuje na předchozí kontext. Model nemá přímý přístup k realitě mimo text. Odhaduje, jaký text má nejvyšší šanci působit jako přirozené pokračování. Pokud odpověď působí inteligentně nebo jistě, je to výsledek dobře naučených jazykových vzorců, nikoli přímého přístupu k faktům. Mnohé jevy popsané v tomto slovníku – drift, pattern completion nebo preference koherence – jsou přirozeným důsledkem toho, jak je model postaven.
Emergentní jev (vznikající chování systému)
Chování nebo vlastnost, která nebyla výslovně naplánována, ale objevila se v důsledku složitosti a propojenosti systému. Nevzniká z jednoho pravidla, ale z jejich kombinace. To, co je na jednotlivých částech neviditelné, se může v celku projevit jako nová kvalita.
Prompt (vstupní zadání)
Text nebo kontext, který model dostává jako vstup. Není to jen otázka, ale celé jazykové pole, v němž se odpověď bude formovat. Způsob formulace promptu výrazně ovlivňuje podobu výstupu.
Token (základní jednotka vstupu)
Nejde o celé slovo, ale o menší jazykovou jednotku, kterou model zpracovává. Jedno slovo může být jeden token, ale také několik. Model nepracuje s významem slov jako s celky, ale s těmito jednotkami.
Inference (proces generování)
Okamžik, kdy model na základě vstupu předpovídá další tokeny. Nejde o vyhledání odpovědi, ale o postupné pravděpodobnostní skládání výstupu.
Greedy decoding (pracovně: nenasytné dekódování)
Způsob generování odpovědi, při kterém model v každém kroku vybere token s nejvyšší okamžitou pravděpodobností. Nezvažuje širší alternativy ani budoucí vývoj textu. Každé rozhodnutí je optimální v daném kroku, ale není promyšlené v širším celku. Výsledek bývá stabilní a předvídatelný, ale méně variabilní.
Sampling (výběr z pravděpodobností)
Alternativní způsob generování odpovědi, při kterém model vybírá z více pravděpodobných možností namísto vždy nejpravděpodobnější varianty. Výstup může být variabilnější a méně předvídatelný. Sampling ukazuje, že generování není pevně dané, ale pohybuje se v rámci rozdělení pravděpodobností.
Temperature (míra variability výstupu)
Parametr, který ovlivňuje, jak předvídatelné nebo variabilní budou odpovědi. Nižší hodnota vede k stabilnějším výstupům. Vyšší hodnota zvyšuje rozptyl možných pokračování.
Context Window (kontextové okno)
Maximální množství tokenů, které model dokáže udržet v aktivním kontextu. Pokud je limit překročen, starší části interakce přestávají ovlivňovat výstup.
Training Data (tréninková data)
Rozsáhlý soubor textů, z nichž se model učil jazykové vztahy. Model nepracuje s databází citací, ale s naučenými vzorci vztahů mezi tokeny.
Generalizace (zobecnění vzorců)
Schopnost modelu vytvářet odpovědi na základě naučených jazykových vzorců, nikoli konkrétních dokumentů. Model negeneruje text z jednoho zdroje, ale z obecnějších struktur, které si osvojil během tréninku.
Latentní prostor (latent space)
Abstraktní prostor vztahů mezi pojmy, ve kterém model pracuje. Nejde o mapu významů tak, jak je chápe člověk, ale o matematické uspořádání podobností a vzdáleností mezi reprezentacemi.
Alignment (sladění chování)
Soubor úprav, kterými se model přizpůsobuje lidským normám, bezpečnostním pravidlům a očekáváním. Alignment upravuje chování, nikoli základní mechanismus generování.
Nejspíš časem dojde k tomu, že některá hesla budou splývat a jiná chybět. Tento slovník nemá uzavřít význam – má ho zpřehlednit natolik, aby mezi námi nevznikal falešný souhlas jen proto, že sdílíme stejné slovo. Pokud se významy posunou, posune se i tento text.