Kompilacja Wiedzy (Knowledge Compilation)

Definition

Analogia zapożyczona z inżynierii oprogramowania, gdzie surowe dokumenty źródłowe (PDFy, notatki, artykuły) są traktowane jako "kod źródłowy", który LLM "kompiluje" do postaci trwałej Wiki ("pliku binarnego").

How It Works

Zamiast przeszukiwać surowe fragmenty tekstów przy każdym pytaniu, LLM przetwarza je raz w momencie ingestji, ekstrahując esencję i integrując ją z istniejącą strukturą. Wynikowa Wiki jest sformatowana tak, aby była optymalna dla przyszłych zapytań i syntez.

Key Parameters

Niezmienność źródeł (Immutability): Oryginalne pliki pozostają nienaruszone jako "ground truth".
Gęstość informacji: Skompilowana strona zawiera syntezę wielu źródeł zamiast powielać te same fakty.

When To Use

Gdy zależy nam na wysokiej jakości odpowiedzi wymagających łączenia faktów z wielu dokumentów.
Przy budowie osobistych baz wiedzy na konkretne tematy badawcze.

Risks & Pitfalls

Koszt Ingestji: Proces kompilacji jest droższy (wymaga więcej tokenów) niż proste indeksowanie RAG.
Ryzyko "utrwalenia" błędów: Halucynacja podczas kompilacji może zostać zapisana w Wiki jako fakt.

concepts/compounding-knowledge - Rezultat skutecznej kompilacji.
concepts/rag-vs-wiki - Alternatywne podejście "interpretowane".

Sources

summaries/karpathy-llm-wiki-breakdown

1.7 KiB Raw Blame History