Kompilacja Wiedzy (Knowledge Compilation)

Definition

Analogia zapożyczona z inżynierii oprogramowania, gdzie surowe dokumenty źródłowe (PDFy, notatki, artykuły) są traktowane jako "kod źródłowy", który LLM "kompiluje" do postaci trwałej Knowledge Base ("pliku binarnego").

How It Works

Zamiast przeszukiwać surowe fragmenty tekstów przy każdym pytaniu, LLM przetwarza je raz w momencie ingestji, ekstrahując esencję i integrując ją z istniejącą strukturą. Wynikowa Knowledge Base jest sformatowana tak, aby była optymalna dla przyszłych zapytań i syntez.

Key Parameters

Niezmienność źródeł (Immutability): Oryginalne pliki pozostają nienaruszone jako "ground truth".
Gęstość informacji: Skompilowana strona zawiera syntezę wielu źródeł zamiast powielać te same fakty.

When To Use

Gdy zależy nam na wysokiej jakości odpowiedzi wymagających łączenia faktów z wielu dokumentów.
Przy budowie osobistych baz wiedzy na konkretne tematy badawcze.

Risks & Pitfalls

Koszt Ingestji: Proces kompilacji jest droższy (wymaga więcej tokenów) niż proste indeksowanie RAG.
Ryzyko "utrwalenia" błędów: Halucynacja podczas kompilacji może zostać zapisana w Knowledge Base jako fakt.

concepts/compounding-knowledge - Rezultat skutecznej kompilacji.
concepts/rag-vs-knowledge - Alternatywne podejście "interpretowane".
concepts/_index_karpathy - Manifest i opis wzorca LLM Knowledge Base (Karpathy Pattern).

Sources

summaries/karpathy-llm-knowledge-breakdown

1.8 KiB Raw Blame History