Files
DBAdmin/brain/raw/articles/Poza tradycyjnym RAG_ Dogłębne zagłębienie się w koncepcję LLM knowledge Andreja Karpathy'ego.md
2026-06-18 10:01:11 +00:00

7.4 KiB

title, source, author, published, created, description, tags
title source author published created description tags
Poza tradycyjnym RAG: Dogłębne zagłębienie się w koncepcję LLM Knowledge Base Andreja Karpathy'ego https://medium.com/codetodeploy/beyond-traditional-rag-a-deep-dive-into-andrej-karpathys-llm-knowledge-concept-329cbeebd842
Jiten Oswal
2026-04-11 2026-06-18 More
clippings

Niedawno Andrej Karpathy zaproponował przełomową alternatywę zwaną LLM Knowledge Base (gist link). Zamiast pobierać surowe dane na bieżąco, LLM stopniowo buduje i utrzymuje ustrukturyzowaną, powiązaną kolekcję plików markdown, która znajduje się pomiędzy tobą a surowymi źródłami.

Większość programistów budujących obecnie duże modele językowe opiera się na generowaniu rozszerzonym na wyszukiwanie (RAG). Typowy przebieg jest prosty: przesyłasz dokumenty, system je dzieli na części, pobiera odpowiednie fragmenty w czasie zapytania i generuje odpowiedź. Choć to działa, cierpi na poważną wadę — amnezję. LLM jest zmuszony odkrywać wiedzę od zera przy każdym zapytaniu. Jeśli zadasz zniuansowane pytanie wymagające syntezy wielu dokumentów, system musi wielokrotnie odnajdywać i składać te fragmenty. Nic się nie kumuluje.

🆓 Przeczytaj cały artykuł za darmo tutaj → darmowy link
👉 do artykułu. Śledź, aby poznać więcej takich szczegółowych analiz AI → https://medium.com/@jiten.p.oswal

Niedawno Andrej Karpathy zaproponował przełomową alternatywę zwaną LLM Knowledge Base (gist link). Zamiast pobierać surowe dane na bieżąco, LLM stopniowo buduje i utrzymuje ustrukturyzowaną, powiązaną kolekcję plików markdown, która znajduje się pomiędzy tobą a surowymi źródłami. Czyta, wyodrębnia i integruje nowe informacje w rozwijającej się knowledge.

Oto dogłębne wyjaśnienie, jak działa ta architektura, dlaczego rozwiązuje wąskie gardło RAG oraz jak społeczność open-source już ją rozwija.

RAG vs. LLM Knowledge Base — Od efemerycznego wyszukiwania do kumulacji wiedzy

Główna koncepcja: Trwały, kumulujący się artefakt

Najważniejszą różnicą między tradycyjnym RAG a LLM Knowledge Base jest to, że knowledge jest trwałym**, kumulującym się artefaktem**. Odniesienia krzyżowe są wyraźnie tworzone, sprzeczności są oznaczane, a synteza wiedzy odzwierciedla wszystko, co zgromadziłeś przez lata.

W tym workflow rzadko piszesz knowledge sam. Twoja rola polega na kuratorstwie i eksploracji: pozyskiwaniu dokumentów i zadawaniu właściwych pytań. LLM pełni rolę opiekuna, wykonując żmudną księgowość — streszczając, krzyżując i archiwizując. Jak opisuje Karpathy, jeśli Obsidian jest IDE, to LLM jest programistą, a knowledge to baza kodu.

Architektura trójwarstwowa

Aby to działało, architektura jest podzielona na trzy wyraźne warstwy:

  1. Surowe źródła: Twoja wyselekcjonowana kolekcja PDF-ów, artykułów, obrazów i plików danych. Są one niezmienne; LLM je czyta, ale nigdy ich nie zmienia, służąc jako twoje absolutne źródło prawdy.
  2. Knowledge Base: Katalog plików markdown generowanych przez LLM, zawierających strony koncepcyjne, podsumowania encji i syntezy. LLM całkowicie kontroluje tę warstwę — pisze i aktualizuje ją wraz z pojawianiem się nowych źródeł.
  3. Schemat: Dokument konfiguracyjny (taki jak lub ), który określa strukturę, konwencje i workflow knowledge. To zapobiega działaniu LLM jak zwykły chatbot i dyscyplinuje go do rygorystycznego otrzymywania knowledge.CLAUDE.md AGENTS.md

LLM Knowledge Base — Architektura 3-poziomowa do łączenia wiedzy

Silnik knowledge: operacje i księgowość

System pozostaje dynamiczny poprzez trzy kluczowe operacje:

  • Spożycie: Gdy dodane jest nowe źródło, LLM je czyta, omawia z Tobą wnioski, pisze stronę podsumowującą, aktualizuje odpowiednie strony koncepcyjne i rejestruje działania.
  • Zapytanie: Zadajesz pytania na knowledge. Prawdziwą magią jest tu koncepcja "file back": dobre odpowiedzi, porównania czy analizy generowane podczas zapytania nie powinny zniknąć w historii czatu. Są one ponownie wpisywane do knowledge jako zupełnie nowe strony, co pozwala na kumulację eksploracji.
  • Kłaczki: Okresowo LLM pełni rolę kontrolera zdrowia. Skanuje pod kątem przestarzałych twierdzeń, brakujących odnośników, sierot stron i sprzeczności.

Aby poruszać się po tym bez silnej infrastruktury wektorowej, knowledge opiera się na (katalogu wszystkich stron zorientowanym na treść) oraz (chronologicznym, tylko do dodawania zapisie wejścia i zapytań).index.md log.md

LLM Knowledge Base — Cykl Wiedzy Złożonej

Innowacje społecznościowe na LLM Knowledge Base

Społeczność deweloperów szybko zjednoczyła się wokół tej koncepcji, identyfikując wyzwania i budując solidne rozszerzenia:

  • Deterministyczne wyszukiwanie: Deweloper emailhuynhhuy dostosował architekturę do przepływów pracy n8n, traktując warstwę knowledge jako graf nawigacyjny Obsidian, jednocześnie zachowując surowe źródła jako zweryfikowane, wykonywalne pliki JSON — zapewniając 100% niezawodne i wolne od halucynacji wykonanie.
  • Progresywna pamięć i zarządzanie: Projekt AI-Context-OS wprowadził warstwowe elementy frontowe YAML (L0, L1, L2) do kontroli gęstości informacji i zapisywania tokenów kontekstowych, obok aktywnej telemetrii opartej na SQLite do audytu stanu pamięci i automatycznego usuwania redundancji.
  • Pisane kontrakty JSON: Projekt knowledgemind odkrył, że użycie typowanego kontraktu JSON zamiast swobodnego markdownu sprawia, że kompilator jest znacznie bardziej stabilny wśród różnych dostawców LLM, a jednocześnie dodaje "twierdzenia oznaczone zaufaniem", aby faza lintingu była prostym zapytaniem SQL.
  • Architektura grafów: Projekty takie jak SwarmVault i grover traktują odwołania krzyżowe jako pierwszorzędne, trwałe krawędzie grafu, a nie tylko linki tekstowe, co pozwala na buforowanie podobieństw semantycznych i automatyczne śledzenie zależności.

Wzór LLM Knowledge Base udowadnia, że przyszłość osobistej i organizacyjnej AI to nie tylko szybsze czytanie; chodzi o efektywne kumulowanie wiedzy, tak aby koszt utrzymania genialnej, powiązanej bazy wiedzy spadł niemal do zera.

Podobało Ci się to dogłębne zanurzenie?

Piszę o systemach AI, AI i inżynierii danych, wewnętrznych aspektach LLM, architekturze platform i wszystkim, co związane ze startupami.

👉 Śledź mnie na Medium lub Twitterze (X), aby zobaczyć podobne szczegółowe analizy.

Masz trudne pytanie o system AI i LLM? Wrzuć to w komentarzach, a może napiszę kolejną dogłębną analizę na ten temat, jeśli będzie wystarczająco dużo zainteresowania.

Dziękuję, że jesteś częścią naszej społeczności

Zanim pójdziesz:

👉 Koniecznie klaszcz i podążaj za autorem