Paweł Domański
1.9 KiB
1.9 KiB
title, type, tags, created, updated, sources, confidence
| title | type | tags | created | updated | sources | confidence | |||||
|---|---|---|---|---|---|---|---|---|---|---|---|
| Local-First AI (Lokalna Sztuczna Inteligencja) | concept |
|
2026-06-09 | 2026-06-09 |
|
high |
Local-First AI (Lokalna Sztuczna Inteligencja)
Definition
Podejście do projektowania systemów opartych na sztucznej inteligencji, w którym priorytetem jest przechowywanie danych użytkownika oraz wykonywanie częstych, codziennych operacji na urządzeniu lokalnym, przy jednoczesnym wykorzystaniu chmurowych LLM tylko do zadań wymagających wysokiego poziomu syntezy.
Core Architecture
Modelowy system Local-First AI (np. system MarcOS opisany przez Marca Barę) składa się z następujących elementów:
- Lokalna Baza Danych: Jedna lekka baza (np. entities/sqlite) synchronizowana za pomocą bezpiecznych usług chmurowych (np. Dropbox) w celu zachowania spójności między urządzeniami.
- Zero-Token Daily View (Bezkosztowy Interfejs Codzienny): Frontend (często pojedynczy plik HTML ze skryptami WebAssembly typu entities/sql-js) odczytuje i wizualizuje dane bez odwoływania się do API modeli językowych.
- Agent jako "Mechanik": Agent AI terminalowy (entities/claude-code) jest wywoływany tylko do procesów nieskryptowalnych (np. cotygodniowy przegląd, inteligentne parsowanie e-maili, generowanie dokumentów tekstowych).
- Zrównoważony Git: Do kontroli wersji stosuje się tekstowe zrzuty bazy danych (np.
.sql), co pozwala zachować lekkość repozytorium oraz możliwość precyzyjnego przeglądu różnic w historii (diffs).
Why It Matters
Rozwiązuje problem marnowania tokenów (i związanych z tym kosztów), zapewnia pełną prywatność wrażliwych danych osobowych i biznesowych, a także gwarantuje działanie podstawowych funkcji aplikacji bez dostępu do sieci Internet.