May 17, 2026, 11:40 PM

This commit is contained in:
Paweł Domański
2026-05-18 06:40:19 +00:00
commit 64944cf004
896 changed files with 310709 additions and 0 deletions
+45
View File
@@ -0,0 +1,45 @@
---
title: "Autoresearch"
type: "concept"
tags: [AI, automatyzacja, machine-learning, karpathy]
created: 2026-05-14
updated: 2026-05-14
sources: ["[[summaries/how-to-deploy-autoresearch]]", "[[summaries/karpathy-llm-wiki-breakdown]]"]
confidence: high
---
# Autoresearch
## Definition
Wzorzec projektowy (i konkretne narzędzie autorstwa Andreja Karpathy'ego), w którym agent AI (LLM) autonomicznie prowadzi badania nad poprawą innego modelu AI. Agent modyfikuje kod źródłowy, przeprowadza eksperymenty i uczy się na ich wynikach bez bezpośredniego udziału człowieka.
## How It Works
System działa w pętli zamkniętej:
1. **Instrukcje (Meta-prompt)**: Człowiek definiuje cel i strategię w pliku (np. `program.md`).
2. **Akcja**: Agent AI modyfikuje plik `train.py`.
3. **Eksperyment**: Uruchamiany jest krótki (np. 5-minutowy) proces treningowy.
4. **Ocena**: System porównuje wynik (`val_bpb`) z poprzednim najlepszym rezultatem.
5. **Wersjonowanie**: Udane zmiany są zatwierdzane przez `git`, budując trwały postęp.
## Key Parameters
- **Budżet czasowy**: Stały czas na eksperyment (np. 5 min) wymusza szukanie najbardziej efektywnych rozwiązań.
- **val_bpb**: Obiektywna metryka sukcesu (niższa = lepsza).
- **Autonomia**: Zdolność agenta do podejmowania setek decyzji bez zatwierdzenia przez człowieka.
## When To Use
- Przy optymalizacji hiperparametrów modeli.
- Przy poszukiwaniu nowych architektur sieci neuronowych.
- W badaniach, gdzie przestrzeń poszukiwań jest zbyt duża dla człowieka.
## Risks & Pitfalls
- **Halucynacje w kodzie**: Agent może zaproponować kod, który się nie kompiluje lub daje błędne wyniki (rozwiązywane przez pętlę błędu).
- **Zasoby GPU**: System wymaga ciągłego dostępu do mocy obliczeniowej.
- **Lokalne minima**: Agent może utknąć w jednej strategii poprawy (wymaga dopracowania meta-instrukcji).
## Related Concepts
- [[concepts/ai-pipelines]] - Autoresearch to najbardziej zaawansowana forma rurociągu AI.
- [[concepts/knowledge-compilation]] - Kod modelu jest "kompilowany" przez agenta do coraz lepszej formy.
## Sources
- [[summaries/how-to-deploy-autoresearch]]
- [[summaries/karpathy-llm-wiki-breakdown]]