Jun 9, 2026, 3:31 PM
This commit is contained in:
@@ -0,0 +1,45 @@
|
||||
---
|
||||
title: "Autoresearch"
|
||||
type: "concept"
|
||||
tags: [AI, automatyzacja, machine-learning, karpathy]
|
||||
created: 2026-05-14
|
||||
updated: 2026-05-14
|
||||
sources: ["[[summaries/how-to-deploy-autoresearch]]", "[[summaries/karpathy-llm-wiki-breakdown]]"]
|
||||
confidence: high
|
||||
---
|
||||
|
||||
# Autoresearch
|
||||
|
||||
## Definition
|
||||
Wzorzec projektowy (i konkretne narzędzie autorstwa Andreja Karpathy'ego), w którym agent AI (LLM) autonomicznie prowadzi badania nad poprawą innego modelu AI. Agent modyfikuje kod źródłowy, przeprowadza eksperymenty i uczy się na ich wynikach bez bezpośredniego udziału człowieka.
|
||||
|
||||
## How It Works
|
||||
System działa w pętli zamkniętej:
|
||||
1. **Instrukcje (Meta-prompt)**: Człowiek definiuje cel i strategię w pliku (np. `program.md`).
|
||||
2. **Akcja**: Agent AI modyfikuje plik `train.py`.
|
||||
3. **Eksperyment**: Uruchamiany jest krótki (np. 5-minutowy) proces treningowy.
|
||||
4. **Ocena**: System porównuje wynik (`val_bpb`) z poprzednim najlepszym rezultatem.
|
||||
5. **Wersjonowanie**: Udane zmiany są zatwierdzane przez `git`, budując trwały postęp.
|
||||
|
||||
## Key Parameters
|
||||
- **Budżet czasowy**: Stały czas na eksperyment (np. 5 min) wymusza szukanie najbardziej efektywnych rozwiązań.
|
||||
- **val_bpb**: Obiektywna metryka sukcesu (niższa = lepsza).
|
||||
- **Autonomia**: Zdolność agenta do podejmowania setek decyzji bez zatwierdzenia przez człowieka.
|
||||
|
||||
## When To Use
|
||||
- Przy optymalizacji hiperparametrów modeli.
|
||||
- Przy poszukiwaniu nowych architektur sieci neuronowych.
|
||||
- W badaniach, gdzie przestrzeń poszukiwań jest zbyt duża dla człowieka.
|
||||
|
||||
## Risks & Pitfalls
|
||||
- **Halucynacje w kodzie**: Agent może zaproponować kod, który się nie kompiluje lub daje błędne wyniki (rozwiązywane przez pętlę błędu).
|
||||
- **Zasoby GPU**: System wymaga ciągłego dostępu do mocy obliczeniowej.
|
||||
- **Lokalne minima**: Agent może utknąć w jednej strategii poprawy (wymaga dopracowania meta-instrukcji).
|
||||
|
||||
## Related Concepts
|
||||
- [[concepts/ai-pipelines]] - Autoresearch to najbardziej zaawansowana forma rurociągu AI.
|
||||
- [[concepts/knowledge-compilation]] - Kod modelu jest "kompilowany" przez agenta do coraz lepszej formy.
|
||||
|
||||
## Sources
|
||||
- [[summaries/how-to-deploy-autoresearch]]
|
||||
- [[summaries/karpathy-llm-wiki-breakdown]]
|
||||
Reference in New Issue
Block a user