Paweł Domański
27 lines
1.8 KiB
Markdown
27 lines
1.8 KiB
Markdown
---
|
|
title: "Graduated Autonomy (Stopniowana Autonomia)"
|
|
type: "concept"
|
|
tags: [agent-ai, human-in-the-loop, automation, trust-building]
|
|
created: 2026-06-09
|
|
updated: 2026-06-09
|
|
sources: ["[[summaries/5-mental-models-for-ai-agents]]"]
|
|
confidence: high
|
|
---
|
|
|
|
# Graduated Autonomy (Stopniowana Autonomia)
|
|
|
|
## Definition
|
|
Podejście do wdrażania systemów autonomicznych (agentów AI) polegające na stopniowym zwiększaniu ich niezależności operacyjnej w miarę budowania i weryfikowania zaufania do ich decyzji przez człowieka.
|
|
|
|
## The Autonomy Gradient
|
|
Zamiast zero-jedynkowego wyboru między całkowicie manualną pracą a pełną, niekontrolowaną automatyzacją, Graduated Autonomy wprowadza płynne spektrum:
|
|
1. **Human-in-the-Loop (HITL)**: Agent przygotowuje propozycje i plany działań, ale *każda* operacja fizycznie modyfikująca system (zapis na dysk, wysłanie przelewu) wymaga wyraźnej autoryzacji i zatwierdzenia przez człowieka.
|
|
2. **Human-on-the-Loop**: Agent działa autonomicznie i bezpośrednio wykonuje zadania, ale człowiek monitoruje jego pracę w czasie rzeczywistym i ma możliwość natychmiastowego cofnięcia operacji (np. za pomocą bramki czasowej - delay przed zatwierdzeniem).
|
|
3. **Pełna autonomia (Human-out-of-the-loop)**: Agent działa całkowicie samodzielnie i podejmuje suwerenne decyzje. Człowiek wkracza wyłącznie w przypadku wystąpienia błędów krytycznych lub anomalii zgłoszonych przez agenta kontrolnego (Sędziego).
|
|
|
|
## Why It Matters
|
|
Stopniowana autonomia pozwala na bezpieczne wdrażanie sztucznej inteligencji do krytycznych obszarów biznesowych (takich jak analiza oszustw, monitoring sieci czy administracja bazami danych). Pozwala wyłapać anomalie projektowe w fazie HITL przed oddaniem agentowi pełnej kontroli nad systemem.
|
|
|
|
## Sources
|
|
- [[summaries/5-mental-models-for-ai-agents]]
|