May 17, 2026, 11:40 PM

2026-05-18 06:40:19 +00:00
commit 64944cf004
896 changed files with 310709 additions and 0 deletions
@@ -0,0 +1,35 @@
+---
+title: "Halucynacje AI (AI Hallucinations)"
+type: "concept"
+tags: [AI, bezpieczeństwo, ryzyko]
+created: 2026-05-14
+updated: 2026-05-14
+sources: ["[[summaries/ai-impact-on-dba]]"]
+confidence: high
+---
+
+# Halucynacje AI (AI Hallucinations)
+
+## Definition
+Zjawisko, w którym model językowy (LLM) lub system AI generuje informacje, które brzmią przekonująco i logicznie, ale są całkowicie nieprawdziwe, nielogiczne lub niezgodne z faktami.
+
+## How It Works
+Wynika z probabilistycznej natury modeli AI, które przewidują kolejny najbardziej prawdopodobny token (słowo), zamiast operować na twardej bazie faktów. W administracji bazami danych może to objawiać się np. sugerowaniem nieistniejących parametrów konfiguracyjnych lub błędnych skryptów SQL.
+
+## Key Parameters
+- **Temperatura modelu**: Wyższa temperatura sprzyja kreatywności, ale zwiększa ryzyko halucynacji.
+- **Kontekst (Grounding)**: Brak dostępu do aktualnych danych technicznych zwiększa prawdopodobieństwo błędu.
+
+## When To Use
+Pojęcie kluczowe przy projektowaniu systemów [[concepts/human-in-the-loop]], gdzie człowiek musi weryfikować wyniki pracy AI.
+
+## Risks & Pitfalls
+- **Destabilizacja systemów**: Uruchomienie "halucynowanego" skryptu na produkcji może doprowadzić do utraty danych lub przestoju.
+- **Fałszywe poczucie bezpieczeństwa**: Przekonujący ton AI może uśpić czujność administratora.
+
+## Related Concepts
+- [[concepts/human-in-the-loop]] - Niezbędny mechanizm obronny przed halucynacjami.
+- [[concepts/proactive-administration]] - Ryzyko przy automatycznym dostrajaniu bazy przez AI.
+
+## Sources
+- [[summaries/ai-impact-on-dba]]