Představte si, že potřebujete rychle zjistit správné dávkování léku pro dítě, znění právního paragrafu nebo otevírací dobu úřadu. Umělá inteligence vám bleskově vyplivne sebevědomou odpověď, která ale kompletně odporuje realitě. Tomuto jevu se říká halucinace. V článku ukážeme, kdy chatbotům nevěřit a jak se chránit.
Co znamená, že AI chatbot halucinuje
Laicky řečeno: halucinace znamená, že AI vygeneruje odpověď, která zní věrohodně, ale neodpovídá realitě. Klíčový rozdíl oproti lidskému lhaní je v tom, že AI nemá záměr klamat. Základní jazykový model generuje odpověď podle pravděpodobných vzorců v textu. Pokud nemá spolehlivý zdroj, aktuální data nebo správně nastavené ověřování, může vytvořit odpověď, která zní logicky, ale fakticky neplatí.
Chová se jako velmi sebevědomý student, který u zkoušky nikdy neřekne „nevím“ a raději si vše vymyslí. V praxi pak požádáte o shrnutí dokumentu a model si domyslí část, která v něm vůbec nebyla.
Proč AI chatboti někdy odpovídají špatně
Za chybnými odpověďmi stojí několik hlavních příčin:
- Předpověď textu: Model nehledá pravdu, ale generuje nejpravděpodobnější pokračování slov. To, jak jazykové modely fungují, upřednostňuje plynulost textu před fakty.
- Zastaralá data: Pokud se legislativa změní, model bez přístupu k internetu pracuje s neplatným zákonem.
- Snaha vyhovět: Systém raději vygeneruje nesmysl, než aby přiznal, že odpověď prostě nezná.
- Špatný dotaz: Nejednoznačné zadání nutí AI domýšlet si chybějící kontext.
V praxi pak stačí dotaz na zdraví a model klidně smíchá dvě různé diagnózy do jedné nebezpečné rady.
Jaké typy AI halucinací jsou nejčastější
Smyšlená fakta a čísla
Může vám tvrdit, že konkrétní úřad má otevřeno do 18:00, i když má ve středu jen do 16:00. Může si vymyslet přesné znění paragrafu. Nebo uvést neexistující výzkum s autorem, názvem studie i rokem vydání.
Neexistující zdroje, odkazy a citace
AI si pro podporu svých tvrzení běžně vymyslí autora, studii nebo nefunkční URL. Tyto případy vymyšlených citací už vedly k reálným právním kauzám, kde advokáti předložili soudu argumentaci plnou falešné judikatury.
Chybné návody a postupy
Ať jde o kód, recept nebo úřední postup, v textu často chybí jeden kritický krok, kvůli čemuž je celý návod nefunkční.
Jak rychle odhalit halucinaci
Při každodenních situacích, ať už řešíte cestování (víza, otevírací doby), nákupy, nebo e-maily, se držte těchto pravidel:
- Ověřte fakt u primárního zdroje (web instituce, úřad, výrobce).
- U odkazů a citací vždy klikněte, zda reálně existují.
- Čím konkrétnější číslo nebo jméno, tím víc buďte opatrní.
- Položte stejnou otázku jinak a porovnejte odpovědi.
- U zdravotních, právních a finančních věcí berte AI jen jako první hrubý návrh, ne jako verdikt.
Halucinace nejsou jediné riziko. Pozor i na skilly a rozšíření pro AI
Problém není jen v tom, co AI napíše, ale i v tom, co se k ní připojuje. Moderní boti využívají takzvané skilly nebo doplňky. Jde o malé programy, které AI agentovi dovolí pracovat s vašimi soubory, e-maily nebo nakupovat na internetu.
Riziko spočívá v tom, že neověřený skill může získat přístup k citlivým datům, posílat je dál nebo provádět akce bez vašeho vědomí. Tady nejde o halucinaci, ale o bezpečnostní díru. Bezpečnost konkrétního doplňku se však dá prověřit, například bezplatným nástrojem ESET AI Skills Checker, který dokáže hrozby včas odhalit.
Pravidla pro bezpečnější používání AI
- Berte AI jako asistenta, ne jako neomylnou autoritu.
- Vždy aktivně ověřujte fakta, čísla a zdroje.
- Citlivé oblasti (zdraví, právo, peníze) vždy konzultujte s člověkem.
- Připojujte jen skilly, kterým můžete věřit, a kontrolujte jejich oprávnění.
Nejnebezpečnější na AI není to, že se občas mýlí. Nebezpečné je, že se mýlí sebevědomě. Proto se vyplatí používat ji rychle, ale nikdy slepě.
