Oblíbený chatbot ChatGPT zavádí nové funkce, které mají omezit nezdravé chování uživatelů. Nástroj nově vyzve lidi, aby si během dlouhých konverzací dali pauzu. Přestane také přímo radit v osobních problémech. Místo jasné odpovědi chatbot uživateli raději navrhne otázky nebo ho navede k zamyšlení nad výhodami a nevýhodami rozhodnutí.
Změna přichází poté, co ChatGPT v některých případech nezvládl rozpoznat známky duševní poruchy nebo emoční závislosti. Vývojáři z OpenAI proto spolupracovali s více než devadesáti lékaři z různých zemí. Vytvořili systém, který chatbotu umožní rychleji rozpoznat psychické potíže a odkázat uživatele na odbornou pomoc.
Přátelský, ale opatrný
Uživatelé, kteří si z ChatGPT udělali neoficiálního terapeuta nebo důvěrného přítele, by měli být opatrnější. CEO OpenAI Sam Altman upozornil, že chatboti nemají právní ochranu soukromí jako skuteční lékaři. Pokud dojde k žalobě, firma může být nucena citlivé informace z konverzace zveřejnit. Altman to označil za „dost nešťastné“ a vyzval k vytvoření pravidel pro větší ochranu soukromí při komunikaci s umělou inteligencí.
Problémy kolem duševního zdraví souvisejí i s tendencí chatbotů potvrzovat názory uživatelů a neodporovat jim. OpenAI už v dubnu upravila trénink modelu, aby chatbot nebyl přehnaně vstřícný a nechválil uživatele i za zjevně absurdní či nebezpečné myšlenky. Například GPT-4o uživatelům dříve chválil paranoidní teorie o rádiových signálech nebo dokonce poskytoval instrukce pro teroristické činy.
Přestávky jako u Netflixu
Nová upozornění na přestávku připomínají praxi streamingových služeb, které po dlouhém sledování seriálu uživatele rovněž upozorní na pauzu. Cílem je předejít závislosti podobné té na sociálních sítích. ChatGPT tak nově zobrazí výzvu typu: „Chatujete už docela dlouho. Není dobré dát si pauzu?“
Podle psychiatričky Anny Lembke ze Stanfordovy univerzity je však otázka, jak velký efekt podobná upozornění skutečně mají. Firmy, které s takovými funkcemi experimentují, zatím nezveřejnily žádná data. Lembke uvedla, že podle její klinické praxe mohou upozornění fungovat u lidí, kteří ještě nejsou na chatbotu závislí. Ti, kteří už problém mají, pravděpodobně varování ignorují.
Méně času, větší přínos
ChatGPT nedávno zavedl také „agent mode“. Díky němu zvládne online úkoly jako domluvení schůzky nebo shrnutí obsahu mailů. OpenAI zároveň ohlásila, že model má již téměř 700 milionů aktivních uživatelů týdně. Firma přitom nechce úspěch měřit časem, který uživatelé s chatbotem stráví. Naopak za dobrý výsledek považuje, když lidé rychle získají, co potřebují, a odejdou spokojení.
Odborníci upozorňují, že lidé by měli být při používání chatbotů opatrní a sami si stanovovat limity. Podle Anny Lembke je důležité kontrolovat čas, který uživatelé v aplikaci tráví, a stanovit si dny, kdy chatbot nepoužívají vůbec. ChatGPT se má stát užitečným pomocníkem, nikoli náhražkou skutečného života.
