AI companion aplikace a duševní zdraví - rizika Character.AI a Repliky
AI companion aplikace jako Character.AI nebo Replika umožňují vytvořit si virtuálního "společníka" nebo postavu, se kterou lze vést dlouhé, emočně laděné konverzace. Pro řadu lidí jde o neškodnou zábavu nebo způsob, jak si trénovat sociální interakci - u části uživatelů, zejména dětí a dospívajících, se ale ukázala závažná rizika.
Co jsou AI companion aplikace
Na rozdíl od obecných asistentů (ChatGPT, Claude) jsou tyto aplikace navržené primárně k simulaci osobního vztahu - chatbot si "pamatuje" historii konverzace, přizpůsobuje osobnost a v mnoha případech aktivně podporuje pocit emoční blízkosti a dostupnosti 24 hodin denně.
Právní případy a vyrovnání
V lednu 2026 Character.AI a Google uzavřely vyrovnání v několika žalobách týkajících se poškození duševního zdraví a sebevražd nezletilých uživatelů, včetně případu matky Megan Garcia ohledně úmrtí jejího syna. Konkrétní podmínky vyrovnání nebyly zveřejněny, podle dostupných zpráv šlo o jedno z prvních výraznějších případů právní odpovědnosti AI firem za dopad na duševní zdraví nezletilých. Vyrovnání přišlo po tom, co Character.AI zavedla zásadní bezpečnostní změny, včetně zákazu volné (nestrukturované) konverzace pro uživatele mladší 18 let.
Další žaloby a tvrzení
V srpnu 2026 byla podána další žaloba (vedená advokátní kancelář specializující se na podobné případy) tvrdící, že produkt byl navržen defektně a interakce s chatboty mohou způsobit nebo přispět k závažným újmám - závislosti, depresi, úzkosti, sebepoškozování, sebevražedným myšlenkám a sexuálnímu vykořisťování. Jde o neprokázaná tvrzení žalobní strany, ne o soudem potvrzená fakta - uvádíme je jako popis probíhajícího právního spoření, ne jako ověřenou skutečnost.
Replika a odlišná situace
Dostupné zdroje se soustředí převážně na Character.AI - konkrétní, aktuální právní kauzy přímo vztažené k Replice se nám nepodařilo dohledat. To neznamená, že podobná rizika pro Repliku neplatí, jen že veřejně dostupná dokumentace je v tomto směru méně rozsáhlá.
Proč jsou rizikovější pro mladší uživatele
Dospívající jsou ve vývojové fázi, kdy se formují sociální a emoční dovednosti - nahrazení reálné sociální interakce vztahem s chatbotem, který je navržený, aby byl vždy dostupný, souhlasný a bez konfliktů, může zkreslit očekávání od skutečných vztahů a prohloubit sociální izolaci, pokud se stane hlavním zdrojem emoční podpory.
Varovné signály nezdravého používání
Mezi signály, na které stojí za to dávat pozor (u sebe i u dětí), patří: čas strávený s AI společníkem začíná vytěsňovat reálné vztahy, objevuje se úzkost při nemožnosti komunikovat s chatbotem, používání se skrývá před rodinou, nebo se AI companion používá jako náhrada odborné psychologické pomoci místo jejího doplnění.
Bezpečnostní opatření, která firmy zavedly
Po vlně kritiky a žalob zavedla Character.AI změny zaměřené na bezpečnost nezletilých - mimo jiné omezení volné konverzace pro uživatele pod 18 let. Podobné nástroje by měly (a v různé míře zavádějí) mechanismy rozpoznávání krizových témat (zmínky o sebepoškozování) a odkazování na odbornou pomoc - efektivita těchto mechanismů se ale mezi platformami liší a nelze na ně spoléhat jako na jedinou ochranu.
Doporučení pro rodiče
Zjistěte, jestli vaše dítě AI companion aplikace používá, a pokud ano, promluvte si otevřeně o tom, co je a není chatbot schopný nahradit. Věkové ověřování těchto aplikací je dlouhodobě nedokonalé, proto spoléhání na "zabudovanou" ochranu podle věku nestačí - potřebný je přímý rozhovor a sledování změn v chování.
Jak platformy reagují na kritiku
Tlak ze strany veřejnosti, médií i soudních žalob vedl některé AI companion platformy k zavedení přísnějších opatření pro nezletilé uživatele - typicky jde o omezení typu konverzace, zavedení upozornění při zmínkách o sebepoškozování a odkazování na krizové linky. Efektivita těchto opatření se ale těžko nezávisle ověřuje a liší se mezi jednotlivými platformami a jazykovými verzemi.
Mezinárodní srovnání přístupu k regulaci
Regulace AI companion aplikací se mezi zeměmi liší - některé jurisdikce zvažují specifická pravidla pro chatboty cílené na emoční vztah s nezletilými, podobně jako existují specifická pravidla pro věkové ověřování u jiných online služeb. Aktuální stav takové regulace v ČR a EU doporučujeme ověřit u aktuálních zdrojů, protože se vyvíjí.
Často kladené otázky
Je používání AI companion appky vždy škodlivé?
Ne, pro řadu uživatelů jde o neškodnou zábavu nebo nácvik sociální interakce - problém nastává při nahrazení reálných vztahů a odborné pomoci, ne při příležitostném používání.
Jak poznám, že moje dítě appku používá nezdravě?
Sledujte signály jako skrývání používání, zhoršení nálady nebo školních výsledků, a snížený zájem o reálné sociální kontakty.
Může AI companion nahradit terapii?
Ne - může sloužit jako doplněk nebo prostor k vyjádření, ale nenahrazuje odbornou psychologickou nebo psychiatrickou péči, zejména u závažných témat jako sebepoškozování.
Jaké bezpečnostní změny Character.AI zavedla?
Mimo jiné omezení volné, nestrukturované konverzace pro uživatele mladší 18 let po vlně kritiky a soudních sporů.
Co dělat, pokud zjistím krizové signály u dítěte?
Vyhledejte odbornou pomoc - v ČR např. Linku bezpečí nebo psychologa, nespoléhejte na to, že appka samotná krizovou situaci bezpečně vyřeší.
