Bezpečnost a etika používání umělé inteligence

Umělá inteligence se za posledních pár let stala běžnou součástí práce, školy i volného času. Nástroje jako ChatGPT, Gemini nebo Claude dnes používají miliony lidí denně – k psaní textů, hledání informací i rozhodování. Se vzrůstajícím využitím AI ale roste i potřeba rozumět jejím rizikům: ochraně osobních údajů, šíření nepravdivého obsahu i otázce, kdo nese odpovědnost za chybu, kterou AI udělá.

Tento článek shrnuje hlavní bezpečnostní a etické otázky spojené s používáním AI obecně – podrobné návody ke konkrétním nástrojům (ChatGPT, DeepSeek a další) najdete v samostatných článcích na tomto webu.

Bezpečnost při používání AI nástrojů

Hlavní rizika při používání AI chatbotů

Velké jazykové modely jako ChatGPT nejsou vyhledávače – generují text na základě statistické pravděpodobnosti, ne na základě ověřených faktů. Z toho plynou tři hlavní rizika:

• Halucinace – AI si může zcela vymyslet fakta, citace nebo zdroje, a prezentovat je se stejnou jistotou jako pravdivé informace. Výstup je vždy nutné ověřit u důvěryhodného zdroje, zvlášť u čísel, jmen a právních nebo zdravotních informací.
• Zneužití osobních a firemních dat – text, který do chatbotu napíšete, může být (podle nastavení konkrétní služby a typu účtu) použit k dalšímu trénování modelu. Citlivé osobní údaje, hesla, interní firemní dokumenty nebo zdravotní informace by se do veřejně dostupných AI nástrojů nemělo vkládat.
• Deepfake a generovaný obsah – nástroje na generování obrázků, hlasu a videa umožňují vytvořit přesvědčivé falzifikáty. Používají se k podvodům (falešné hlasové zprávy od "příbuzného v nouzi"), dezinformacím i cíleným phishingovým útokům.

Regulace: co dnes platí a co se připravuje (AI Act)

Evropská unie upravuje používání AI nařízením AI Act, které vstoupilo v platnost v srpnu 2024. Není to jeden den "zapnutí" – pravidla nabíhají postupně:

Co už je v platnosti

Od února 2025 platí zákaz nejnebezpečnějších praktik (např. sociální bodování občanů, manipulativní AI cílená na zranitelné skupiny, rozpoznávání emocí na pracovišti/ve škole). Od srpna 2025 platí povinnosti pro poskytovatele obecných AI modelů (tzv. GPAI, jako jsou modely za ChatGPT nebo Claude) – transparentnost tréninkových dat a technická dokumentace.

Co se odkládá

Nejstriktnější pravidla pro tzv. vysoce rizikové AI systémy (např. AI používaná při náboru zaměstnanců, úvěrovém hodnocení nebo ve zdravotnictví) měla původně platit od srpna 2026. V roce 2026 EU jedná o jejich odkladu v rámci tzv. Digitálního omnibusu – podle dostupných zpráv (stav k říjnu 2026, finální formální schválení ještě nebylo ověřitelně potvrzeno) by se odklad u samostatných vysoce rizikových systémů (příloha III) měl týkat prosince 2027, u systémů zabudovaných do regulovaných produktů (příloha I) srpna 2028. Odklad se týká jen této části pravidel, ne celého nařízení – základní zákazy a transparentnostní povinnosti běží dál.

Ochrana osobních údajů při používání AI

Modely jako ChatGPT nemají přímý přístup k databázím s osobními údaji, ale to, co do nich napíšete, se může stát součástí historie konverzace, případně (podle nastavení) i tréninkových dat. Z pohledu GDPR platí stejná pravidla jako u jakéholiv jiného zpracování osobních údajů – firmy, které AI nasazují, by měly mít jasná pravidla pro anonymizaci, šifrování a informovaný souhlas. Jednotlivci by si měli zvyknout nevkládat do veřejných AI nástrojů rodná čísla, čísla karet, hesla ani citlivé zdravotní nebo právní informace.

Ochrana osobních údajů při používání AI nástrojů

Odpovědnost: kdo nese vinu, když se AI zmýlí?

Právně stále platí, že konečnou odpovědnost za rozhodnutí nese člověk nebo organizace, která AI nasadila – ne AI samotná ani její výrobce (s výjimkou situací, kdy jde o prokazatelnou vadu produktu). To znamená, že pokud firma použije AI k filtrování životopisů uchazečů a výsledek bude diskriminační, odpovědnost nese firma. AI Act proto u vysoce rizikových nasazení vyžaduje, aby finální rozhodnutí mohl přezkoumat člověk (tzv. human oversight).

Jak AI používat bezpečně – základní zásady

• Výstupy s fakty, čísly a citacemi vždy ověřujte u druhého, nezávislého zdroje.
• Do veřejných AI nástrojů nevkládejte hesla, rodná čísla, čísla karet ani důvěrné firemní dokumenty.
• U obrázků, videí a hlasových zpráv počítejte s tím, že dnešní nástroje umí vytvořit přesvědčivý deepfake – neověřenou "nahrávku" nebo zprávu v nouzi si vždy ověřte jiným kanálem.
• U dětí a studentů je vhodné vysvětlit rozdíl mezi AI jako pomocníkem a AI jako "zdrojem pravdy" – výstup je potřeba si osvojit, zkontrolovat a nekopírovat mechanicky.

Často kladené otázky o bezpečnosti a etice AI

Může si AI vymyslet fakta, která vypadají věrohodně?

Ano, tomuto jevu se říká halucinace. Model generuje text na základě pravděpodobnosti, ne na základě ověřených dat, a vymyšlenou informaci prezentuje stejně jistě jako pravdivou. Důležitá fakta je vždy nutné ověřit u dalšího zdroje.

Je bezpečné vkládat do ChatGPT osobní nebo firemní údaje?

Citlivé údaje (hesla, rodná čísla, čísla karet, interní firemní dokumenty) by se do veřejně dostupných AI nástrojů vkládat nemělo, protože v závislosti na nastavení konkrétní služby mohou být uloženy nebo použity k dalšímu trénování modelu.

Co je AI Act a od kdy platí?

AI Act je nařízení Evropské unie regulující vývoj a nasazení umělé inteligence. Vstoupilo v platnost v srpnu 2024, ale jednotlivé povinnosti nabíhají postupně – zákaz nejrizikovějších praktik platí od února 2025, povinnosti pro obecné AI modely od srpna 2025. Nejstriktnější pravidla pro vysoce rizikové systémy se v roce 2026 odkládají (jednání o Digitálním omnibusu).

Kdo nese odpovědnost, pokud AI udělá chybu s reálným dopadem?

Odpovědnost nese osoba nebo organizace, která AI nasadila a rozhodnutí na jejím základě učinila – ne AI samotná. Proto AI Act u citlivých oblastí vyžaduje, aby konečné rozhodnutí mohl přezkoumat člověk.

Co je deepfake a jak se proti němu chránit?

Deepfake je uměle vygenerovaný obrázek, video nebo hlasová nahrávka, která vypadá nebo zní jako reálná osoba. Používá se k podvodům i dezinformacím. Nejlepší ochranou je ověřit neobvyklý nebo naléhavý požadavek (např. "pošli peníze") jiným komunikačním kanálem než tím, kterým dorazil.

Musí školy a firmy AI nějak regulovat samy?

Ano, i bez čekání na plnou účinnost AI Actu je vhodné mít interní pravidla – co lze do AI vkládat, kdo výstupy kontroluje a jak se označuje obsah vytvořený nebo upravený pomocí AI.

Znamená odklad vysoce rizikových pravidel AI Actu, že regulace neplatí vůbec?

Ne. Odklad se týká jen konkrétní části pravidel pro vysoce rizikové systémy. Zákaz nejnebezpečnějších praktik a povinnosti pro obecné AI modely (GPAI) nadále platí beze změny.