Bezpečnost, etika a rizika AI
Rychlý rozvoj umělé inteligence přináší i řadu etických a bezpečnostních otázek, se kterými se společnost teprve učí vypořádat. Deepfake videa a fotografie mohou být zneužity k podvodům, dezinformacím nebo poškození reputace konkrétní osoby, a jejich kvalita je dnes taková, že je lidské oko často nedokáže od reálného záznamu odlišit. Stejně aktuální je otázka autorských práv k obsahu, který AI vytvoří na základě trénování na miliardách existujících textů a obrázků – a to, komu takový výsledek vlastně patří, zatím není ve všech zemích jasně vyřešeno.
Dalším tématem je zkreslení (bias) v rozhodování AI systémů – pokud byl model trénován na datech, která obsahovala nerovnováhu nebo předsudky, může tyto vzorce nevědomky kopírovat i ve svých odpovědích nebo doporučeních, což má reálné dopady například při použití AI v náboru zaměstnanců. Nově se řeší i označování AI generovaného obsahu (tzv. watermarking, standard C2PA), které má lidem pomoci rozlišit, co vytvořil člověk a co stroj.
V této podkategorii se dozvíte, jak poznat deepfake, jaká jsou rizika zneužití AI v kybernetických útocích, co znamená AI značení obsahu, jak je to s autorským zákonem v ČR ve vztahu k AI, a jaká rizika přinášejí doporučovací algoritmy na sociálních sítích.
