Bezpečnost při práci s AI – jak se vyhnout únikům dat (AISEC)

Umělá Inteligence, AI pro uživatele

Tento dvoudenní kurz se zaměřuje na bezpečné používání nástrojů založených na umělé inteligenci v pracovním prostředí. Účastníci se seznámí s hlavními riziky spojenými s používáním AI nástrojů, jako jsou úniky citlivých informací, manipulace výstupů pomocí tzv. prompt injection nebo nekritické spoléhání na nepřesné odpovědi AI.

V průběhu kurzu si ukážeme konkrétní scénáře z praxe. Například jak může dojít k úniku interních dat při práci s AI, jak mohou dokumenty nebo e-maily obsahovat skryté instrukce manipulující AI systém a jak rozpoznat situace, kdy je nutné odpovědi AI ověřovat.

Součástí kurzu budou také praktická doporučení, jak s AI pracovat bezpečně. Účastníci se naučí, jaká data do AI nástrojů nepatří, jak bezpečně pracovat s dokumenty a externími zdroji, jak ověřovat výstupy AI a jak nastavit jednoduchá pravidla pro bezpečné používání AI v týmu nebo organizaci.

TOTO ŠKOLENÍ VÁM POMŮŽE:

  • Porozumět bezpečnostním rizikům spojeným s používáním AI nástrojů
  • Rozpoznat situace, kdy může dojít k úniku citlivých informací
  • Naučit se, jaká data do AI nástrojů nikdy nevkládat
  • Pochopit princip manipulace výstupů pomocí prompt injection
  • Naučit se ověřovat odpovědi AI a rozpoznat její limity
  • Zavést jednoduchá pravidla pro bezpečné používání AI v týmu
  • Nastavit základní principy AI governance ve firmě

KDO BY SE MĚL KURZU ZÚČASTNIT?

  • Zaměstnanci, kteří používají AI nástroje při práci s dokumenty, texty, analýzami nebo daty
  • Manažeři a vedoucí týmů, kteří chtějí nastavit bezpečná pravidla používání AI
  • Specialisté z oblastí marketingu, HR, analýzy dat, IT, právních služeb nebo zákaznické podpory
  • Všichni, kteří chtějí AI používat efektivně, ale zároveň bezpečně

KDE A KDY KURZ PROBÍHÁ?



Praha + online (volitelně)
S námi máte na výběr: Přijďte na kurz osobně do naší učebny, nebo se ke kurzu připojte online. Pokud preferujete online formu, uveďte prosím do poznámky v objednávce "Připojím se virtuálně".
Více informací k hybridní formě školení naleznete zde.
Vlastní

Náplň kurzu:

Skrýt detaily
  • Úvod do bezpečnosti AI
    1. Jak fungují generativní AI systémy (LLM) a jak pracují s kontextem a vstupními daty
    2. Typické způsoby používání AI ve firmách (ChatGPT, Copilot, interní AI asistenti)
    3. Hlavní bezpečnostní rizika spojená s používáním AI nástrojů
    4. Přehled reálných incidentů a chyb při práci s AI
  • Práce s daty při používání AI
    1. Jak AI pracuje s informacemi vloženými do promptu nebo dokumentů
    2. Jaké typy dat by neměly být sdíleny s AI nástroji (interní dokumenty, osobní údaje)
    3. Rizika sdílení citlivých informací v externích AI službách
    4. Praktické postupy anonymizace a bezpečné práce s daty
  • Manipulace výstupů (Prompt Injection)
    1. Princip prompt injection a manipulace AI výstupů
    2. Skryté instrukce v dokumentech, e-mailech nebo webovém obsahu
    3. Scénáře útoků při práci s dokumenty a externími zdroji
    4. Jak tyto útoky rozpoznat a jak se proti nim bránit
  • Důvěryhodnost odpovědí AI
    1. Halucinace AI a proč vznikají nepřesné odpovědi
    2. Jak AI pracuje se zdroji informací
    3. Metody rychlého ověřování odpovědí AI
    4. Situace, kdy je nutné AI výstupy kontrolovat nebo nepoužít
  • Bezpečné používání AI v organizaci
    1. Nastavení základních pravidel pro používání AI ve firmě
    2. AI policy a doporučené interní postupy
    3. Role zaměstnanců při bezpečném používání AI nástrojů
    4. Praktický checklist bezpečné práce s AI
  • Praktické scénáře a doporučení
    1. Analýza typických scénářů použití AI v pracovním prostředí
    2. Identifikace bezpečnostních rizik v těchto scénářích
    3. Doporučené postupy pro bezpečné používání AI nástrojů
    4. Diskuze nad konkrétními příklady z praxe
Předpokládané znalosti:
Základní zkušenost s používáním AI nástrojů (např. ChatGPT, Copilot apod.).
Časový rozvrh:
2 dny (9:00hod. - 17:00hod.)
Cena za osobu:
9 400,00 Kč (11 374,00 Kč včetně 21% DPH)