Bezpečnosť AI a jej zodpovedné využitie vo firemnom prostredí

Znalosti v rozsahu kurzov uvedených v sekciách Predchádzajúce kurzy a Súvisiace kurzy

• Úvod do AI – ako funguje a čo od nej očakávať
AI ako štatistický model – prečo nie je „vševediaci systém“
Kvalita vstupu = kvalita výstupu (zásady správneho promptovania)
Kritické čítanie výstupov – nutnosť overovať fakty aj bezpečnostný obsah

• Riziká a regulačné rámce
Typy dát: verejné, interné, chránené, prísne chránené – čo do AI nikdy nevkladať
GDPR a ochrana osobných údajov vo vzťahu k AI
Ostatná legislatíva (AI ACT, SK zákon – v príprave)
Reálne incidenty (úniky obchodných plánov, zdrojového kódu, osobných dát)
Dopady na právne postavenie a reputáciu firmy
Morálne požiadavky a dopady ich nedodržania

• Porovnanie AI nástrojov z pohľadu bezpečnosti
Geopolitický pohľad na AI nástroje (USA, EÚ, Čína, …)
ChatGPT, Perplexity, Google Gemini, Microsoft Copilot – rozdiely v ochrane dát
Enterprise AI a ich režim práce s dátami (Microsoft, Google, OpenAI Enterprise)
On-premise / offline AI riešenie – kedy a prečo ich nasadiť ako „plán B“

• Bezpečné používanie AI v praxi
AI ako zdroj úniku dát
Kde končia dáta
Čo je v prompte a výstupe, môže vidieť ktokoľvek
Minimalizácia a anonymizácia dát pri práci s AI
Ako správne nastaviť prostredie a zanechávať minimum digitálnych stôp
Čo si nástroj pamätá a ako riadiť uchovávanie a históriu dát
Tvorba Znalostí a Knižníc (GPT)
Používanie iba schválených AI nástrojov a kontrola nastavenia (režim ochrany dát)
Prompt engineering. Ako formovať prompty, aké základné parametre, špecifikácie, štruktúru by mali mať prompty
Praktické cvičenia: bezpečné prompty, extrakcia a analýza dokumentov bez rizika úniku dát

• Efektívne používanie a postupy
Best practices pravidlá a odporúčania pre zamestnancov
Tvorba vlastných modelov, agentov
Správa chatov
Vzťah chatu, projektu a agenta
Využívanie Knowledge a Knižníc
Efektívne používanie – klávesové skratky, príklady protipov
Znalosti, ako efektívne a bezpečne využívať AI nástroje v každodennej práci
Riadenie štruktúry chatov
Tímová práca a podnikové zdieľanie používania AI