AI prináša obrovské príležitosti, ale aj nové bezpečnostné výzvy. Nejde len o technológiu, ide o dáta, procesy a dôveru zákazníkov.
EU AI Act: čo musíte vedieť
Od roku 2025 platia prvé časti EU AI Act. Kľúčové body pre firmy:
Vysokorizikové AI systémy (HR rozhodovanie, úverové hodnotenie, bezpečnostné systémy) vyžadujú dokumentáciu, testovanie a priebežný monitoring. Ak používate AI na rozhodovanie o ľuďoch, musíte vedieť preukázať, ako rozhodnutie vzniklo.
Generatívne AI musí byť označené. Ak generujete obsah cez AI (texty, obrázky, videá), musíte to transparentne komunikovať.
Zakázané praktiky vrátane social scoring, manipulatívneho AI a biometrického sledovania na verejných miestach.
Ochrana firemných dát
Najčastejšia bezpečnostná chyba: zamestnanec vloží dôverné firemné dáta do verejného AI chatbota. Riešenie nie je zakázať AI, ale nastaviť pravidlá:
Čo NIKDY nedávať do verejného AI:
- Osobné údaje zákazníkov
- Finančné výkazy pred zverejnením
- Obchodné tajomstvá a know-how
- Interné komunikácie a stratégie
Bezpečné alternatívy:
- Enterprise plány s DPA (ChatGPT Enterprise, Claude Pro for Teams)
- Lokálne modely (Ollama + open source modely)
- API s jasnou dátovou politikou
Prompt injection: nový typ útoku
Útočník vloží škodlivé inštrukcie do textu, ktorý AI spracováva. Napríklad do emailu zákazníka, ktorý AI asistent číta. Ak AI nie je správne zabezpečené, môže vykonať neoprávnené akcie.
Ochrana: jasné systémové inštrukcie, filtrovanie vstupov, obmedzenie oprávnení AI agentov (princíp najmenších oprávnení).
Zálohovanie a kontinuita
Čo ak váš AI poskytovateľ spadne? Čo ak zmení podmienky? Čo ak zdražie 10x?
- Pravidelne testujte alternatívnych poskytovateľov
- Uchovávajte si dáta a konfigurácie mimo AI platformy
- Majte manuálny fallback pre kritické procesy
5 krokov k bezpečnému AI vo firme
1. Audit. Zmapujte, kde všade sa AI používa (aj neoficiálne).
2. Politika. Definujte, čo je povolené a čo nie.
3. Vzdelávanie. Každý zamestnanec by mal vedieť základy AI bezpečnosti.
4. Monitoring. Sledujte, aké dáta tečú cez AI systémy.
5. Plán B. Pre každý AI systém majte alternatívu.