Kde končí tvoje data? Bezpečnost AI systémů bez mlžení
Nejčastější věta, kterou od firem slyšíme: „Nechceme, aby se AI naučila naše data." Fér obava — a přesně ta, na kterou má dodavatel odpovídat konkrétně, ne marketingově. Tady je, jak to s daty v AI systémech doopravdy je, a 10 otázek, které polož každému, kdo ti AI systém staví.
Strach číslo jedna: „AI se moje data naučí"
Tenhle strach vychází z reálné zkušenosti — ale s konzumními aplikacemi. Když zaměstnanec vloží smlouvu do free verze veřejného chatu, data můžou skončit v trénování. Firemní systémy ale s AI mluví přes API — a velcí poskytovatelé (Anthropic, OpenAI, Google) na API datech standardně netrénují, smluvně.
Takže paradox: největší riziko úniku dat do AI není systém od dodavatele, ale zaměstnanci s free chatem v druhém okně prohlížeče. Firemní AI systém tohle riziko snižuje, ne zvyšuje — dává lidem bezpečnou cestu, jak AI používat.
Kde data bydlí
Tvoje data bydlí ve tvé databázi — ne „v AI". Databáze i zálohy můžou běžet v EU regionu, systém běží na účtech, které vlastníš nebo kontroluješ, a ty zůstáváš správcem dat. AI model je nástroj, který do dat nahlíží při konkrétní úloze — není to místo, kam se data stěhují.
Co z toho AI vůbec vidí
Dobře postavený systém dává AI jen výřez dat potřebný k úloze — ne klíče od celé databáze. Když AI odpovídá zákazníkovi na dotaz o produktu, vidí katalog, ne účetnictví. Když čte smlouvu, vidí tu jednu smlouvu, ne archiv. A hesla, klíče a přístupy do AI nepatří nikdy.
Izolace: tvoje data nejsou v jednom pytli s cizími
U systémů, kde vedle sebe žije víc klientů (multi-tenant), je klíčová otázka, kde je postavená zeď. Správná odpověď: na úrovni databáze, ne jen v aplikaci — data jednoho klienta jsou od druhého oddělená i kdyby aplikace udělala chybu. Přístupy se řídí rolemi: rodič vidí svoje dítě, trenér svou skupinu, majitel svůj klub.
Šifrování, zálohy, auditní stopa
Základní hygiena, na kterou se máš ptát a dodavatel odpovídat bez zaváhání: data šifrovaná při přenosu i v klidu, automatické zálohy s vyzkoušenou obnovou, a auditní log — u AI systémů zvlášť: co AI udělala, kdy, pro koho a z jakého podkladu. Když tohle chybí, nekupuješ systém, ale černou skříňku.
Člověk u kritických akcí — a dveře ven
Dvě pojistky, které z „AI systému" dělají systém, kterému se dá věřit. První: akce s reálným dopadem (platba, odeslání, publikace) čekají na lidské schválení — AI připraví, člověk rozhodne. Druhá: exit. Data jsou tvoje a musíš je umět dostat ven ve standardních formátech, kdykoli. Dodavatel, který tohle nechce garantovat, ti neprodává systém, ale závislost.
10 otázek, které polož každému dodavateli AI systému
1) Kde fyzicky běží databáze a v jakém regionu? 2) Trénuje se něco na mých datech — a kde to mám smluvně? 3) Co přesně AI vidí, když plní úlohu? 4) Jak jsou moje data oddělená od ostatních klientů — v aplikaci, nebo na úrovni databáze? 5) Kdo z lidí má k datům přístup a proč? 6) Jak jsou data šifrovaná při přenosu a v klidu? 7) Jak fungují zálohy a kdy jste naposledy zkoušeli obnovu? 8) Vede se auditní log AI akcí? 9) Které akce schvaluje člověk? 10) Jak dostanu všechna data ven, když spolupráci ukončíme?
Dobrý dodavatel odpoví na všech deset bez vytáček. Kdo mlží u tří a víc, mlží i jinde.
Časté otázky
Trénuje se ChatGPT nebo Claude na našich datech, když je máte v systému?
Ne. Firemní systémy volají AI přes API a velcí poskytovatelé na API datech standardně netrénují — je to smluvní závazek, ne dobrá vůle. Trénovací riziko se týká hlavně free konzumních chatů, kam zaměstnanci vkládají data ručně.
Můžou být naše data v EU?
Ano — databáze, soubory i zálohy můžou běžet v evropském regionu a zůstávají pod tvou kontrolou. Do AI modelu jde při úloze jen nezbytný výřez dat, krytý zpracovatelskou smlouvou (DPA) s poskytovatelem.
Co když dodavatel skončí nebo se rozejdeme?
Data jsou tvoje. Správně postavený systém běží na účtech, které vlastníš, a data z něj dostaneš ve standardních formátech — export je běžná funkce, ne nadstandard. Na tohle se ptej před podpisem, ne po něm.