Kde končí tvoje data? Bezpečnost AI systémů bez mlžení
Nejčastější věta, kterou od firem slyšíme: „Nechceme, aby se AI naučila naše data.“ Fér obava — a přesně ta, na kterou má dodavatel odpovídat konkrétně, ne marketingově. Tady je, jak to s daty v AI systémech doopravdy je, a otázky, které polož každému, kdo ti AI systém staví.
Strach číslo jedna: „AI se moje data naučí“#
Tenhle strach vychází z reálné zkušenosti — ale s konzumními aplikacemi. Když zaměstnanec vloží smlouvu do free verze veřejného chatu, data můžou skončit v trénování. Firemní systémy ale s AI mluví přes API — a velcí poskytovatelé (Anthropic, OpenAI, Google) na API datech standardně netrénují, smluvně.
- Free chat v druhém okně prohlížeče
- Zaměstnanec tam ručně vloží smlouvu nebo export
- Data můžou skončit v trénování
- Nikdo o tom neví a nikde po tom není stopa
- Volání AI přes API se smluvním závazkem
- Do modelu jde jen výřez potřebný k úloze
- Na datech se netrénuje
- Každá akce má auditní záznam
Kde data bydlí a co z nich AI vidí#
Tvoje data bydlí ve tvé databázi — ne „v AI“. Databáze i zálohy můžou běžet v EU regionu, systém běží na účtech, které vlastníš nebo kontroluješ, a ty zůstáváš správcem dat. AI model je nástroj, který do dat nahlíží při konkrétní úloze — není to místo, kam se data stěhují.
- Výřez potřebný k té jedné úlozekatalog při dotazu na produkt
- Jeden dokument, ne archivtu smlouvu, kterou má přečíst
- Kontext konverzaceaby odpověď dávala smysl
- Hesla, klíče, přístupydo AI nepatří za žádných okolností
- Data jiných klientůzeď stojí na úrovni databáze, ne aplikace
- Co k úloze nepotřebujeúčetnictví při dotazu na produkt
Základní hygiena, na kterou se ptej#
Čtyři věci, na které má dodavatel odpovídat bez zaváhání. Když u nich mlží, mlží i jinde.
U systémů, kde vedle sebe žije víc klientů, je klíčová otázka, kde je postavená zeď. Správná odpověď: na úrovni databáze, ne jen v aplikaci — data jednoho klienta jsou od druhého oddělená, i kdyby aplikace udělala chybu.
Data šifrovaná při přenosu i v klidu. Tohle je dnes samozřejmost, ne přednost — ale stojí za to slyšet to vyslovit, protože u levných řešení to samozřejmost není.
Automatické zálohy jsou půlka odpovědi. Druhá půlka je, kdy naposledy někdo obnovu skutečně vyzkoušel. Nevyzkoušená záloha je jen naděje.
U AI systémů zvlášť: co AI udělala, kdy, pro koho a z jakého podkladu. Když tohle chybí, nekupuješ systém, ale černou skříňku.
Člověk u kritických akcí — a dveře ven#
Dvě pojistky, které z „AI systému“ dělají systém, kterému se dá věřit. První: akce s reálným dopadem (platba, odeslání, publikace) čekají na lidské schválení — AI připraví, člověk rozhodne. Jak přesně tu hranici kreslíme, je v Jak stavíme AI, která si nevymýšlí.
Druhá: exit. Data jsou tvoje a musíš je umět dostat ven ve standardních formátech, kdykoli. Dodavatel, který tohle nechce garantovat, ti neprodává systém, ale závislost.
Deset otázek, které polož každému dodavateli#
Ve čtyřech okruzích. Dobrý dodavatel odpoví na všech deset bez vytáček — kdo mlží u tří a víc, mlží i jinde.
1) Kde fyzicky běží databáze a v jakém regionu? 2) Trénuje se něco na mých datech — a kde to mám smluvně?
3) Co přesně AI vidí, když plní úlohu? 4) Jak jsou moje data oddělená od ostatních klientů — v aplikaci, nebo na úrovni databáze? 5) Kdo z lidí má k datům přístup a proč?
6) Jak jsou data šifrovaná při přenosu a v klidu? 7) Jak fungují zálohy a kdy jste naposledy zkoušeli obnovu? 8) Vede se auditní log AI akcí?
9) Které akce schvaluje člověk? 10) Jak dostanu všechna data ven, když spolupráci ukončíme?
Jak ty otázky použít#
Seznam je k ničemu, když skončí v šuplíku. Tři kroky, jak z něj udělat rozhodnutí.
Ne na schůzce. Písemná odpověď se dá porovnat mezi dodavateli a později přiložit ke smlouvě. Ústní ujištění na schůzce nemá váhu ani paměť.
„Trénuje se na mých datech“ — ukažte mi to v podmínkách poskytovatele. „Vede se auditní log“ — ukažte mi záznam jedné konkrétní akce. Zbytek stačí popsat.
Jedna vágní odpověď je normální — ne každý zná zpaměti region databáze. Tři a víc je vzorec. V tu chvíli neřešíš bezpečnost, ale to, jestli dodavatel ví, co postavil.
Časté otázky#
Trénuje se ChatGPT nebo Claude na našich datech, když je máte v systému?
Ne. Firemní systémy volají AI přes API a velcí poskytovatelé na API datech standardně netrénují — je to smluvní závazek, ne dobrá vůle. Trénovací riziko se týká hlavně free konzumních chatů, kam zaměstnanci vkládají data ručně.
Můžou být naše data v EU?
Ano — databáze, soubory i zálohy můžou běžet v evropském regionu a zůstávají pod tvou kontrolou. Do AI modelu jde při úloze jen nezbytný výřez dat, krytý zpracovatelskou smlouvou (DPA) s poskytovatelem.
Co když dodavatel skončí nebo se rozejdeme?
Data jsou tvoje. Správně postavený systém běží na účtech, které vlastníš, a data z něj dostaneš ve standardních formátech — export je běžná funkce, ne nadstandard. Na tohle se ptej před podpisem, ne po něm.