Digitální nástroje a umělá inteligence mění způsob, jakým firmy pracují. Spolu s novými možnostmi ale přibývá i technologií, které se do pracovního prostředí dostávají bez vědomí IT oddělení. Tyto neautorizované nástroje, které často lidem usnadňují práci, se nazývají Shadow IT a Shadow AI. Pojďme se nejdříve podívat na to, jak to celé začalo, a sice u Shadow IT.
Co je Shadow IT a proč se mu firmy nevyhnou
Shadow IT jsou technologie, aplikace nebo služby, které zaměstnanci využívají bez souhlasu IT nebo bezpečnostního oddělení. Typickým příkladem je sdílení souborů přes osobní úložiště, práce s dokumenty v neautorizovaných nástrojích nebo komunikace přes soukromé kanály jako WhatsApp nebo Messenger.
Motivace bývá nevinná, lidé chtějí pracovat efektivněji, zjednodušit si rutinní úkoly nebo obejít zdlouhavé interní procesy. Ve výsledku ale pak ve firmě vzniká prostředí bez kontroly, ve kterém se zvyšuje riziko zneužití dat.
Shadow AI: Nová podoba starého problému
S nástupem generativní umělé inteligence se fenomén Shadow IT rozšířil i na oblast, kterou dříve firmy tolik neřešily. Objevuje se Shadow AI, tedy situace, kdy zaměstnanci používají veřejné AI nástroje bez schválení IT oddělení.
AI přináší rychlost, pohodlí a vyšší produktivitu. Nástroje jako ChatGPT nebo Claude dokáží shrnout texty, generovat kód i automatizovat každodenní úkoly. Právě snadná dostupnost umělé inteligence z ní dělá potenciální hrozbu. Stačí, aby někdo do veřejného modelu vložil pracovní dokument nebo citlivý e-mail, a data se okamžitě dostávají mimo kontrolu organizace.
Z interního experimentování se ale postupně s příchodem AI Actu stává téma compliance. Firmy musí nejen zajistit bezpečné používání AI, ale také prokázat, že mají nad jejími výstupy i vstupy plnou kontrolu.
Proč zaměstnanci sahají po Shadow AI
Zaměstnanci obvykle nepoužívají neautorizované nástroje se zlým úmyslem. Hlavní důvody jsou praktické:
- Rychlost a pohodlí: AI nástroje jsou dostupné během několika sekund.
- Vyšší produktivita: Umožňují dělat víc práce v kratším čase.
- Inovace bez čekání: Chuť ihned experimentovat s novými technologiemi.
- Nedostatek alternativ: Když firemní nástroje nestačí, lidé hledají jiné možnosti.
Problém tedy často nevzniká u zaměstnanců, ale z nedostatku bezpečných a dostupných nástrojů. Tam, kde firma nenabízí schválené řešení, vzniká prostor pro Shadow AI.
Rizika, která firmy často podceňují
Neřízené využívání umělé inteligence může vést k závažným problémům v několika oblastech.
Úniky dat
Vkládání interních nebo citlivých informací do veřejných AI modelů znamená ztrátu kontroly nad tím, jak budou data dále zpracována. Někteří poskytovatelé mohou vstupy uchovávat nebo je využívat pro další zlepšování modelu, často mimo území EU.
Nedodržení regulací
Zejména v regulovaných odvětvích jako finance, zdravotnictví nebo veřejná správa, může používání veřejných AI bez dohledu představovat porušení právních předpisů. Sankce za podobné prohřešky se můžou pohybovat v milionech eur.
Poškození reputace
AI nástroje mohou generovat chybné nebo neetické výstupy. Pokud se takový obsah dostane do veřejné komunikace nebo interních procesů, může poškodit důvěryhodnost firmy.
Jak se k Shadow IT postavit
Zákaz sám o sobě problém neřeší. Zaměstnanci si cestu k nástrojům stejně najdou, pokud jim usnadňují práci. Klíčem je řízený přístup, který kombinuje jasná pravidla, bezpečné technologie a vzdělávání.
Definujte pravidla používání AI
Stanovte, které nástroje a úkony jsou povolené a jaké typy dat do nich nesmí vstupovat. Připravte přehled bezpečných služeb a srozumitelnou interní politiku.
Nabídněte bezpečné alternativy
Firemní AI rozhraní nebo modely nasazené v privátním cloudu umožní zaměstnancům využívat umělou inteligenci produktivně, aniž by ohrozili bezpečnost dat.
Zaveďte technické mantinely
Pomoci může monitoring síťového provozu, omezení přístupu k rizikovým doménám, sandboxová prostředí pro testování nebo filtry, které zabraňují nechtěnému sdílení interních dat.
Vzdělávejte a komunikujte
Zaměstnanci musí rozumět tomu, proč je potřeba být při práci s umělou inteligencí obezřetný. Pravidelná školení a interní komunikace pomáhají předcházet chybám a podporují zodpovědné používání technologií.
5 kroků, které můžete udělat hned
- Zmapujte současný stav: Zjistěte, jaké AI nástroje zaměstnanci skutečně používají.
- Podpořte schválené aplikace: Nabídněte bezpečné alternativy a ukažte, že nejsou méně praktické.
- Nastavte technická omezení: Sledujte využívání rizikových služeb a reagujte na nové hrozby.
- Vzdělávejte zaměstnance: Posilujte povědomí o rizicích i o tom, jak s AI pracovat zodpovědně.
- Aktualizujte pravidla: Pravidla je nutné průběžně upravovat v souladu s rychle se vyvíjejícími technologiemi.
Inovace pod kontrolou
Shadow AI nemusí být nutně hrozbou. Při správném nastavení může přinést vyšší efektivitu i nové příležitosti. Klíčem je bezpečné prostředí, jasná pravidla a důvěra mezi IT a zaměstnanci. Firmy, které dokážou propojit inovace s bezpečností, budou mít v digitálním světě náskok. Získají nejen kontrolu nad daty, ale i jistotu, že nové technologie pracují v jejich prospěch.
