Umělá inteligence se rychle stává součástí každodenního fungování firem. Vedle nových příležitostí ale přináší také otázky spojené s řízením změn, prací s lidmi nebo právními a reputačními riziky.
Těmto tématům se budeme věnovat také na naší připravované business snídani v Praze a Brně, kde v rámci tohoto bloku vystoupí Luboš Malý, transformační architekt a CEO Red Button EDU, a Martin Novotný, advokát z kanceláře SCHEJBAL & PARTNERS.
V krátkém rozhovoru jsme se jich zeptali na několik otázek, které dnes v souvislosti s AI řeší řada firem.
Luboši, vy pracujete s firmami při řízení změn a transformačních projektech a jste v kontaktu s jejich top managementem. Co dnes podle vás firmy nejčastěji brzdí v adopci AI?
Jsou to dva aspekty. Jedno jsou samotné nástroje. Jejich výběr, licence, vnímaná bezpečnost dat i celkové nastavení dokáže úplně paralizovat rozhodování. Druhá překážka jsou naše pracovní návyky na všech úrovních. AI má velký potenciál tyto návyky měnit a je třeba k zavádění AI přistupovat jako k velké změně a lidi tímto procesem provázet. Opakem je nakoupit licence a po půl roce zjistit, že je zas tak moc nevyužívají a že se za tu cenu nestalo nic přínosného.
Když se firma rozhodne AI zavádět systematicky, nejde jen o technologie, ale také o procesy, leadership a práci s lidmi. Jak by měl podle vás vypadat první rok takové transformace, aby měla šanci uspět?
První krok je určitě vysvětlit proč, proč teď a co od zavádění AI čekáme. Ideálně i poskytnout vizi, jak bude firma vypadat, až se nám to povede. Popravdě - toto není vůbec jednoduché, protože často ti, kdo vizi a směřování tvoří (majitelé, top management) zatím nemají dostatek praktických zkušeností, aby si vliv AI na vlastní podnikání dokázali dostatečně srovnat. Hned pak následují 3 oblasti - mít co nejdřív praktické a přínosné příklady využití AI, připravit datovou architekturu a začít pracovat s těmi, kdo k AI a k digitalizaci mají blízko stejně jako s těmi, kdo mají naopak nulové povědomí i chuť se zapojit.
V mnoha firmách dnes AI začíná tak, že ji zaměstnanci začnou sami používat při práci – často i bez toho, aby o tom management věděl. Je to podle vás přirozený začátek inovace, nebo se z toho může stát potenciální problém pro firmu?
Je to přirozený vnitřní tlak. Pokud mi něco může práci urychlit a zjednodušit, je logické, že se budu snažit takové nástroje využívat nehledě na to, že firma trochu zaspala. Beru to jako dobrý základ pro systematické využívání AI a problém zároveň. Využívat AI nástroje bez alespoň základní dohody o bezpečnosti dat je prostě riziko. Na druhou stranu podobní inovátoři/ky jsou typicky ti, které lze zahrnout do první vlny rozvoje lidí v oblasti AI a s velkou pravděpodobností ocení i možnost odstraňovat repetitivní práci či automatizovat části procesů nebo dokonce kompletně překopat procesy do nové doby.
Martine, pokud zaměstnanci používají AI nástroje při práci, například při práci s dokumenty, smlouvami nebo interními daty, jaká právní nebo reputační rizika tím může firma nevědomky vytvářet?
Používání AI nástrojů zaměstnanci může vytvářet poměrně zásadní rizika. Nejčastěji jde o to, že zaměstnanec do AI vloží interní dokumenty nebo smlouvy, čímž může dojít k porušení ochrany osobních údajů, ale také k úniku obchodního tajemství nebo porušení povinnosti mlčenlivosti. Dalším problémem je, že AI může generovat nepřesné nebo přímo chybné výstupy, za které ale stále nese odpovědnost firma. A v neposlední řadě tu je reputační riziko – pokud by se ukázalo, že firma s daty nakládá nekontrolovaně, může to výrazně poškodit důvěru klientů.
Stručně řečeno: bez jasných pravidel může AI zvyšovat efektivitu, ale zároveň otevírá dveře právním i reputačním problémům, které si firma často ani neuvědomuje.
Evropská regulace v oblasti technologií rychle přibývá – AI Act, NIS2 nebo DORA. Na co by si měli podnikatelé dát pozor už na začátku, aby se později nedostali do právních problémů?
Základ je uvědomit si, že právní předpisy jako AI Act, NIS2 nebo DORA nejsou jen „compliance formalita“. Nejčastější chybou je, že podnikatelé regulaci začnou řešit až ve chvíli, kdy vznikne problém, přestože by to mělo být přesně naopak. Compliance by totiž v ideálním případě mělo být součástí samotného návrhu produktu a interních procesů. V praxi to znamená vědět, do jakého regulačního režimu spadám, mít nastavenou základní governance a od začátku řešit práci s daty, bezpečnost i outsourcing.
Compliance je někdy vnímáno jako brzda inovací. Může být naopak dobře nastavený právní rámec výhodou, která firmám pomůže AI využívat bezpečněji a rychleji?
Popravdě, compliance často brzda je – hlavně krátkodobě. Zpomaluje vývoj, zvyšuje náklady a nutí firmy řešit věci, které by jinak odložily na později. V dlouhodobém měřítku je to ale spíš filtr než brzda. Regulace totiž nutí firmy mít pořádek v procesech, rolích a odpovědnosti, a bez toho AI stejně nejde rozumně škálovat.
V konečném důsledku jsou firmy, které regulaci ignorují, sice rychlejší na začátku, ale často narazí – právně, reputačně nebo u investorů. Ty, které si to od začátku nastaví správně, jsou v první fázi možná pomalejší, ale později se pohybují jistěji a ve výsledku i rychleji.
Jak může firma najít rovnováhu mezi rychlou inovací a bezpečným právním rámcem při využívání AI?
Rovnováha spočívá hlavně v tom, že firma nebere compliance jako něco „navíc“, ale jako součást vývoje. Regulace jako sice nastavují mantinely, ale uvnitř stále zůstává dost prostoru pro inovaci.
V praxi to znamená neblokovat AI plošně, ale pracovat s rizikem – tedy rozlišovat, kde je její použití v pořádku a kde už zasahuje do citlivých dat nebo rozhodování. Zároveň je důležité mít jednoduchá a srozumitelná interní pravidla, aby vývoj mohl pokračovat, aniž by vznikala neřízená rizika.
Zajímá vás, jak může vaše firma využívat umělou inteligenci smysluplně a bezpečně? Nebo jak nastavit interní pravidla tak, aby inovace nepřinášely nová právní nebo reputační rizika?
Těmto otázkám se budeme věnovat podrobněji na naší business snídani v Praze a Brně.
Počet míst je omezený, proto se prosím registrujte včas. Rádi vás na akci uvidíme.
Jsme připraveni provést vás celým procesem a začít pro vás pracovat.
Další články v kategorii
Mgr. Ladislav Vala
Ladislav působí v naší advokátní kanceláři jako advokát od roku 2024. Specializuje se na korporátní a závazkové právo, v němž využívá svých zkušeností s tvorbou holdingových struktur, nastavováním vztahů uvnitř společností i celých skupin a přípravou široké škály sofistikovaných smluv, nejenom v oblasti M&A a korporátních vztahů, ale v dalších sférách obchodního práva. Věnuje se také soukromoprávním sporům, které mu umožňují rozvíjet své litigační dovednosti. Zastává názor, že advokát by měl klientům poskytovat nejen právní radu, ale i businessový přesah, který je pro jejich rozhodování nedocenitelný.
