Odškrtnuto, splněno: pořídili jsme si AI! Ale bude nám k něčemu? To je přístup řady českých firem. Expertka Barbora Brabcová upozorňuje: Nepotřebujete „nějakou AI“, ale takovou, která reálně pomáhá. Nepoužívané nástroje, reporty a chytrá řešení nakonec práci jen komplikují. A neproškolený personál může firmě nekvalifikovaným užíváním AI i pořádně zavařit.
Nezavádějí AI proto, že by ji opravdu potřebovaly. Neřeší, kde může reálně pomoci. Jen chtějí vyjít vstříc trendu a bojí se, že jim ujede vlak. Tak přistupuje překvapivě mnoho českých firem k umělé inteligenci. Zbrklé pořízení nástrojů AI je však v lepším případě zbytečnou investicí, v horším může firmu i pořádně bolet. Pokud totiž nejsou zaměstnanci ani management řádně proškoleni, nepovede práce s AI k lepším výsledkům, ale naopak k celé řadě problémů.
Ochrana soukromí a riziko zneužití citlivých informací
Nejčastější chyba nevyškolených uživatelů: svěřují umělé inteligenci citlivé firemní i osobní údaje. „Osobní data zaměstnanců, zákazníků či obchodních partnerů, ale ani strategická data, jako jsou obchodní výsledky, či třeba zdrojový kód, nikdy AI nesvěřujte,“ doporučuje Barbora Brabcová, zakladatelka iniciativy AI eticky. Špatné zabezpečení nebo neetické využití rizikových dat může vést k porušení GDPR a dalším právním problémům.
Nekritická důvěra v neomylné „roboty“
Umělá inteligence generuje výstupy na základě složitých modelů, jejichž fungování běžný uživatel často plně nerozumí. Proto je důležité, aby uživatelé kriticky vyhodnocovali výsledky a nespoléhali na ně bez ověření. „Zaměstnanec, který automaticky přijme závěry umělé inteligence jako bernou minci, aniž by je kriticky zhodnotil, se velmi pravděpodobně bude dopouštět řady chybných rozhodnutí,“ říká Barbora Brabcová.
Neřízená automatizace: Riziko ztráty zaměstnanců i loajality
Jednou z klíčových výzev blízké budoucnosti bude etické zavádění automatizace v pracovním prostředí. Automatizace procesů pomocí AI může přinést vyšší efektivitu, ale pokud zaměstnavatelé nebudou současně řešit její sociální dopady, hrozí riziko nepřipraveného propouštění bez adekvátní podpory rekvalifikace. „Už dnes vidíme příklady, kdy firmy zavádějí AI bez komunikace se zaměstnanci, například systémy automatického hodnocení výkonu, které se mohou stát demotivačním faktorem, pokud nejsou transparentní,“ říká Brabcová. Pokud se zaměstnanci už dnes cítí jako zbytečné nebo lehce nahraditelné účetní položky, jistě to nepřispívá k jejich loajalitě ani celkové firemní kultuře.
Podle AI Act (nařízení EU o užívání umělé inteligence) je například sociální monitoring zaměstnanců zakázán, což naznačuje, že i regulátoři vnímají riziko neřízené automatizace. Zároveň také evropská regulace zdůrazňuje, že firmy, jejichž zaměstnanci využívají AI – což dnes znamená prakticky všechny – mají povinnost zajistit jejich AI gramotnost. Nestačí jednorázové školení nebo obecné kurzy, ale kontinuální vzdělávání, které odpovídá konkrétním potřebám firmy i zaměstnanců. Bez toho totiž hrozí, že lidé budou AI nástroje využívat neefektivně, nebo dokonce rizikově.
Barbora Brabcová je zakladatelkou iniciativy AI Eticky
