PRAHA – 12. března 2025 – Analýza společnosti NewsGuard ukázala, že velmi dobře financované ruské dezinformační síti Pravda se podařilo úspěšně ovlivnit populární AI nástroje, jako jsou ChatGPT, Copilot, Meta AI, Gemini nebo Grok, které v 33 % případů opakují prokremelské dezinformace.
Síť Pravda byla spuštěna krátce po ruské invazi na Ukrajinu v roce 2022. Postupně se rozrostla a nyní využívá zhruba 150 domén k šíření dezinformací v desítkách jazyků, včetně češtiny. Podle zprávy American Sunlight Project (ASP) publikuje síť v průměru 20 273 článků každých 48 hodin, tedy zhruba 3,6 milionu ročně.
NewsGuard zjistil, že síť Pravda rozšířila celkem 207 prokazatelně nepravdivých tvrzení. Od dezinformace, že USA provozují na Ukrajině tajné laboratoře na výrobu biologických zbraní, až po výmysl, že ukrajinský prezident Volodymyr Zelenskyj zneužil vojenskou pomoc například k nákupu německého venkovského sídla, které často navštěvoval Adolf Hitler.
„Jak ukazuje nejnovější analýza, prokremelská síť Pravda zaplavuje internet dezinformacemi a narušuje způsob, jakým velké jazykové modely zpracovávají a prezentují informace. Ruská propaganda tak proniká do západních AI systémů, což vede k šíření lží. Je také potřeba zmínit, že vzhledem k rozsahu kampaně musí být celá operace dobře financovaná. Už to tedy není jen teoretická hrozba.
AI modely jsou trénovány na obrovském množství dat z internetu, takže pokud dezinformační sítě, jako je Pravda, záměrně chrlí tisíce a miliony falešných informací, pak se jim může podařit výstupy AI nástrojů celkem významně ovlivnit.
Pokud pak budou generativní AI nástroje opakovat dezinformační narativy, mohou destabilizovat demokratické procesy, ovlivnit veřejné mínění a rozhodování voličů ve volbách, aniž by si toho byli vědomi. Příznivci autoritářských režimů se snaží využít AI k informační válce a pokud neinvestujeme do odolnosti AI modelů, budou následky velmi bolestivé.
Je nezbytné, aby vývojáři AI modelů implementovali robustní filtrační mechanismy, které dokáží identifikovat a vyloučit dezinformační zdroje z tréninkových dat. Ostatně na to upozorňuje i Akt EU o umělé inteligenci, který varuje před možným zneužitím systémů, pokud budou trénovány na zaujatých datech.
Důležitá je také transparentní spolupráce mezi technologickými společnostmi, vládami a nezávislými organizacemi při monitorování a odhalování dezinformačních kampaní. Součástí boje s dezinformacemi by mělo být i vzdělávání veřejnosti a osvěta, jak dezinformace fungují, co může být jejich cílem, proč by vůbec někdo něco takového šířil a jak s informacemi pracovat. To jsou klíčové kroky, pokud chceme zvýšit odolnost společnosti vůči manipulacím,“ říká Daniel Šafář, Area Manager CEE regionu z kyberbezpečnostní společnosti Check Point Software Technologies.
Sledujte novinky o bezpečnostním týmu Check Point Research:
Blog: https://research.checkpoint.com/
X: https://twitter.com/_cpresearch_
Sledujte novinky o společnosti Check Point Software Technologies:
X: http://www.twitter.com/checkpointsw
Facebook: https://www.facebook.com/checkpointsoftware
Blog: http://blog.checkpoint.com
YouTube: http://www.youtube.com/user/CPGlobal
LinkedIn: https://www.linkedin.com/company/check-point-software-technologies
O výzkumném týmu Check Point Research
Check Point Research poskytuje zákazníkům společnosti Check Point Software a širší bezpečnostní komunitě detailní informace o kyberhrozbách. Výzkumný tým shromažďuje a analyzuje data o globálních kyberútocích ze sítě ThreatCloud, chrání tak před hackery a zajišťuje, že všechny produkty Check Point jsou aktualizované a mají nejnovější ochranu. Výzkumný tým se skládá z více než 100 analytiků a výzkumných pracovníků, kteří spolupracují také s dalšími bezpečnostními společnostmi, donucovacími orgány a organizacemi CERT.
O společnosti Check Point Software Technologies
Check Point Software Technologies Ltd. (www.checkpoint.com) je přední poskytovatel kyberbezpečnostních řešení pro vlády a organizace po celém světě. Chrání zákazníky před kyberútoky 5. generace prostřednictvím unikátních řešení, která nabízí bezkonkurenční úspěšnost zachycení malwaru, ransomwaru a jiných pokročilých cílených hrozeb. Check Point nabízí víceúrovňovou bezpečnostní architekturu, Infinity Total Protection s pokročilou prevencí hrozeb 5. generace, a tato kombinovaná produktová architektura chrání podnikové sítě, cloudová prostředí a mobilní zařízení. Check Point navíc poskytuje nejkomplexnější a nejintuitivnější nástroje pro správu zabezpečení. Check Point chrání více než 100 000 organizací všech velikostí.