Komentář: AI bez USA a Číny? Jde to. Evropské AI modely ztrácejí na zámořskou konkurenci jen asi rok vývoje

Náskok čínských i amerických AI modelů na evropskou špičku narůstá, není ale nedostižný. Stojí za ním především nedostatek investic ze soukromého sektoru i pasivita evropských firem v používání nástrojů umělé inteligence. V takovém případě hrozí, že se foundation large language modely mohou stát stejně strategickým zdrojem, jako je zemní plyn, ropa nebo další kritické suroviny. Přestože jsou právě teď velké zámořské firmy jako OpenAI nebo Google nezpochybnitelnými lídry, o konečné podobě světového trhu není ještě zdaleka rozhodnuto. Na pomyslný trůn může podle Vojtěcha Komendy z AI Excellence usednout někdo úplně jiný.

Zatímco Čína a Spojené státy soupeří o technologické prvenství v oblasti umělé inteligence, Evropa v tomto závodě zatím zůstává pozadu. Evropské foundation modely se zatím nemohou s ChatGPT, Gemini nebo DeepSeekem v plném rozsahu měřit.

Rozdíl mezi USA a Evropou vytváří nedostatek rizikového kapitálu

Pokud evropské technologické firmy dokážou nabídnout kvalitní model umělé inteligence, ostatní společnosti ze starého kontinentu nebudou muset nakupovat řešení z ciziny, s největší pravděpodobností ze Spojených států amerických. Díky tomu velký objem finančních prostředků zůstane v Evropě, kde jej vývojáři vloží do dalšího rozvoje svých modelů, a technologická propast se tak může zmenšovat. Pokud by však převládlo využívání amerických řešení, hrozí, že se AI může stát stejně strategickým zdrojem, jako je zemní plyn, ropa nebo další kritické suroviny. Evropa v tomto ohledu musí být soběstačná pro případ krize. Dramatický geopolitický vývoj posledních dnů a týdnů to jasně ukazuje.

Evropské modely existují a některé z nich nejsou vůbec špatné. Ukazuje se, že vývoj čistě „domácího“ modelu je reálný a nemusí se do něj nasypat horentní sumy jako v případě OpenAI, kde investice dosahovaly miliard dolarů. Z hlediska dalšího vývoje tak bude záležet na tom, zda evropské firmy budou ochotné používat ryze domácí řešení, nebo zůstanou výhradně u toho amerického, popřípadě zvolí rozumnou kombinaci obojího. Ve vývoji zaostávají evropské modely ve srovnání s OpenAI pouze o rok, což se sice z pohledu aktuální situace na trhu může zdát propastné, nicméně z hlediska obecného rozvoje není náskok nedostižitelný. Na většinu procesů, v nichž se dnes v českých a evropských firmách AI využívá, navíc evropská řešení bohatě stačí.

Jenže konkurence nespí a do vývoje investuje další finanční prostředky. Hlavním důvodem technologické ztráty je nedostatek rizikového kapitálu v rámci Evropy. OpenAI totiž i po letech stále jede na dluh a není ziskovou firmou. Investoři v ní ale vidí příležitost, takže na rozvoj poskytují finanční prostředky v hodnotě miliard dolarů. To se v Evropě bohužel nestane, rozhodně ne v takové míře. Evropští investoři prostředky investují v USA a financování sektoru se tedy doplňuje dotacemi z veřejných peněz. Výsledkem je, že žádná evropská firma, která se umělou inteligencí zabývá, zatím nemůže vyrůst do podobných rozměrů.

Konkurenční výhoda Evropy? Strach firem o bezpečnost dat

Vývoj umělé inteligence na území starého kontinentu v současnosti táhnou především Francie, Německo, případně Finsko. Evropskou jedničkou ve vývoji foundation modelů je francouzský Mistral, který už například u nás v AI Excellence integrujeme do řešení pro české firmy a s nímž lze velice dobře pracovat. Obrovskou konkurenční výhodou evropských AI nástrojů může být obava o bezpečnost dat. OpenAI i Google na serverech přijímají data od svých uživatelů do cloudových řešení a pro některé firmy může právě toto být nepřijatelné.

Mistral, podobně jako třeba společnost Meta, naopak umožňuje nasadit AI řešení na vlastní infrastrukturu firem, což u největších hráčů na poli AI není možné. Pro spoustu evropských firem je tedy Mistral relevantní variantou. A pro ty české je důležité, že se jedná o model, který už hovoří obstojně česky. Zajímavým příslibem do budoucna je také projekt velkého jazykového modelu pod názvem OpenEuroLLM. V EU získal dotaci v hodnotě 52 milionů eur, což je však v porovnání s investicemi v USA propastně málo. Výzkum má i českou stopu, koordinátorem projektu je profesor Jan Hajič z Matematicko-fyzikální fakulty Univerzity Karlovy.

Jedinou cestou, jak dohnat zámořské trhy, je začít evropské modely používat, případně do nich investovat. Dohnat manko se dá, Čína to se svým DeepSeekem jasně ukazuje. Bude to ale dlouhodobě kapitálově náročné, i francouzský Mistral je podobně jako konkurence ztrátový. Jenže místo evropských dotací je potřeba získat rizikový kapitál, který vývoj evropských modelů posune dopředu. V současnosti je světovou jedničkou OpenAI, otázkou však zůstává, zda uspěje i komerčně. Nelze vyloučit, že se na ni bude vzpomínat jako na průkopníka, uspět ale může někdo úplně jiný. Příkladů padlých hegemonů v některé oblasti IT trhu jako Internet Explorer nebo Skype zná historie dost a dost.

Autor komentáře: Vojtěch Komenda, CEO společnosti AI Excellence, foto zde.

Tip: Nejrozšířenější evropský foundation model, francouzský Mistral, je možné si vyzkoušet na tomto odkazu.

Kyberzločinci zneužívají DeepSeek a Qwen k vývoji zlodějských malwarů i k finančním podvodům

PRAHA – 20. února 2025 DeepSeek vzbudil obrovský rozruch, trochu v jeho stínu zůstal další AI model Qwen. Jak zjistila kyberbezpečnostní společnost Check Point Software Technologies, mnoho kyberzločinců rychle přešlo z ChatGPT právě na tyto nové platformy a začali je využívat k vytváření škodlivého obsahu. Kyberzločinci mezi sebou zároveň sdílí, jak umělou inteligenci zmanipulovat pro generování necenzurovaného obsahu, setkáváme se i s podrobnými návody na vývoj zlodějského malwaru nebo na obcházení bankovních ochran.

„ChatGPT v posledních dvou letech výrazně investuje do ochrany proti zneužití a zdá se, že konkurenční modely jsou na tom podstatně hůře, čímž přitahují zájem útočníků, zejména těch s menšími znalostmi a dovednostmi,“ říká Daniel Šafář, Area Manager CEE regionu z kyberbezpečnostní společnosti Check Point Software Technologies. „Navzdory investicím a mechanismům jsou i necenzurované verze ChatGPT k dispozici na různých internetových úložištích. Můžeme tedy očekávat, že se brzy objeví i necenzurované verze DeepSeek a Qwen, což výrazně zvýší riziko. Už nyní ale vidíme, že Qwen i DeepSeek jdou zneužít k vývoji malwarů a dalších hrozeb. Navíc kyberzločinci aktivně spolupracují a sdílí své postřehy a postupy.“

Vývoj zlodějských malwarů

Check Point zaznamenal případy, kdy kyberzločinci vytvářeli s pomocí Qwen infostealery, které se zaměřují na krádeže citlivých informací a přihlašovacích údajů od nic netušících uživatelů.

Jailbreaking

Jailbreaking v tomto případě označuje metody, které uživatelům umožňují manipulovat s AI modely a vytvářet necenzurovaný a také nebezpečný obsah. Kyberzločinci například sdílí jailbreaking prompty pro DeepSeek, které mohou manipulovat s reakcemi modelu, včetně metod jako jsou „Do Anything Now“ a „Plane Crash Survivors“. Ty využívají speciálně formulované příkazy, které modely donutí generovat odpovědi i v situacích, kdy by normálně odmítly či filtrovaly obsah.

Obcházení bankovních ochran

Bylo nalezeno několik diskusí o použití DeepSeek k obcházení ochran proti podvodům u bankovních systémů, což je alarmující riziko, které by mohlo ještě zefektivnit finančně motivované krádeže.

Šíření spamu

Kyberzločinci kombinují ChatGPT, Qwen a DeepSeek, aby optimalizovali skripty pro hromadnou distribuci spamu a zefektivnili útoky.

Temná stránka pokročilých AI nástrojů

Sledujeme znepokojivý trend, kdy jsou AI modely jako Qwen a DeepSeek zneužívány k vývoji kybernetických hrozeb. I nezkušení útočníci tak mohou vytvořit ničivé kybernetické zbraně, takže organizace musí používat proaktivní obranu a zaměřit se na prevenci hrozeb, namísto zatím stále velmi rozšířené, byť nedostatečné, detekce.

Novinky od českého týmu společnosti Check Point Software Technologies:

Facebook: https://www.facebook.com/CheckPointCzech

X: https://twitter.com/CheckPointCzech

LinkedIn: https://cz.linkedin.com/showcase/checkpointczech

Sledujte novinky o bezpečnostním týmu Check Point Research:

Blog: https://research.checkpoint.com/

X: https://twitter.com/_cpresearch_

Sledujte novinky o společnosti Check Point Software Technologies:
X: http://www.twitter.com/checkpointsw
Facebook: https://www.facebook.com/checkpointsoftware
Blog: http://blog.checkpoint.com
YouTube: http://www.youtube.com/user/CPGlobal
LinkedIn: https://www.linkedin.com/company/check-point-software-technologies

O výzkumném týmu Check Point Research

Check Point Research poskytuje zákazníkům společnosti Check Point Software a širší bezpečnostní komunitě detailní informace o kyberhrozbách. Výzkumný tým shromažďuje a analyzuje data o globálních kyberútocích ze sítě ThreatCloud, chrání tak před hackery a zajišťuje, že všechny produkty Check Point jsou aktualizované a mají nejnovější ochranu. Výzkumný tým se skládá z více než 100 analytiků a výzkumných pracovníků, kteří spolupracují také s dalšími bezpečnostními společnostmi, donucovacími orgány a organizacemi CERT.

O společnosti Check Point Software Technologies

Check Point Software Technologies Ltd. (www.checkpoint.com) je přední poskytovatel kyberbezpečnostních řešení pro vlády a organizace po celém světě. Chrání zákazníky před kyberútoky 5. generace prostřednictvím unikátních řešení, která nabízí bezkonkurenční úspěšnost zachycení malwaru, ransomwaru a jiných pokročilých cílených hrozeb. Check Point nabízí víceúrovňovou bezpečnostní architekturu, Infinity Total Protection s pokročilou prevencí hrozeb 5. generace, a tato kombinovaná produktová architektura chrání podnikové sítě, cloudová prostředí a mobilní zařízení. Check Point navíc poskytuje nejkomplexnější a nejintuitivnější nástroje pro správu zabezpečení. Check Point chrání více než 100 000 organizací všech velikostí.

Exit mobile version