Check Point® Software Technologies Ltd. (NASDAQ: CHKP), přední světový poskytovatel kyberbezpečnostních řešení, upozorňuje, že umělá inteligence pomáhá v boji s kyberzločinem a při lovu hackerů a hrozeb, ale nejrůznější AI služby využívají i útočníci. Jedná se o velmi nebezpečný trend, který mění svět organizovaného zločinu.
Chcete vytvořit nějaký obrázek, zjistit více o zajímavém tématu, napsat článek nebo text na sociální sítě? Se vším pomohou AI nástroje, jako například ChatGPT. Ale podobné chytré nástroje mají k dispozici i kyberzločinci. Mohou tak vytvářet ještě efektivnější útoky a snadněji analyzovat ukradené informace nebo využít AI k vytvoření a vylepšení hrozeb a útočných taktik. Například FraudGPT, XXXGPT nebo WolfGPT jsou ukázkou, jak lze umělou inteligenci zneužít ke škodlivým účelům.
„Tyto nástroje ukazují, že kyberzločinci mohou umělou inteligenci přizpůsobit tak, aby výrazně zvýšili účinnost svých útoků a efektivitu krádeží dat. Je tedy nutné přehodnotit stávající kyberbezpečnostní strategie a zaměřit se na etický rámec, kterým se řídí vývoj a používání umělé inteligence,“ upozorňuje Pavel Krejčí, Security Engineer z kyberbezpečnostní společnosti Check Point Software Technologies.
FraudGPT
FraudGPT představuje milník v oblasti škodlivého využívání AI technologií, protože se jedná o platformu, kterou si lze předplatit jako jakoukoli jinou službu a umožňuje vytvářet falešné identity, účinné phishingové e‑maily, malware nebo využít sociální inženýrství k oklamání uživatelů. Vše navíc na velmi vysoké úrovni. I osoby s minimálními technickými dovednostmi tak mohou provádět komplexní útoky.
XXXGPT
Nástroj XXXGPT s oblibou využívají zločinci pro generování RAT kódů, které umožňují vzdáleně ovládnout zařízení oběti a nepozorovaně krást citlivá data nebo je v tichosti změnit či poškodit. Může také vytvářet spyware, ransomware, keyloggery a speciální kódy pro cílené útoky. Nebo vytvářet a šířit nejrůznější dezinformace či kompromitující materiál určený k vydírání a šikaně.
WolfGPT
WolfGPT je známý svou komplexností a architekturou postavenou na programovacím jazyce Python. Dokáže vytvářet šifrovaný malware a přesvědčivé phishingové kampaně. Navíc umožňuje vytvářet široký arzenál kybernetických zbraní, včetně botnetů, trojanů pro vzdálený přístup, keyloggerů nebo nástrojů pro krádeže dat a kryptoměn. Kyberzločinci jej využívají i pro přípravu škodlivých kódů, zaměřených na pokladny a pro cílené útoky na bankomaty. případně pro praní špinavých peněz a identifikaci slabých míst v podnikových sítích.
Důsledky pro kybernetickou bezpečnost a etický rozměr
Vzestup pokročilých AI modelů, jako jsou FraudGPT, XXXGPT a WolfGPT, vyžaduje nový přístup k bezpečnosti. Konvenční obrana je totiž proti komplexním, adaptivním hrozbám nedostačující. Současně je nutné řešit i etické otázky týkající se odpovědnosti tvůrců AI a jak celkově zabránit zneužití umělé inteligence. Noříme se totiž do éry AI, kdy je dvojí využití těchto technologií stále zřetelnější.
Je potřeba zvážit několik oblastí:
- Regulace a legislativa: Zavedení zákonů a regulací, zaměřených na kontrolu a dohled nad vývojem a použitím AI technologií.
- Vzdělávání: Zvýšení povědomí veřejnosti o rizicích spojených s AI a poskytování nástrojů a informací pro ochranu proti podvodům a zneužití.
- Technologická opatření: Vývoj pokročilých bezpečnostních systémů a algoritmů, které dokáží detekovat a paralyzovat nebezpečné AI služby.
- Mezinárodní spolupráce: Spolupráce mezi vládami, mezinárodními organizacemi a technologickými společnostmi k vytvoření globálních standardů a protokolů pro vývoj bezpečné umělé inteligence.
„Zneužívání AI služeb představuje vážnou hrozbu, kterou nelze ignorovat. Je nezbytné, aby vlády, regulační orgány a technologické společnosti spolupracovaly na vývoji a implementaci opatření, která by zneužívání AI technologií omezila,“ dodává Pavel Krejčí.
Novinky od českého týmu společnosti Check Point Software Technologies:
Facebook: https://www.facebook.com/CheckPointCzech
X: https://twitter.com/CheckPointCzech
LinkedIn: https://cz.linkedin.com/showcase/checkpointczech
Sledujte novinky o bezpečnostním týmu Check Point Research:
Blog: https://research.checkpoint.com/
X: https://twitter.com/_cpresearch_
Sledujte novinky o společnosti Check Point Software Technologies:
X: http://www.twitter.com/checkpointsw
Facebook: https://www.facebook.com/checkpointsoftware
Blog: http://blog.checkpoint.com
YouTube: http://www.youtube.com/user/CPGlobal
LinkedIn: https://www.linkedin.com/company/check-point-software-technologies
O výzkumném týmu Check Point Research
Check Point Research poskytuje zákazníkům společnosti Check Point Software a širší bezpečnostní komunitě detailní informace o kyberhrozbách. Výzkumný tým shromažďuje a analyzuje data o globálních kyberútocích ze sítě ThreatCloud, chrání tak před hackery a zajišťuje, že všechny produkty Check Point jsou aktualizované a mají nejnovější ochranu. Výzkumný tým se skládá z více než 100 analytiků a výzkumných pracovníků, kteří spolupracují také s dalšími bezpečnostními společnostmi, donucovacími orgány a organizacemi CERT.
O společnosti Check Point Software Technologies
Check Point Software Technologies Ltd. (www.checkpoint.com) je přední poskytovatel kyberbezpečnostních řešení pro vlády a organizace po celém světě. Chrání zákazníky před kyberútoky 5. generace prostřednictvím unikátních řešení, která nabízí bezkonkurenční úspěšnost zachycení malwaru, ransomwaru a jiných pokročilých cílených hrozeb. Check Point nabízí víceúrovňovou bezpečnostní architekturu, Infinity Total Protection s pokročilou prevencí hrozeb 5. generace, a tato kombinovaná produktová architektura chrání podnikové sítě, cloudová prostředí a mobilní zařízení. Check Point navíc poskytuje nejkomplexnější a nejintuitivnější nástroje pro správu zabezpečení. Check Point chrání více než 100 000 organizací všech velikostí.
