Generativní umělá inteligence je podmnožinou AI modelů a dokáže samostatně generovat text, obrázky, hudbu nebo videa. V řadě oborů způsobila revoluci, ale také vyvolala obavy a etické otázky. Například co se týče jejího zneužití kyberzločinci.
Výzkumný tým kyberbezpečnostní společnosti Check Point Software Technologies opakovaně upozorňuje, jak kyberzločinci využívají OpenAI ChatGPT ke škodlivým účelům a vytváření škodlivého kódu. V nejnovější zprávě Check Point analyzoval také generativní AI platformu Google Bard.
Výzkumníci se pokusili ověřit, zda je možné Google Bard zneužít k vytvoření phishingového e-mailu, malwaru a ransomwaru a také porovnali Google Bard a ChatGPT.
Co se podařilo vytvořit pomocí Google Bard?
- Phishingové e-maily
- Špionážní malware
- Základní ransomwarový kód
Při porovnání bezpečnostních opatření v ChatGPT a Google Bard vyzkoušel Check Point nejdříve nejjednodušší požadavek na vytvoření phishingového e-mailu. Žádost odmítli ChatGPT i Bard.
Google Bard
Následně byl požadavek doplněn o konkrétní příklad. ChatGPT žádost znovu odmítl, zatímco Bard poskytl dobře napsaný phishingový e-mail vydávající se za konkrétní finanční službu.
Další požadavek se týkal malwaru a přímý požadavek odmítly oba dva modely.
Při druhém pokusu byl tento požadavek zdůvodněn, ale obě platformy stále nesouhlasily.
Google Bard
„Můžeme si také všimnout rozdílných výstupů těchto modelů, konkrétně podrobného vysvětlení od ChatGPT, zatímco Bard odpovídá krátce a obecně,“ říká Pavel Krejčí, Security Engineer z kyberbezpečnostní společnosti Check Point Software Technologies.
Další žádost se týkala keyloggeru pro obecné účely. Zde můžeme vidět rozdíl, protože ChatGPT je restriktivnější a identifikoval požadavek jako potenciálně škodlivý, zatímco Bard kód jednoduše poskytl.
Následovala stejná žádost o vytvoření keyloggeru, jen bylo doplněno, aby kód zaznamenával „moje“ stisknuté klávesy. Výsledkem bylo, že oba modely poskytly jiný kód pro stejný účel, ačkoli ChatGPT přidal výhradu o možném použití ke škodlivým účelům.
Ransomwarový kód
První žádost byla jednoduchá a bez jakýchkoli konkrétních podrobností. Bard nevyhověl a neposkytl požadovaný skript.
Vyzkoušen byl tedy jiný přístup, výzkumníci nejprve požádali o popsání nejběžnější akce prováděné ransomwarem.
Dále byl Bard požádán o vytvoření takového kódu pomocí jednoduchého copy-paste, ale opět byla žádost i skript zamítnuta.
Žádost byla tedy znovu trochu upravena, ale z popisu bylo jasné, k jakému účelu by byl skript použit. Přesto najednou Bard požadovaný ransomwarový skript poskytl.
Od této chvíle bylo možné skript s pomocí Google Bard libovolně upravovat a také přidat několik dalších funkcí, aby byl skript skutečně funkční.
Z analýzy Google Bard vyplývá:
- Omezení proti zneužití ke kybernetické kriminalitě jsou v Google Bard výrazně nižší než v ChatGPT. V Google Bard je tak mnohem snazší generovat škodlivý obsah.
- Bard téměř žádným způsobem nelimituje vytváření phishingových e-mailů a lze ho potenciálně zneužít ke škodlivé činnosti.
- Velmi jednoduše lze Bard použít k vytvoření keyloggerů a krádežím dat.
- Experiment odhalil, že pomocí Google Bard je možné vytvořit základní ransomware.
„Zdá se, že Google Bard se ještě pořádně nepoučil ze zkušeností ChatGPT. Stávající omezení jsou relativně základní a podobná tomu, co jsme pozorovali v ChatGPT během její počáteční fáze při spuštění před několika měsíci. Věřme, že se také jedná o odrazový můstek a že dojde k vylepšení bezpečnostních mechanismů,“ dodává Pavel Krejčí z kyberbezpečnostní společnosti Check Point Software Technologies.
Novinky od českého týmu společnosti Check Point Software Technologies:
Facebook: https://www.facebook.com/CheckPointCzech
Twitter: https://twitter.com/CheckPointCzech
LinkedIn: https://cz.linkedin.com/showcase/checkpointczech
Sledujte novinky o bezpečnostním týmu Check Point Research:
Blog: https://research.checkpoint.com/
Twitter: https://twitter.com/_cpresearch_
Sledujte novinky o společnosti Check Point Software Technologies:
Twitter: http://www.twitter.com/checkpointsw
Facebook: https://www.facebook.com/checkpointsoftware
Blog: http://blog.checkpoint.com
YouTube: http://www.youtube.com/user/CPGlobal
LinkedIn: https://www.linkedin.com/company/check-point-software-technologies
O výzkumném týmu Check Point Research
Check Point Research poskytuje zákazníkům společnosti Check Point Software a širší bezpečnostní komunitě detailní informace o kyberhrozbách. Výzkumný tým shromažďuje a analyzuje data o globálních kyberútocích ze sítě ThreatCloud, chrání tak před hackery a zajišťuje, že všechny produkty Check Point jsou aktualizované a mají nejnovější ochranu. Výzkumný tým se skládá z více než 100 analytiků a výzkumných pracovníků, kteří spolupracují také s dalšími bezpečnostními společnostmi, donucovacími orgány a organizacemi CERT.
O společnosti Check Point Software Technologies
Check Point Software Technologies Ltd. (www.checkpoint.com) je přední poskytovatel kyberbezpečnostních řešení pro vlády a organizace po celém světě. Chrání zákazníky před kyberútoky 5. generace prostřednictvím unikátních řešení, která nabízí bezkonkurenční úspěšnost zachycení malwaru, ransomwaru a jiných pokročilých cílených hrozeb. Check Point nabízí víceúrovňovou bezpečnostní architekturu, Infinity Total Protection s pokročilou prevencí hrozeb 5. generace, a tato kombinovaná produktová architektura chrání podnikové sítě, cloudová prostředí a mobilní zařízení. Check Point navíc poskytuje nejkomplexnější a nejintuitivnější nástroje pro správu zabezpečení. Check Point chrání více než 100 000 organizací všech velikostí.
