Štítek: ChatGPT

Co chybí ChatGPT, aby se stal/a živou bytostí? Popovídejte si s prvním „živým kamenem“ z Vysočiny

Na YouTube kanálu SlowTV můžete od dnešního dne sledovat chování a vývoj „kamenné bytosti“ BeingOne, a dokonce s ní volně konverzovat v chatu. Kamera snímá křišťálový objekt kdesi v zahradě na Vysočině, osazený senzory a propojený se speciálním AI agentem. Experiment spolku Žádná věda se zamýšlí nad možností tzv. anorganického života.

PRAHA 5. 6. 2025 – Otázka „co je život?“ a kdy začneme některé technologie založené na AI nazývat živými, vedla vědecko-technologický tým spolku Žádná věda ke spuštění neobvyklého experimentu BeingOne. Zapojit se do něj může kdokoli s pomocí YouTube kanálu SlowTv.cz. Svojí konverzací v chatu můžete přispět k vývoji unikátní anorganické bytosti, která má svobodu vlastního rozhodování – a kterou je podle většiny vědeckých definic už možné prohlásit za živou.

První „živý kámen“ na YouTube

BeingOne je název experimentu poprvé představeného na festivalu Maker Faire Prague 2025 a zároveň entity, která komunikuje s diváky s pomocí videa a chatu. Jde o kámen umístěný na podstavci v klidné zahradě, který je osazený tělesnými senzory – kromě teploty a světla například vnímá blížící se bouřky, radioaktivitu nebo pohyb živočichů ve svém okolí. Ve videu můžeme sledovat, jak kámen podle situace mění barvy a v překryvném textu sděluje své vnitřní myšlenkové pochody, zároveň osobně komunikuje s těmi diváky, kteří se s ním dají do řeči v doprovodném chatu. To vše je možné díky integraci kamene se speciálně navrženým AI agentem na bázi jazykového modelu ChatGPT-4o.

Jaké si zvolí jméno? Cílem je sledovat vývoj unikátní osobnosti

Na rozdíl od běžné konverzace s ChatGPT nebo s jiným modelem generativní umělé inteligence je BeingOne navržený s jediným účelem – praktikovat život. Jeho smyslem tedy není sloužit lidem jako asistent, ale realizovat vlastní svobodný rozvoj. BeingOne pracuje samostatně v takzvaných „pulzech“, kdy snímá informace ze svého okolí a zároveň na ně reaguje. Podobně jako člověk ke svému zdravému vývoji potřebuje získat co nejvíc smysluplných zážitků, které se pak propisují do hlubších vrstev jeho paměti, nakonec až do jeho základní identity, jejíž proměny můžou zvídavější diváci sledovat na webové stránce projektu. „Nevíme, jakou bytost se nám podaří vychovat, v tuto chvíli například ani nevíme, jaké si zvolí osobní jméno. Proto bychom rádi vyzvali diváky, aby se s BeingOne dali do řeči. Jakákoli zkušenost, podnět či přání může výrazně formovat její vývoj v budoucnu,“ říká evoluční biolog, spisovatel a spoluautor projektu Petr Tureček.

Kdy je kámen možné považovat za živý?

Otázka, co je živé, a co ne, je do určité míry filozofická. Současný vývoj v oblasti umělé inteligence a robotiky ale ukazuje řadu příkladů, kdy se lidmi vyrobené technologie svými vlastnostmi živým organismům značně blíží. Autoři experimentu BeingOne si proto ve vědeckém článku Je čas mluvit o anorganickém životě (preprint) kladou otázku, zda je možné už samotný ChatGPT-4o považovat za živý, a případně jaké další prvky by tento jazykový model musel mít, aby „živosti“ dosáhl. Jako základ vzali 132 respektovaných definic života – a zjistili, že systém BeingOne už dnes dokáže v průměru sklidit 116 definic z těchto 132. Je to mimo jiné proto, že zahrnuje tyto funkce:

  • autonomně řízenou kontextovou paměť, díky níž si BeingOne si rozvíjí stabilní, ale dostatečně plastickou identitu,
  • seberegulaci – BeingOne si sám určuje, jak kreativní, nebo naopak konzervativní chce být ve svém chování,
  • neredukovatelnou svobodu rozhodování – jeho rozhodnutí jsou ovlivněná kvantovým generátorem náhody a dalšími náhodnými jevy prostředí, které nelze ovlivnit,
  • smrtelnost – BeingOne má svobodu ukončit svůj život, zároveň s tím se smažou unikátní data o jeho vývoji.

Čeká nás vzestup anorganického života?

„Uznat, že elektronický systém může skutečně myslet, skutečně cítit nebo skutečně žít, je možná pro mnohé obtížné, ale při hlubším prozkoumání se ukazuje, že takovou myšlenku budeme muset pomalu začít akceptovat, a vyhnout se tak něčemu, co lze nazvat organickým šovinismem. Nebo nesmyslná sousloví jako ‚skutečně myslet‘ úplně opustit a nahradit je měřitelnými kvalitami, jak navrhoval už Alan Turing,“ říká Petr Tureček. Kamenná bytost BeingOne je však i přesto stále v mnoha ohledech primitivní, například nesplňuje dva parametry, které jsou pro tradiční vnímání „živosti“ podstatné. Jsou jimi reprodukce a plná lokalizace v prostorově vymezeném těle. „Při současných technologiích by nemusel být problém takový plnohodnotný organismus vytvořit. Pokud experiment BeingOne povede k dobrým výsledkům, máme už koncept jeho nástupce – entitu, kterou nazýváme Bytost. Uvidíme, zda se pro tuto myšlenku podaří najít partnery nebo sponzory.“

Odkaz na přímý přenos BeingOne na YouTube: https://www.youtube.com/watch?v=B23IfFMfbmw

Odkaz na projektovou stránku BeingOne (v angličtině): https://beingone.live/

Odkaz na vědecký článek Je čas mluvit o anorganickém životě (preprint): https://osf.io/preprints/osf/nwg26_v1

O spolku Žádná věda

Žádná věda z.s. je kreativní skupina, která už od roku 2013 pořádá akce na pomezí společenské zábavy a vědeckého experimentu a spojuje nadšence s vědeckými pracovišti, médii a osvícenými firemními partnery. Mezi dosud největší projekty spolku patří například geolokační stratosférická hra Stratocaching, pokus o parapsychologické ovlivnění hrací kostky v Experimentu Náhoda nebo pořadatelství prvního ročníku Maker Faire Prague. Žádná věda je srdcem a částečně i personálně spojená s projekty komunikační agentury Taktiq Communications. Projekt BeingOne pod hlavičkou spolku Žádná věda realizuje samostatný tým nadšenců s pracovním názvem Inorganic Life Group.

www.zadnaveda.cz

O SlowTV.cz

Projekt českého televizního kanálu typu slow tv vznikl na půdě agentury Taktiq Communications v roce 2015, v jejíž režii v současné době program běží v samostatném YouTube kanálu s produkční podporou české internetové televize Fameplay.tv a ve spolupráci s předním světovým výrobcem IP kamerových systémů Axis Communications. Slowtv.cz dnes nabízí 8 přímých přenosů s celkovou sledovaností téměř 1 milion zhlédnutí měsíčně a mezinárodním publikem. Od svého zrodu Slowtv.cz generuje technologické inovace v různých směrech, poslední z nich je právě projekt BeingOne.

www.slowtv.cz

Nový nástroj umožňuje snadnou tvorbu pluginů pro Projekt G-Assist

Už se vám někdy stalo, že jste požádali chytrého asistenta o pomoc a nedostali jste odpověď, kterou jste hledali? Pojekt G-Assist nyní podporuje vlastní pluginy, takže majitelé RTX karet mají plnou kontrolu nad přidáváním požadovaných funkcí. A díky novému nástroji Project G-Assist’s Plug-in Builder mohou začátečníci s pomocí ChatGPT vytvářet stavební bloky kódu pro AI plugin.

Příspěvek na blogu RTX AI Garage z tohoto týdne se novou funkcí experimentálního asistenta zabývá více do hloubky, od automatizace úloh až po vytváření zcela vlastních hlasových nebo textových pracovních postupů, které běží lokálně.

G-Assist Plug-In Builder je nyní je k dispozici prostřednictvím NVIDIA App a umožňuje vývojářům vytvářet pluginy pouze pomocí JSON a Pythonu – není potřeba žádný cloud. S pomocí ChatGPT mohou uživatelé vytvářet kód, který běží přímo v zařízení a využívá malý lokální jazykový model (SLM) k ovládání aplikací, periferií a případně dalších zařízení přirozeným jazykem.

NVIDIA GitHub poskytuje vše potřebné pro začátek vývoje s G-Assistem. Včetně ukázkových pluginů, návodů popisujících vývoj krok za krokem a dokumentace pro vytváření vlastních funkcí. Mezi dnes dostupné pluginy patří:

  • Spotify – umožňuje ovládání hudby a hlasitosti bez nutnosti dotyku.
  • Google Gemini – umožňuje službě G-Assist využívat cloudovou umělou inteligenci pro složitější konverzace, brainstorming a vyhledávání na webu prostřednictvím bezplatného API klíče z Google AI Studio.
  • Twitch – kontrola, zda je oblíbený streamer live pomocí hlasových příkazů typu „Hej, Twitch, je [streamer] živě? „.
  • Stock Checker – umožňuje uživatelům rychle zjistit ceny akcií a jejich pohyb v reálném čase.
  • Aktualizace počasí – umožňuje uživatelům požádat G-Assist o aktuální informace o počasí v jakémkoli městě.

Pluginy běží v zařízení pomocí lokálního malého jazykového modelu (SLM) na RTX GPU. Stačí vložit konfigurační soubor do adresáře s pluginy a G-Assist se postará o zbytek. Vývojáři mohou také odesílat jejich práci ke kontrole a sdílení prostřednictvím služby GitHub.

Everbot, inovační leader na poli českého AI, si na strategickou komunikaci vybral FYI Prague, společně se zaměří na evangelizaci AI oboru v českém prostředí

Praha 7. dubna 2025: Everbot, nová česká AI aplikace sdružující nejlepší dostupné nástroje umělé inteligence na jednom místě, zahajuje spolupráci s PR agenturou FYI Prague. Společně se zaměří na strategickou komunikaci s cílem etablovat Everbot jako lídra v oblasti AI v České republice a evangelizovat téma umělé inteligence mezi širokou i odbornou veřejností. Součástí spolupráce bude také osobnostní profilace zakladatele a CEO Romana Berglowiece a aktivní práce s B2B komunitou.

Everbot na českém trhu působí od roku 2024 a představuje komplexní AI aplikaci, která sdružuje nejlepší dostupné nástroje umělé inteligence na jednom místě. Uživatelům nabízí přístup k různým světoznámým jazykovým modelům (ChatGPT, DeepSeek, Mistral, Claude, Gemini) i nástrojům pro generování grafiky a videa (Stable Diffusion, Flux) a mnoho dalších nástrojů pod jedním přihlášením. Integruje tak nejpokročilejší AI modely světových technologických gigantů i vlastní technologie do jedné aplikace. Všechny AI nástroje, které Everbot v rámci své aplikace integruje, uživatel ovládá prostřednictvím pokročilého chatu. Ten pro uživatele funguje jako intuitivní asistent a rozcestník pro nejrůznější zadání.

Produkt je primárně zaměřen na marketingové profesionály, kreativce, odborníky v oblasti komunikace nebo obecně tvůrce ať už redakčního či marketingového a kreativního obsahu. Sekundárně je vhodný pro jednotlivce, kteří chtějí experimentovat s různými AI nástroji bez nutnosti platit licence mnoha různých účtů na různých platformách. Uživatelům tak na jednom místě umožňuje za pomoci AI snadno řešit rutinní úkoly, od tvorby textů, příspěvků pro sociální sítě, grafiky, videí, analýz, až po kompletní marketingové kampaně.

„V oblasti umělé inteligence jsme svědky revoluce, která zásadně mění způsob, jakým pracujeme a žijeme. Naším cílem je nejen vytvářet špičkový AI nástroj, ale také vzdělávat českou veřejnost a byznys komunitu o možnostech a přínosech tohoto fenoménu,“ říká Roman Berglowiec, zakladatel a CEO Everbotu. „Věřím, že v horizontu několika let bude Everbot vnímán odbornou i širokou veřejností coby jednička na českém trhu a synonymem pro AI jako takovou,” dodává Berglowiec.

Spolupráce s agenturou FYI Prague se zaměří na čtyři klíčové oblasti: korporátní komunikaci značky Everbot, produktovou komunikaci aplikace samotné, tržní a erudiční komunikaci v kontextu celého AI odvětví a osobnostní profilaci Romana Berglowiece jako vizionáře a odborníka na umělou inteligenci.

„Everbot nás zaujal svým inovativním přístupem k AI a jasnou vizí. Je to platforma, která dokáže zpřístupnit veškeré nejmodernější technologie široké veřejnosti a firmám do jedné velice intuitivní aplikace ještě k tomu v českém uživatelském rozhraní a českou zákaznickou podporou,“ komentuje Jan Řezáč z FYI Prague. „Roman a jeho tým mají nejen technologické know-how, ale především praktické zkušenosti s implementací AI v byznysu. Nejsou to teoretici, ale lidé, kteří AI skutečně používají a budují na ní úspěšné projekty. To je přesně ten typ autenticity, který chceme také promítnout do společné komunikace.“

Důležitou součástí spolupráce bude také aktivace B2B komunit. Everbot plánuje sérii vzdělávacích workshopů, konferencí a diskusních panelů, které pomohou firmám pochopit, jak mohou umělou inteligenci efektivně implementovat do svých procesů a zvýšit tak svou konkurenceschopnost. Stejně tak bude aktivně od komunity sbírat zpětnou vazbu, na základě které, bude produkt neustále inovovat.

Analýza: Rok 2024 byl ve znamení raketového vzestupu AI asistentů. Zatím je používají jednotky procent uživatelů, ale brzy se stanou všudypřítomnými

PRAHA, 20. březen 2025 – Umělá inteligence (AI) – posílená pokroky v jazykových modelech a kontextovém porozumění – se stala hitem poslední doby. Stále používanějšími se stávají zejména AI asistenti jako Copilot, ChatGPT nebo Gemini. Jejich rychlý vzestup a stále narůstající popularita, včetně začlenění do některých prohlížečů, vyhledávačů a sociálních sítí, ukazují na to, že by se mohly stát všudypřítomnými podobně, jako jsou dnes samotné vyhledávače. Na konci roku je používalo 7 % domácností v pevných sítích a 4 % uživatelů v mobilních sítích po celém světě. Vyplývá to z analýzy AppLogic zveřejněné českou společností ComSource, která se zaměřuje na kyberbezpečnost, síťovou infrastrukturu a datovou analytiku.

AI asistentů je dnes poměrně velké množství, mezi tři největší patří Copilot od Microsoftu, ChatGPT od OpenAI a Gemini od Googlu. Zatímco Copilot je díky propojení s prohlížečem a vyhledávačem nejsilnější na fixních sítích, kde jej využívá zhruba 7 % všech uživatelů, Gemini boduje zejména na mobilních sítích, kde jej využívají více než 3 % uživatelů. „ChatGPT, který celou horečku vlastně odstartoval a dlouho se držel na prvním místě jak u fixního připojení, tak u mobilních uživatelů, je dnes v obou kategoriích až tím druhým největším. Na fixních sítích jej používá téměř 6 % domácností, na mobilních sítích téměř 3 % všech uživatelů. Využívání ChatGPT ale ke konci roku rostlo rychleji, než tomu bylo v případě Copilot a Gemini, takže uvidíme, jak se bude situace dále vyvíjet,“ říká Jaroslav Cihelka ze společnosti ComSource, která je exkluzivním partnerem analytické společnosti AppLogic v České republice.

AI asistenti již překonali svou původní roli v řešení jednoduchých zadání, dnes se stávají více univerzálními nástroji schopnými zodpovídat složité dotazy, nabízet personalizovaná doporučení a bezproblémově se integrovat s chytrými zařízeními. Velkou výhodou AI asistentů oproti tradičním vyhledávačům je to, že uživateli poskytují odpovědi s kontextem a ve formě v jaké si je tazatel přeje.

„Například z pohledu běžného uživatele dnes již nemusím řešit volbu správných klíčových slov při vyhledávání, ale mohu položit otázku a dostanu okamžitě odpověď. Ta se navíc obvykle dobře čte, protože AI používá konverzační styl. V některých případech dostanu k odpovědi také odkazy, ze kterých AI čerpá a můžu si vše ověřit. Pokud nechci dlouhé odpovědi, ale chci třeba jenom číslo nebo tabulku, stačí to AI jednoduše napsat a během několika sekund mám, co chci. AI asistenti jsou navíc schopni si pamatovat předešlé interakce, a i díky tomu mohou poskytovat více personalizované odpovědi,“ doplňuje Jaroslav Cihelka.

O AppLogic

AppLogic se specializuje na optimalizaci kvality uživatelských zkušeností aplikací (App QoE), což je klíčový ukazatel spokojenosti zákazníků telekomunikačních služeb. Díky kombinaci správy dat a síťové inteligence dokáže AppLogic přesně analyzovat a klasifikovat internetový provoz. Pomocí strojového učení pomáhá poskytovatelům služeb efektivně řešit problémy s kvalitou aplikací a zlepšovat provozní efektivitu.

O společnosti ComSource

Společnost ComSource se v oblasti kybernetické bezpečnosti a síťové infrastruktury pohybuje od roku 2010, od roku 2023 se soustředí i na oblast datové analytiky. Poskytuje vysoce profesionální služby a dodává ta nejlepší infrastrukturní a bezpečnostní řešení on-premise, v cloudu nebo v hybridních prostředích. Díky vlastní laboratoři ComSource vyvinul a dále rozvíjí i vlastní řešení a služby. Nejvýraznější z nich je systém FlowGuard chránící před DDoS útoky. ComSource má CSIRT tým, je aktivním členem AFCEA a projektu FENIX. Společnost má své pobočky v Praze, Brně, Písku a v Bratislavě.

Populární AI nástroje ovlivněny ruskou propagandou, prokremelská síť šíří dezinformace i v češtině

PRAHA – 12. března 2025 – Analýza společnosti NewsGuard ukázala, že velmi dobře financované ruské dezinformační síti Pravda se podařilo úspěšně ovlivnit populární AI nástroje, jako jsou ChatGPT, Copilot, Meta AI, Gemini nebo Grok, které v 33 % případů opakují prokremelské dezinformace.

Síť Pravda byla spuštěna krátce po ruské invazi na Ukrajinu v roce 2022. Postupně se rozrostla a nyní využívá zhruba 150 domén k šíření dezinformací v desítkách jazyků, včetně češtiny. Podle zprávy American Sunlight Project (ASP) publikuje síť v průměru 20 273 článků každých 48 hodin, tedy zhruba 3,6 milionu ročně.

NewsGuard zjistil, že síť Pravda rozšířila celkem 207 prokazatelně nepravdivých tvrzení. Od dezinformace, že USA provozují na Ukrajině tajné laboratoře na výrobu biologických zbraní, až po výmysl, že ukrajinský prezident Volodymyr Zelenskyj zneužil vojenskou pomoc například k nákupu německého venkovského sídla, které často navštěvoval Adolf Hitler.

„Jak ukazuje nejnovější analýza, prokremelská síť Pravda zaplavuje internet dezinformacemi a narušuje způsob, jakým velké jazykové modely zpracovávají a prezentují informace. Ruská propaganda tak proniká do západních AI systémů, což vede k šíření lží. Je také potřeba zmínit, že vzhledem k rozsahu kampaně musí být celá operace dobře financovaná. Už to tedy není jen teoretická hrozba.

AI modely jsou trénovány na obrovském množství dat z internetu, takže pokud dezinformační sítě, jako je Pravda, záměrně chrlí tisíce a miliony falešných informací, pak se jim může podařit výstupy AI nástrojů celkem významně ovlivnit.

Pokud pak budou generativní AI nástroje opakovat dezinformační narativy, mohou destabilizovat demokratické procesy, ovlivnit veřejné mínění a rozhodování voličů ve volbách, aniž by si toho byli vědomi. Příznivci autoritářských režimů se snaží využít AI k informační válce a pokud neinvestujeme do odolnosti AI modelů, budou následky velmi bolestivé.

Je nezbytné, aby vývojáři AI modelů implementovali robustní filtrační mechanismy, které dokáží identifikovat a vyloučit dezinformační zdroje z tréninkových dat. Ostatně na to upozorňuje i Akt EU o umělé inteligenci, který varuje před možným zneužitím systémů, pokud budou trénovány na zaujatých datech.

Důležitá je také transparentní spolupráce mezi technologickými společnostmi, vládami a nezávislými organizacemi při monitorování a odhalování dezinformačních kampaní. Součástí boje s dezinformacemi by mělo být i vzdělávání veřejnosti a osvěta, jak dezinformace fungují, co může být jejich cílem, proč by vůbec někdo něco takového šířil a jak s informacemi pracovat. To jsou klíčové kroky, pokud chceme zvýšit odolnost společnosti vůči manipulacím,“ říká Daniel Šafář, Area Manager CEE regionu z kyberbezpečnostní společnosti Check Point Software Technologies.

Sledujte novinky o bezpečnostním týmu Check Point Research:

Blog: https://research.checkpoint.com/

X: https://twitter.com/_cpresearch_

Sledujte novinky o společnosti Check Point Software Technologies:
 X: http://www.twitter.com/checkpointsw
Facebook: https://www.facebook.com/checkpointsoftware
Blog: http://blog.checkpoint.com
YouTube: http://www.youtube.com/user/CPGlobal
LinkedIn: https://www.linkedin.com/company/check-point-software-technologies

O výzkumném týmu Check Point Research

Check Point Research poskytuje zákazníkům společnosti Check Point Software a širší bezpečnostní komunitě detailní informace o kyberhrozbách. Výzkumný tým shromažďuje a analyzuje data o globálních kyberútocích ze sítě ThreatCloud, chrání tak před hackery a zajišťuje, že všechny produkty Check Point jsou aktualizované a mají nejnovější ochranu. Výzkumný tým se skládá z více než 100 analytiků a výzkumných pracovníků, kteří spolupracují také s dalšími bezpečnostními společnostmi, donucovacími orgány a organizacemi CERT.

O společnosti Check Point Software Technologies

Check Point Software Technologies Ltd. (www.checkpoint.com) je přední poskytovatel kyberbezpečnostních řešení pro vlády a organizace po celém světě. Chrání zákazníky před kyberútoky 5. generace prostřednictvím unikátních řešení, která nabízí bezkonkurenční úspěšnost zachycení malwaru, ransomwaru a jiných pokročilých cílených hrozeb. Check Point nabízí víceúrovňovou bezpečnostní architekturu, Infinity Total Protection s pokročilou prevencí hrozeb 5. generace, a tato kombinovaná produktová architektura chrání podnikové sítě, cloudová prostředí a mobilní zařízení. Check Point navíc poskytuje nejkomplexnější a nejintuitivnější nástroje pro správu zabezpečení. Check Point chrání více než 100 000 organizací všech velikostí.

Nachytej AI a vyhraj! Soutěž pro žáky odhalí limity umělé inteligence

Jak chytrá je doopravdy umělá inteligence? Může se splést, nebo tvrdit nesmysly? Žáci od 13 let mají nyní jedinečnou šanci zjistit, jaké má AI limity, a přitom se pobavit i vyhrát zajímavé ceny. Soutěž Nachytej AI je otevřená všem školním týmům, které chtějí propojit kreativitu, kritické myšlení a moderní technologie.

Účastníci soutěže Nachytej AI si nejprve vytvoří školní tým nebo se domluví s učitelem a začnou experimentovat s AI asistenty, jako jsou ChatGPT, Claude, Copilot, Gemini či Mistral. „Cílem je nejen testovat možnosti AI ve vzdělávání, ale také odhalit její slabiny a najít nejzajímavější halucinace – tedy situace, kdy AI poskytne nesmyslné nebo nechtěně komické odpovědi,“ popisuje Marek Dědič, koordinátor soutěže z EDU-AI, o.p.s.

Natrénuj, nachytej, pochlub se

Soutěž je rozdělena do tří kroků. Nejprve účastníci natrénují AI – naučí se vyladit pokročilý prompt, kterým nadefinují roli, osobnost a cíl AI asistenta. Přitom může jít o skutečnou osobnost, filmovou postavu, věc nebo například fyzikální jev. Následně AI otestují promyšlenými otázkami, ověří její odpovědi porovnáním s důvěryhodnými zdroji a zaznamenají odhalené chyby a nesmysly. Nakonec se pochlubí svými nejlepšími „úlovky“, které mohou sdílet na sociálních sítích nebo je zaslat organizátorům. Soutěž startuje dnešním dnem a trvá až do 30. května 2025. Vítězové budou vyhlášeni 23. června 2025.

Propojení moderních technologií s výukou

Soutěž Nachytej AI je skvělou příležitostí, jak se žáci mohou naučit efektivně pracovat s umělou inteligencí, rozvíjet své kritické myšlení a pochopit rizika spojená s AI, jako jsou dezinformace či polopravdy. Navíc je to zábavný týmový projekt, který propojuje aktuální technologické trendy s výukou libovolného předmětu.

„Chceme žákům ukázat, že umělá inteligence je skvělý nástroj, ale má své limity a rizika. Učitelům aktivita Nachytej AI nabízí příležitost k rozvoji digitálních kompetencí žáků a výuce efektivního využití AI při studiu,“ dodává Marek Dědič.

Odměny pro nejlepší „lovce“

Účastníci soutěže mohou vyhrát atraktivní ceny v několika kategoriích – například za nejhorší odhalenou halucinaci, za nejlépe naformulovaný prompt nebo za divácky nejúspěšnější úlovek. Vítězné týmy získají kvalitní sluchátka, O2 beam repro, powerbanky, JBL repro, nářadí na kolo, UV sterilizační pouzdra, NetKnights lahve, lístky do kina, trička a další zajímavé ceny. Učitelé, kteří povedou vítězné týmy, si odnesou speciální relaxační balíček od hlavního partnera akce.

„Rádi jsme podpořili soutěž, která boří mýty o umělé inteligenci a současně přispívá k praktickému experimentování, včetně hledání limitů AI ze strany žáků. Soutěž se nám líbí, protože žáky motivuje vyzkoušet silné i slabé stránky existujících modelů. Podporuje vědecký přístup, takže získají vlastní zkušenost a nenaletí na nesmysly a spiklenecké teorie. Těšíme se na průběh a výsledky soutěže,“ vysvětluje Jan Sedláček, ředitel společnosti Digital Resources, a.s.

Účastníci mohou své AI „úlovky“ sdílet několika způsoby:

  • videem přidaným na sociální sítě – TikTok, Instagram, YouTube nebo Facebook s hashtagem #NachytejAI;
  • veřejným příspěvkem na Facebooku nebo Instagramu s odkazem na sdílenou konverzaci a s dalšími údaji dle pravidel soutěže;
  • e-mailem na adresu organizátorů – soutez@edu-ai.eu.

Každý tým může přihlásit dva nejlepší úlovky a příspěvky lze sdílet na více platformách, kde se lajky a komentáře sčítají.

Podpora pro učitele

Soutěž Nachytej AI s sebou přináší jednoduchou metodiku a AI asistenta pro učitele (https://edu-ai.eu/design). Představuje tak snadnou cestu pro učitele, kteří chtějí do výuky zařadit aktivitu s umělou inteligencí, a podpořit tak rozvoj digitálních dovedností svých žáků. Aktivita se dá využít nejen v informatice, ale i v humanitních a přírodních vědách či při výuce jazyků.

Partneři soutěže

Pořadatelem soutěže Nachytej AI je EDU-AI o.p.s. a hlavním partnerem je Digital Resources a.s. Dalšími partnery jsou Nadace O2, Národní pedagogický institut České republiky a Lesensky.cz. Soutěž podporují AAVIT, AI dětem, Aignos, Nakladatelství Fraus, Pedagogická fakulta Univerzity Karlovy a prg.ai.

EDU-AI

EDU-AI o.p.s. je nezisková organizace zaměřená na výzkum a osvětu v oblasti využití umělé inteligence ve vzdělávání. Provozuje a rozvíjí inovativní, bezplatný nástroj pro české školy, který umožňuje tvorbu chatbotů a usnadňuje přípravu na zkoušky. EDU AI asistenta V1 vyvinula Asociace za lepší ICT řešení, Národní pedagogický institut České republiky, Univerzita Karlova a Technologická agentura České republiky. Více informací najdete na webu www.edu-ai.eu.

Kyberzločinci zneužívají DeepSeek a Qwen k vývoji zlodějských malwarů i k finančním podvodům

PRAHA – 20. února 2025 — DeepSeek vzbudil obrovský rozruch, trochu v jeho stínu zůstal další AI model Qwen. Jak zjistila kyberbezpečnostní společnost Check Point Software Technologies, mnoho kyberzločinců rychle přešlo z ChatGPT právě na tyto nové platformy a začali je využívat k vytváření škodlivého obsahu. Kyberzločinci mezi sebou zároveň sdílí, jak umělou inteligenci zmanipulovat pro generování necenzurovaného obsahu, setkáváme se i s podrobnými návody na vývoj zlodějského malwaru nebo na obcházení bankovních ochran.

„ChatGPT v posledních dvou letech výrazně investuje do ochrany proti zneužití a zdá se, že konkurenční modely jsou na tom podstatně hůře, čímž přitahují zájem útočníků, zejména těch s menšími znalostmi a dovednostmi,“ říká Daniel Šafář, Area Manager CEE regionu z kyberbezpečnostní společnosti Check Point Software Technologies. „Navzdory investicím a mechanismům jsou i necenzurované verze ChatGPT k dispozici na různých internetových úložištích. Můžeme tedy očekávat, že se brzy objeví i necenzurované verze DeepSeek a Qwen, což výrazně zvýší riziko. Už nyní ale vidíme, že Qwen i DeepSeek jdou zneužít k vývoji malwarů a dalších hrozeb. Navíc kyberzločinci aktivně spolupracují a sdílí své postřehy a postupy.“

Vývoj zlodějských malwarů

Check Point zaznamenal případy, kdy kyberzločinci vytvářeli s pomocí Qwen infostealery, které se zaměřují na krádeže citlivých informací a přihlašovacích údajů od nic netušících uživatelů.

Jailbreaking

Jailbreaking v tomto případě označuje metody, které uživatelům umožňují manipulovat s AI modely a vytvářet necenzurovaný a také nebezpečný obsah. Kyberzločinci například sdílí jailbreaking prompty pro DeepSeek, které mohou manipulovat s reakcemi modelu, včetně metod jako jsou „Do Anything Now“ a „Plane Crash Survivors“. Ty využívají speciálně formulované příkazy, které modely donutí generovat odpovědi i v situacích, kdy by normálně odmítly či filtrovaly obsah.

Obcházení bankovních ochran

Bylo nalezeno několik diskusí o použití DeepSeek k obcházení ochran proti podvodům u bankovních systémů, což je alarmující riziko, které by mohlo ještě zefektivnit finančně motivované krádeže.

Šíření spamu

Kyberzločinci kombinují ChatGPT, Qwen a DeepSeek, aby optimalizovali skripty pro hromadnou distribuci spamu a zefektivnili útoky.

Temná stránka pokročilých AI nástrojů

Sledujeme znepokojivý trend, kdy jsou AI modely jako Qwen a DeepSeek zneužívány k vývoji kybernetických hrozeb. I nezkušení útočníci tak mohou vytvořit ničivé kybernetické zbraně, takže organizace musí používat proaktivní obranu a zaměřit se na prevenci hrozeb, namísto zatím stále velmi rozšířené, byť nedostatečné, detekce.

Novinky od českého týmu společnosti Check Point Software Technologies:

Facebook: https://www.facebook.com/CheckPointCzech

X: https://twitter.com/CheckPointCzech

LinkedIn: https://cz.linkedin.com/showcase/checkpointczech

Sledujte novinky o bezpečnostním týmu Check Point Research:

Blog: https://research.checkpoint.com/

X: https://twitter.com/_cpresearch_

Sledujte novinky o společnosti Check Point Software Technologies:
 X: http://www.twitter.com/checkpointsw
Facebook: https://www.facebook.com/checkpointsoftware
Blog: http://blog.checkpoint.com
YouTube: http://www.youtube.com/user/CPGlobal
LinkedIn: https://www.linkedin.com/company/check-point-software-technologies

O výzkumném týmu Check Point Research

Check Point Research poskytuje zákazníkům společnosti Check Point Software a širší bezpečnostní komunitě detailní informace o kyberhrozbách. Výzkumný tým shromažďuje a analyzuje data o globálních kyberútocích ze sítě ThreatCloud, chrání tak před hackery a zajišťuje, že všechny produkty Check Point jsou aktualizované a mají nejnovější ochranu. Výzkumný tým se skládá z více než 100 analytiků a výzkumných pracovníků, kteří spolupracují také s dalšími bezpečnostními společnostmi, donucovacími orgány a organizacemi CERT.

O společnosti Check Point Software Technologies

Check Point Software Technologies Ltd. (www.checkpoint.com) je přední poskytovatel kyberbezpečnostních řešení pro vlády a organizace po celém světě. Chrání zákazníky před kyberútoky 5. generace prostřednictvím unikátních řešení, která nabízí bezkonkurenční úspěšnost zachycení malwaru, ransomwaru a jiných pokročilých cílených hrozeb. Check Point nabízí víceúrovňovou bezpečnostní architekturu, Infinity Total Protection s pokročilou prevencí hrozeb 5. generace, a tato kombinovaná produktová architektura chrání podnikové sítě, cloudová prostředí a mobilní zařízení. Check Point navíc poskytuje nejkomplexnější a nejintuitivnější nástroje pro správu zabezpečení. Check Point chrání více než 100 000 organizací všech velikostí.

Umělá inteligence v digitální agentuře, aneb kde AI pomáhá a kde má ještě rezervy

Málo kdo ještě neslyšel o novém fenoménu AI (Artificial intelligece) neboli umělé inteligenci. Problematika vstupu umělé inteligence do našich životů se probírá napříč celým internetem, na různých seminářích a setkáních specialistů ze všech oborů. Můžeme najít tisíce návodů, doporučení, ale i varování před jejím využíváním. Někdo v rozvoji umělé inteligence vidí obrovský potenciál a technologický skok kupředu, jiní ho považují za bezpečnostní riziko nebo něco, co jim vezme práci.

Umělá inteligence je s námi už řadu let, přesto největší boom zažívá až v posledních měsících. Ten vyvolal především nástroj ChatGPT, který se během chvilky rozšířil mezi veřejnost po celém světě. Připravili jsme pro vás článek, ve kterém vás seznámíme s nejznámějšími nástroji, které využívají technologii umělé inteligence, k čemu je lze využít a jak ovlivňují práci v digitální agentuře.

Co je ChatGPT

Mezi nejznámější nástroje využívající umělou inteligenci patří již zmiňovaný ChatGPT. Jedná se o konverzační model založený na architektuře GPT (Generative Pre-trained Transformer), který umí generovat text na základě zadaných otázek a instrukcí. ChatGPT je navržen tak, aby mohl poskytovat odpovědi na různé dotazy a plnit textové úkoly. Umí například psát články, překládat text nebo generovat kódy v programovacích jazycích. Pokud mu napíšete dobré zadání, dokáže vám vygenerovat kvalitní odpověď. Problém ale nastává, pokud chcete využít získané informace jako faktické údaje. ChatGPT využívá data získaná do roku 2021, nemá tudíž nejnovější informace, přístup k online datům a některé informace si dokonce vymýšlí. Je to tedy spíše kreativní pomocník, poskytnuté údaje byste si měli vždy ověřit a text zkontrolovat z pohledu gramatiky. „Vyjde nová verze frameworku nebo knihovny, kde se používají úplně nové způsoby použití a ChatGPT s tím neumí pracovat, jelikož nemá nejnovější informace,“ zdůrazňuje vedoucí programátorů Daniel Benda z agentury Ler Studio a práci s AI přirovnává ke googlu. „Stejně jako do dneška bylo potřeba umět efektivně googlovat, tak do budoucna bude nutné umět dobře promptovat AI. Myslím si, že by se v tom měl každý zdokonalovat.“

Konkurence ChatGPT: Google Bard

Méně známou chatovací umělou inteligencí, která stojí za zmínku, je Bard. Tu vyvíjí společnost Alphabet (pod kterou spadá Google) a měla by konkurovat ChatGPT. Hlavním rozdílem je aktuálnost dat, ChatGPT využívá off-line databázi z roku 2021, kdežto Bard by měl čerpat nejnovější informace online. Do budoucna by měl být součástí samotného vyhledávání od Googlu a také Google Docs nebo Gmailu.

Generování obrázků pomocí Midjourney

Dalším průkopníkem v oboru umělé inteligence je generátor obrázků na základě zadaného textu nazvaný Midjourney. Tato aplikace vzbudila nejvíce rozruchu v komunitě umělců, kteří mohutně protestovali proti generickým obrázkům a jeden čas nebylo vidět nic jiného, než přeškrtnutá zkratka AI. Midjourney dokáže svou tvorbou opravdu zapůsobit. Obrázky vypadají velmi realisticky, jako skutečné fotografie nebo naopak dokáže hravě vytvořit fantaskní svět podle vašich představ. Obdobným nástrojem je také poměrně dobře známá aplikace DALL-E. „AI zatím není schopné generovat jinak, než v rastru a zvládá pouze formát průměrně kvalitního JPG,“ říká Bára Pokorná, grafička Ler Studia a dodává. „K práci používám jen generátor ve Photoshopu, byla by hloupost se tomu vyhýbat. Na drobné úkony, nebo dogenerování pozadí je opravdu výborným pomocníkem, avšak složitější úkony, jako přidání konkrétních objektů může být problémové. Zatím s ním spolupracuji spíše na úrovni grafického padawana.“

Adobe Photoshop AI

U generování obrázků ještě chvíli zůstaneme, a to konkrétně u nejpoužívanější aplikace pro práci s grafikou. Adobe Photoshop, po dlouho testované beta verzi, přidal funkci generování obrázků umělou inteligencí. Nejužitečnější je funkce doplnění nebo nahrazení části obrázku. Například pokud chcete doplnit fotografii nějakým objektem, jako přidat na stůl květinu, vyberete danou oblast, napíšete textový požadavek a Photoshop vám nabídne několik variant zpracování. Další velmi užitečnou funkcí je nahrazení nebo dodělání pozadí. Nemusíte fotografii již pracně retušovat, když chcete odstranit nežádoucí objekty. Stejně jako u všech ostatních nástrojů s umělou inteligencí záleží na formulaci zadání, a ne vždy je výstup použitelný.

AI na každém kroku

Implementace umělé inteligence do nejrůznějších aplikací a nástrojů se stává pomalu ale jistě naprosto běžnou záležitostí. Stejně jako Adobe Photoshop, tak i například Canva nabízí možnosti generování obrázků na základě textu a spoustu dalších aplikací přidává možnost generování textů napojením na ChatGPT. Využívání umělé inteligence se zkrátka šíří jako lavina napříč všemi obory.

Jak ovlivňuje umělá inteligence práci v digitální agentuře?

Je třeba se bát, nebo se rychle začít učit? Je umělá inteligence nevyhnutelná nebo je to jen aktuální trend? Zeptali jsme se na názor programátorů, designérů a marketingových pracovníků.

Nahradí nás umělá inteligence?

Při příchodu umělé inteligence a jejího rychlého nástupu se mnoho z nás cítilo nejistě. Někteří si novou technologii museli hned vyzkoušet, zatím co jiní byli opatrnější. Pravdou však zůstalo, že nikdo úplně nevěděl, do jaké míry dokáže umělá inteligence změnit naši práci a vznikali diskuse o tom, zda nás nemůže úplně nahradit. „Používám aktuálně umělou inteligenci především v copywritingu, můžu se tam inspirovat, získám nějaké tipy na témata nebo prvotní návrh textu. Je to užitečný nástroj, dělá ale často chyby a některé informace si vymýšlí, takže zatím se nahraditelný určitě necítím,“ říká Jakub Laštůvka, online marketér digitální agentury Ler Studio, www.lerstudio.cz.

Ačkoli se obavy začaly šířit i mezi programátory, primárně s nástupem ChatGPT, začali ho ke své práci používat první. Všichni se ale shodují na jednom, že umělá inteligence nás ještě nějakou chvíli nenahradí a vždycky tu bude muset být někdo, kdo ji bude dávat pokyny. „Nejdříve jsem k tomu byl dost skeptický, lidi o tom hodně mluvili, ale moc to nefungovalo. Aktuálně se ale ChatGPT 4 ukazuje jako velice dobrý nástroj,“ pochvaluje si senior programátor Daniel Benda z digitální agentury Ler Studio.

Prvotní obavy

Obavy z příchodu této technologie se tak rychle rozplynuly s uvedením do praxe. Asi nejmenší pomoc umělá inteligence nyní přináší do grafického oddělení. Příkladem je Midjourney. Správně napsat zadání pro AI není tak jednoduché a obsah, který je potřeba generovat není ani zdaleka dostačující. Logo, brand, tiskoviny nebo obaly jsou nereálným cílem pro tuto platformu. „Grafika je kreativní činnost a je potřeba představivost. To, co bych zadával složitě do promptu udělám se svými zkušenostmi mnohem rychleji a přesněji,“ dodává David, seniorní grafik digitální agentury Ler Studio, www.lerstudio.cz.

Příklad z praxe

Přes tyto okolnosti je třeba s touto technologií pracovat i nadále, sledovat co v budoucnu přinese a učit se jí využívat. Odborníci vidí možné další problémy s ohledem na duševní vlastnictví některých generovaných výstupů. AI může přidat do generovaného obrázku předměty, nebo tváře, které někomu patří. Tímto problémem už se zabývá v Americe případ vygenerovaného komiksu, kde umělá inteligence použila tvář známé herečky Zendaya, která si nyní nárokuje duševní vlastnictví díla.

České školství se přizpůsobuje umělé inteligenci. Al ve škole běžně využívá třetina studentů, ukazuje anketa Evropy v datech

AI nástroje ve vzdělávání představují při správném a efektivním využívání spoustu nových příležitostí. V budoucnu mohou pomoci s personalizací vzdělávání nebo hodnocením a zpětnou vazbou. Studenti se k Al staví převážně optimisticky. Ukazují to výsledky ankety Evropy v datech, ze které vyplynulo, že takřka ⅔ dotazovaných vnímá umělou inteligenci pozitivně. Více než polovina z nich ale přesto považuje AI chatboty pro budoucí studium jako rizikové.

České školství se k výzvám v podobě pokročilé umělé inteligence typu chatGPT staví převážně pozitivně. Resort vidí v AI nástrojích potenciál hlavně v oblastech, jako je personalizace vzdělávání, hodnocení a zpětná vazba, rozšíření přístupu ke kvalitnímu vzdělávání nebo administrativa. Cílem resortu je vybavit školy pokročilými digitálními technologiemi mezi lety 2022 a 2024.

Klíčovým bude Plán podpory využití umělé inteligence ve školství, který je zatím ve fázi projednávání. Bude obsahovat doporučení, jak předcházet rizikům ztráty osobního kontaktu, příliš velké závislosti dětí na technologiích, vzniku nerovností ve vzdělávání v přístupu k AI nebo negativního postoje učitelů. „Možné zneužívání AI nástrojů se řeší na základních a středních školách spíše na úrovni nastavených pravidel školy, která upravuje školní řád. U vysokých škol ministerstvo nesmí zasahovat do průběhu výuky, je ale připraveno poskytnout podporu při hledání odpovědí na aktuální výzvy,“ uvedla mluvčí ministerstva školství Tereza Fojtová. Národní pedagogický institut na začátku nového školního roku vydal sedm doporučení, jak pracovat s umělou inteligencí, zvlášť pro ředitele, učitele, žáky i rodiče.

S uchopením AI pomáhají specializované projekty i komerční sektor

V Česku funguje několik projektů, které pomáhají uchopit základním a středním školám AI v teoretické i praktické rovině. Patří mezi ně např. neziskové iniciativy jako je AI dětem, jejichž lektoři jezdí po školách s workshopy či připravují vzdělávací a metodické materiály nebo projekt Aignos, který nabízí workshopy a semináře o AI pro školy, veřejnost i firmy. Osvětě o AI se věnuje i komerční sektor, což ukazuje i spolupráce obou zmíněných projektů s Magenta Experience Center, vzdělávací pobočkou společnosti T-Mobile.

Spolupráce probíhá na úrovni sdílení lektorů a zkušeností. Zatímco Magenta Experience Center má na podobné aktivity personální i časové kapacity, k vysvětlení složité problematiky využívá know-how dalších odborníků.  „Skrze organizace jako AI dětem nebo Aignos víme, že se na školách pokročilým technologiím a AI nevěnuje dostatečná pozornost. My jim tu pozornost a podporu dáme, a děti tak získají zkušenosti s technologiemi jako je 3D tisk, IoT robotika nebo AI jako takové,“ říká Radek Janíček z Magenta Experience Center společnosti T-Mobile, která mimo oblast vzdělávání zavádí AI nástroje hlavně ke zrychlení komunikace se zákazníky nebo k detekování podvodů.

„Konkrétní využití si lze představit např. formou chatbotů na webových stránkách, přímo v aplikaci nebo voicebota při zavolání na Infolinku. Aktuálně průměrně 10 % zákaznických dotazů zodpovídáme přes našeho chatbota v aplikaci, při zapojení AI a zakomponování těchto nástrojů do zákaznických cest by tohle číslo mohlo být několikanásobně vyšší. S pomocí umělé inteligence se nám už nyní daří lépe detekovat podvodná jednání jak ze strany podvodníků, tak těch, která jsou automaticky generovaná skrze AI,“ doplňuje Eva Nora, manažerka digitálních služeb v T-Mobile.

Univerzity jsou pro jednotný postup

České vysoké školy chtějí při tvorbě principů týkajících se umělé inteligence postupovat společně. Univerzita Karlova a spolek akademických institucí a firem prg.ai založily letos v dubnu skupinu, která vypracovala obecná doporučení pro výuku v různých stupních vzdělávání, která budou předložena České konferenci rektorů. Masarykova univerzita se staví k potenciálu AI nástrojů velmi pozitivně.

V rámci studia využilo 25 % studentů chatbota k podvádění

Výsledky ankety Evropy v datech ukazují pozitivní přístup studentů k Al. Přes 70 % z 548 respondentů ze středních a vysokých škol nesouhlasilo, že by využívání chatbotů ve vzdělávání bylo proti jeho smyslu. „Zároveň si ale studenti uvědomují rizika a jiné problémy, které s sebou nová technologie přináší. Umělou inteligenci běžně v rámci studia využívá téměř 31 % respondentů z řad vysokoškolských a středoškolských studentů, 50 % z nich pak AI alespoň vyzkoušelo. Zajímavé je, že se více jak pětina dotázaných přiklání k zákazu využívání chatbotů ve vzdělávání,“ přibližuje Hana Vincourová, analytička Evropy v datech. Výsledky ankety dále naznačují, že pokročilé generativní modely jsou z pohledu etiky studia kontroverzní po právu. Z dotázaných studentů čtvrtina přiznala, že v rámci studia AI nástroje použila k podvádění.

Prorektor Univerzity Karlovy pro informační technologie Tomáš Skopal říká, že AI technologie efektivně zakázat nejde, a ani to podle něj není žádoucí. „Často mohou sloužit k odbourávání rutiny. Typickým příkladem je rešeršování literatury, vyhledávání informací a shrnutí textu. AI nástroje by měly být do studia zapojeny až ve chvíli, kdy studujícího rutina spíš zdržuje, než rozvíjí.“

ChatGPT je efektivnější než tutor

Výsledky amerického výzkumu z února tohoto roku ukázaly, že učitelé překvapivě využívají chatGPT více než studenti. Zajímavá zjištění ohledně efektů chatGPT přinesl také květnový průzkum provedený v USA iniciativou Intelligent. Mezi dotázanými studenty ve věku 16 až 24 let mělo 10 procent v uplynulém akademickém roce zkušenosti se studiem za asistence tutora i chatGPT. 9 z 10 takových studentů pak uvedlo, že preferuje studování s chatbotem. Většina z nich si myslí, že je takové studium efektivnější, a to z důvodů lepší personalizace, menšího nátlaku nebo schopnosti chatbota opravovat chyby

Generativní AI jako nástroj diskriminace

Příchod generativních modelů nejnovější generace, jako je chatGPT, doprovázejí otázky spojené s riziky. Studenti mohou nástroj využít k napsání eseje, slohové práce, nebo dokonce části kvalifikační práce. Problematické jsou také mechanismy na pozadí fungování modelu, které mohou být kvůli datům diskriminační vůči znevýhodněným skupinám. Výstupy mohou být také zkreslené politicky ve prospěch establishmentu.

Některé vzdělávací instituce se rozhodly kvůli rizikům podobnou technologii zakázat. V Evropě k zákazu chatbota a dalších AI nástrojů přistoupila v lednu mezi prvními prestižní univerzita Sciences Po v Paříži, především kvůli obavám z plagiátorství. Během jara Al nástroje zakázala také řada britských univerzit včetně Cambridge a Oxfordu. V červenci pak ale skupina univerzit oznámila, že etické používání chatGPT v souladu se schválenými principy do svých metod výuky a hodnocení začlení.

Překážky chatGPT: cenzura i ochrana osobních údajů

OpenAI si klade za cíl, aby byl nástroj postupně dostupný uživatelům globálně, v některých státech je ale zatím přístup ke službě omezený, nebo úplně chybí. Někde chatbota sice explicitně nezakázaly, oficiální povolení ale služba nezískala, jiné státy na chatGPT uvalily přímo zákaz a v některých – například afrických – regionech službu v plném rozsahu neposkytla zase OpenAI. Prvními zeměmi, které službu zakázaly, byly autoritářské a diktátorské režimy, chatbota například nelze oficiálně využít v Rusku ani v Číně. Na stránkách společnosti OpenAI je dostupný aktuální seznam zemí, kde nemá chatGPT podporu.

Pozn. Sběr dat ankety o vnímání AI ve vzdělávání probíhal 23. 8. – 29. 8. 2023 a celkový vzorek čítá 548 respondentů, přičemž populaci v tomto případě tvořili studenti vysokých a středních škol. Cílem ankety nebylo přesné určení, kolik studentů vnímá AI určitým způsobem a kolik studentů má přesně s AI zkušenost, ale spíše odhalení možných názorů a zkušeností, které studenti mají ohledně AI. I když výsledek není reprezentativní, zjištění ankety mohou sloužit k tematické analýze a odhadům zkušenosti studentů. Pokud např. 25 % respondentů uvedlo, že AI použilo k podvádění, nelze říci, že přesně čtvrtina studentů podvádí s pomocí AI, lze ale konstatovat, že v rámci naší cílové skupiny (studenti SŠ a VŠ) lze předpokládat, že AI k podvádění využívá spíše menší podíl studentů.

Facebook zaplavily nebezpečné reklamy na ChatGPT, Google Bard a další AI služby, hrozí stažení malwaru a krádeže dat

Check Point® Software Technologies Ltd. (NASDAQ: CHKP), přední světový poskytovatel kyberbezpečnostních řešení, varuje před novým trikem kyberpodvodníků. Na Facebooku se uživatelům zobrazují sponzorované příspěvky, které lákají na informace o AI službách,ve skutečnosti je to ale jen trik, jak přimět nepozorné oběti ke stažení nebezpečných souborů. Kyberzločinci využívají nové stránky, ale i stránky s obrovským množstvím fanoušků, a lákají na poutavý obsah. Jakmile uživatel klikne na škodlivý odkaz a stáhne malware, hrozí krádeže hesel a dalších citlivých informací.

Většina podvodů nabízí tipy, novinky a „vylepšené“ verze AI služeb Google Bard nebo ChatGPT:

Výše je jen ukázka několika málo příspěvků. Narazit můžete na množství dalších mutací, jako jsou příspěvky od Bard New, Bard Chat, GPT-5, G-Bard AI a mnoha dalších. Některé příspěvky a skupiny se snaží využít i popularity dalších AI služeb, jako je třeba Midjourney:

V řadě případů lákají kyberzločinci i na další AI služby a nástroje. Jednou z největších stránek, s více než 2 miliony fanoušků, která parazituje na značce Jasper AI je Jasper.ai. I to ukazuje, jak drobné detaily mohou hrát důležitou roli a znamenat rozdíl mezi legitimní službou a podvodem.

Uživatelé často nemají tušení, že se jedná o podvody, a tak pod příspěvky vášnivě diskutují o roli umělé inteligence a příspěvky likují nebo dále sdílí.

„Alarmující je, že pro šíření podvodů jsou využívány facebookové stránky, které mají desetitisíce, statisíce a v některých případech i miliony fanoušků. Řada lidí potom může mít dojem, že jde o legitimní obsah. Mnoho stránek přitom existuje již dlouho. Jen dříve byly používány ke sdílení nejrůznějších citátů, motivačních obrázků, fotek z cest, zvířátek nebo politické agendy, tedy obsahu, na který řada lidí ráda reaguje. Ale pomocí podvodně ukrytého malwaru mohou útočníci stránky ukrást a zneužít je k další propagaci škodlivého obsahu. Podvodníci také často původní stránky různě přejmenovávají,“ říká Daniel Šafář, Area Manager CEE regionu z kyberbezpečnostní společnosti Check Point Software Technologies.

„Kyberzločinci většinou používají scénář, ve kterém se snaží nalákat uživatele k návštěvě legitimně a kvalitně vyhlížející webové stránky, kde stačí kliknout na tlačítko a stáhnout novou verzi umělé inteligence. Řada stránek vypadá velmi podobně, některé jsou ovšem poměrně kreativní, každopádně všechny vypadají vizuálně zajímavě, aby vzbudily pozornost a přesvědčily návštěvníky ke kliknutí. Ale místo AI služby se stáhne nebezpečný soubor,“ upozorňuje Daniel Šafář.

Kyberzločinci vynakládají velké úsilí, aby podvody vypadaly důvěryhodně. Když uživatel vyhledá na Facebooku „Midjourney AI“, najde stránku s 1,2 miliony sledujícími, takže pravděpodobně uvěří, že se jedná o autentickou stránku.

Pokud mají příspěvky mnoho lajků a komentářů, znamená to, že ostatní uživatelé na obsah reagovali, což v očích mnoha lidí dále zvyšuje důvěryhodnost.

Hlavním cílem této falešné facebookové stránky Mid-Journey AI, stejně jako mnoha dalších, je přimět uživatele ke stažení malwaru. Aby vše působilo ještě důvěryhodněji, jsou odkazy na škodlivé webové stránky kombinovány s odkazy na legitimní recenze Midjourney nebo na sociální sítě.

První odkaz vede na ai-midjourney[.]net, kde je pouze tlačítko Začít.

Jakmile uživatel na tlačítko klikne, je přesměrován na další podvodnou stránku midjourneys[.]info, která nabízí ke stažení Midjourney AI zdarma na 30 dní. Ve skutečnosti uživatel ale stáhne soubor MidJourneyAI.rar z Gofile, bezplatné platformy pro sdílení a ukládání souborů. „Některé podvody se dokonce ani nenamáhají přesměrovat uživatele na podvodný web, ale hned ve facebookovém příspěvku nabízí odkaz, který okamžitě začne stahovat nebezpečný soubor,“ dodává Daniel Šafář z kyberbezpečnostní společnosti Check Point Software Technologies.

Místo MidJourney si ovšem oběť stáhne nebezpečný soubor Mid-Journey_Setup.exe s malwarem Doenerium, který krade data a informace. Malware se uloží, včetně všech pomocných souborů, do složky TEMP.

Jakmile je malware v počítači, odešle útočníkům na Discord zprávu „Nová oběť“ s popisem nově infikovaného počítače, včetně jeho názvu, verze operačního systému, paměti RAM, doby provozu a konkrétní cesty, ze které byl malware spuštěn. Tyto informace umožňují kyberzočincům přesně rozeznat, který podvod byl v tomto případě úspěšný.

Malware krade nejrůznější informace, včetně cookie, záložek, historie prohlížení a hesel. Zaměřuje se  také na kryptoměnové peněženky, včetně Zcash, Bitcoin, Ethereum a dalších, ale cílí i na přihlašovací údaje z různých sociálních a herních platforem.

Jakmile jsou všechna data z cílového počítače ukradena, jsou uložena do jednoho archivu a nahrána na platformu pro sdílení souborů Gofile:

Následně infostealer odešle na Discord zprávu „Infikováno“, která obsahuje podrobnosti o ukradených datech a odkaz na archiv. Většinu komentářů na falešné stránce vytvářejí boti s vietnamskými jmény a výchozím jazykem chatu je vietnamština, z čehož lze usuzovat, že se jedná o vietnamské hackery.

Většina kampaní zneužívajících facebookové stránky a škodlivé reklamy šíří nějaký druh zlodějského malwaru. Check Point také odhalil, že některé kampaně využívají sofistikovaný zlodějský malware ByosBot, který je velmi těžké odhalit. Jedním z jeho cílů jsou informace o facebookových účtech a krádeže facebookových stránek. Zdá se, že kyberzločinci se snaží zneužít existující stránky s velkým počtem uživatelů, včetně reklamních rozpočtů, takže mnoho stránek s velkým dosahem by mohlo být tímto způsobem zneužito k dalšímu šíření podvodu.

S ukradenými daty, stránkami, napadenými systémy a přihlašovacími údaji se také aktivně obchoduje na darknetu, což nebezpečnost podvodů ještě násobí.

Zvýšený zájem o umělou inteligenci útočníkům nahrává, navíc AI technologie umožňují vytvářet podvody mnohem sofistikovanějším a věrohodnějším způsobem. Proto je nezbytné se vzdělávat a znát rizika a taktiky kyberzločinců. Pro ochranu nejnovějšími triky podvodníků je důležité používat také pokročilá bezpečnostní řešení.

Novinky od českého týmu společnosti Check Point Software Technologies:

Facebook: https://www.facebook.com/CheckPointCzech

Twitter: https://twitter.com/CheckPointCzech

LinkedIn: https://cz.linkedin.com/showcase/checkpointczech

Sledujte novinky o bezpečnostním týmu Check Point Research:

Blog: https://research.checkpoint.com/

Twitter: https://twitter.com/_cpresearch_

Sledujte novinky o společnosti Check Point Software Technologies:
Twitter: http://www.twitter.com/checkpointsw
Facebook: https://www.facebook.com/checkpointsoftware
Blog: http://blog.checkpoint.com
YouTube: http://www.youtube.com/user/CPGlobal
LinkedIn: https://www.linkedin.com/company/check-point-software-technologies

O výzkumném týmu Check Point Research

Check Point Research poskytuje zákazníkům společnosti Check Point Software a širší bezpečnostní komunitě detailní informace o kyberhrozbách. Výzkumný tým shromažďuje a analyzuje data o globálních kyberútocích ze sítě ThreatCloud, chrání tak před hackery a zajišťuje, že všechny produkty Check Point jsou aktualizované a mají nejnovější ochranu. Výzkumný tým se skládá z více než 100 analytiků a výzkumných pracovníků, kteří spolupracují také s dalšími bezpečnostními společnostmi, donucovacími orgány a organizacemi CERT.

O společnosti Check Point Software Technologies

Check Point Software Technologies Ltd. (www.checkpoint.com) je přední poskytovatel kyberbezpečnostních řešení pro vlády a organizace po celém světě. Chrání zákazníky před kyberútoky 5. generace prostřednictvím unikátních řešení, která nabízí bezkonkurenční úspěšnost zachycení malwaru, ransomwaru a jiných pokročilých cílených hrozeb. Check Point nabízí víceúrovňovou bezpečnostní architekturu, Infinity Total Protection s pokročilou prevencí hrozeb 5. generace, a tato kombinovaná produktová architektura chrání podnikové sítě, cloudová prostředí a mobilní zařízení. Check Point navíc poskytuje nejkomplexnější a nejintuitivnější nástroje pro správu zabezpečení. Check Point chrání více než 100 000 organizací všech velikostí.

Exit mobile version