FLUX.1 díky optimalizaci pro TensorRT přináší až 2x rychlejší běh a nižší zátěž VRAM

Blog RTX AI Garage představuje spolupráci společnosti NVIDIA s Black Forest Labs, jednou z předních světových výzkumných institucí zabývajících se AI. Její model FLUX.1 Kontext [dev], je díky tomu nyní optimalizován pro využití na GPU RTX s použitím NVIDIA TensorRT.

FLUX.1 Kontext [dev] kombinuje generování a úpravy obrázků v jediném intuitivním pracovním postupu. Na rozdíl od tradičních přístupů, které vyžadují složité kombinace modelů a řídicích sítí, umožňuje uživatelům řídit úpravy krok za krokem pomocí přirozeného jazyka a referenčních obrázků. Není nutné žádné dolaďování nebo složité nastavení. Mezi klíčové vlastnosti patří:

  • Konzistence postav: Zachování jedinečných rysů napříč scénami.
  • Lokalizované úpravy: Můžete změnit konkrétní prvky, aniž byste ovlivnili celý obraz.
  • Přenos stylu: Použití vzhledu referenčního obrázku na nové scény
  • Výkon v reálném čase: Generování s nízkou latencí podporuje rychlé opakování a zpětnou vazbu

Akcelerace na GPU RTX pomocí TensorRT přináší až 2x rychlejší inference a výrazně nižší spotřebu VRAM. Proč je to důležité?

  • Úpravy v reálném čase: Optimalizace TensorRT umožňují interaktivní úpravy v reálném čase na systémech poháněných RTX.
  • Intuitivní iterace: Cílené změny – předefinování detailů, zachování konzistence znaků nebo přenesení stylů bez ztráty kvality nebo tvůrčí kontroly.
  • Zjednodušení pracovních postupů: Eliminace potřeby více modelů nebo složitých postupů. Vše od generování obrázků až po jemné úpravy probíhá v jednom zjednodušeném a dostupném nástroji.
  • Škálovatelná přístupnost: Díky otevřeným váhám dostupným v Hugging Face a bezproblémové integraci do nástrojů, jako je ComfyUI, může více lidí experimentovat, vytvářet prototypy a zavádět pokročilá řešení pro úpravu obrázků .

FLUX.1 Kontext [dev] je k dispozici na Hugging Face (Torch a TensorRT). Nadšenci do AI, kteří mají zájem o testování těchto modelů, si mohou stáhnout varianty Torch a používat je v programu ComfyUI. Společnost Black Forest Labs také zpřístupnila online playground pro testování modelu. Mikroslužba NVIDIA NIM se očekává v srpnu. Pro pokročilé uživatele a vývojáře NVIDIA pracuje na vzorovém kódu pro snadnou integraci pipeline TensorRT do pracovních postupů. Repozitář DemoDiffusion vyjde ještě tento měsíc.

Pomáhají vývojářům i AI agentům lépe vyhledávat v datech. TopK získávají 120 milionů korun na vývoj vyhledávací platformy pro velké korporace

Praha 1. července 2025 – S příchodem ChatGPT a dalších velkých jazykových modelů (LLM) vznikla obrovská poptávka po vektorových databázích. Na nový způsob ve vyhledávání v datech, včetně zapojení AI, však firmy nejsou připraveny z hlediska infrastruktury a vyhledávacích nástrojů. Tento problém řeší česko-slovenský startup TopK, jehož hybridní přístup kombinuje vektorové vyhledávání, porovnávání klíčových slov a filtrování. Vývojářským týmům tak umožňuje lépe se vyznat ve vlastních datech a dosahovat maximálně relevantních výsledků, a to i ve velkém objemu dat. Nyní jej v seed fázi podpořili fondy Earlybird, KAYA, Irregular expressions a angel investoři částkou necelých 120 milionů korun (5,5 milionu dolarů). Prostředky startup využije pro rozšíření týmu a budování vyhledávací platformy pro AI éru.

„Trh databází prochází zásadní transformací. Boom AI nativních produktů posouvá limity tradičních systémů, které současným požadavkům již nevyhovují. Platforma TopK na tuto vlnu reaguje – moderní aplikace, jako jsou AI asistenti nebo RAG systémy, potřebují vyhledávací nástroje, které umějí v reálném čase kombinovat různé druhy informací pro dosažení maximálně relevantních výsledků. A to na sémantické, lexikální i strukturální úrovni,“ říká Marek Galovič, CEO a spoluzakladatel TopK.


„Měníme způsob vyhledávání v datech a budujeme platformu, která je vhodná pro vývojářské týmy operující s velkým množstvím dat s vysokými nároky na výkon, flexibilitu a cenovou efektivitu. Naším cílem je stát se infrastrukturní vrstvou, která bude pohánět vyhledávání pro ty nejpokročilejší aplikace na světě. Vítáme proto designová partnerství, která nás postaví před technicky náročné výzvy a pomohou nám posunout produkt ještě dále,“
dodává Jerguš Lejko, CTO a spoluzakladatel TopK.

Cloudová platforma kombinuje v jednom systému vektorové vyhledávání, klíčová slova, filtrování a flexibilní ranking. To umožňuje týmům doladit výsledky pro jejich konkrétní doménu a použití, například v e-commerce, financích, zdravotnictví či právu. Do budoucna TopK plánuje rozšířit možnosti své platformy porozumění přirozenému jazyku a nestrukturovaným dokumentům. To umožní startupu jít nad rámec vyhledávací databáze a poskytovat skutečně inteligentní vyhledávání.

Když AI transformuje vyhledávání a porozumění datům

TopK založili v roce 2024 Marek Galovič a Jerguš Lejko, kteří se znají už od střední školy. Po letech práce na velkých systémech a AI nástrojích se znovu spojili, aby od základu přehodnotili, jak by mělo vyhledávání fungovat. Jejich cílem bylo poskytnout týmům jednotnou platformu pro relevantní a inteligentní vyhledávání ve všech jejích datech – bez nutnosti spojovat více databází, API a ranking systémů.

„Firmy narážejí na limity současně dostupných vyhledávacích systémů. TopK přinášejí fundamentální změnu v budování infrastruktury a hluboké porozumění problémům, se kterými se denně potýkají velké vývojářské týmy. Podporujeme proto jejich vizi vytvořit vyhledávací systém pro AI éru,“ říká Andre Retterath, General Partner ve fondu Earlybird.

„TopK postavili jádro svojí databáze tak, aby bylo nejrychlejším a zároveň cenově nejdostupnějším řešením pro hybridní vyhledávání na trhu – a to s malým, ale mimořádně schopným týmem. Investice jim umožní dále urychlit vývoj a dodat enterprise funkce a uspět ve světovém měřítku,“ dodává Karel Zheng z KAYA.

Evropa, kolébka talentů na databáze

TopK mají sídlo v San Franciscu, ale vývoj probíhá převážně v Evropě – zejména kvůli vysoké kvalitě technického talentu. Podle zakladatelů je právě zde silná komunita lidí se zkušenostmi s budováním databází, distribuovaných systémů a cloudové infrastruktury. Zároveň zdejší vývojáři rozumějí klíčovým technologiím jako Rust nebo Kubernetes.

„V současnosti budujeme tým v Praze a hledáme další vývojáře a platformní inženýry, kteří se nebojí složitých systémů, rozumějí širšímu kontextu a mají chuť podílet se na budování nové generace vyhledávání od základů. Do týmu hledáme nejen experty na konkrétní oblast, ale i technické lídry, kteří převezmou odpovědnost za jednu z klíčových vertikál a budou ji rozvíjet napříč celou platformou,“ uzavírá Jerguš Lejko.

O TopK

TopK stavějí revoluční databázi, která mění způsob vyhledávání pro vývojáře i AI agenty. Za společností stojí Marek Galovič, Jerguš Lejko, Peter Toth a Barbora Grillusová. Platforma kombinuje vyhledávání podle klíčových slov, vektorů a filtrů s flexibilním rankingem, což umožňuje provádět komplexní dotazy v rámci jediného dotazu (query), čímž se zvyšuje přesnost a efektivita. V seed fázi TopK podpořili fondy Earlybird, Irregular Expressions, Kaya a angel investoři.

O Earlybird

Fond Earlybird byl založen v roce 1997. Vyhledává a podporuje v růstu výjimečné evropské společnosti v rané fázi rozvoje a poskytuje jim finanční zdroje, strategickou podporu, přístup k mezinárodní síti a kapitálovým trhům. Prostřednictvím dvou oddělených strategií se Earlybird zaměřuje na technologické startupy v oblasti fintech/insurtech, podnikového softwaru a technologií (energetika, potraviny a vesmír), zatímco Earlybird Health se zaměřuje na zlepšování výsledků léčby pacientů. Earlybird navíc spravuje Growth Opportunity Fund pro navazující investice a pro bono impactovou iniciativu Vision Lab. S 2,5 miliardami eur spravovanými napříč svými fondy a historií 9 IPO a 35 prodeji patří Earlybird mezi nejzavedenější a nejaktivnější evropské firmy rizikového kapitálu. Další informace naleznete na stránkách earlybird.com, LinkedIn nebo X.

O KAYA

KAYA je early-stage venture kapitálový fond, který podporuje zakladatele ve střední a východní Evropě (CEE), především v Česku, Polsku, na Slovensku a v zemích, kde tito zakladatelé působí. Společnost KAYA byla založena v roce 2010 v Praze a je klíčovým early-stage investorem v regionu střední a východní Evropy. KAYA spravuje aktiva v hodnotě více než 400 milionů dolarů ve čtyřech fondech, v začátcích podpořila například společnosti Docplanner, Rohlík nebo Booksy a více než 40 dalších startupů. Další informace najdete na kaya.vc.

Odkaz na medailonky zakladatelů zde.

Cloudové ERP od SAP má novou AI funkci. Vymysleli ji Češi

Praha, 20. března 2025 – Společnost SAP představila balíček AI novinek pro své cloudové ERP. Jeho součástí je i funkce Easy Filter, za kterou stojí tým brněnských vývojářů. Podnikům umožní pracovat s databázemi v přirozeném jazyce a vyhledávat informace prostřednictvím několika různých kritérií. AI nástroj je nyní k dispozici všem zákazníkům softwarové společnosti, kteří využívají řešení SAP S/4HANA Public Cloud.

Trh s cloudovými ERP systémy v posledních letech neustále roste. Analytická společnost Gartner odhaduje, že segment veřejného cloudu letos vzroste o 21,4 % a výdaje přesáhnou 723 miliard dolarů. Za jeden z hlavních trendů pro letošní rok označují analytici kromě umělé inteligence i zvýšenou poptávku po integrovaných řešeních, která podnikům pomáhají zefektivnit vývoj, procesy i samotný provoz.

„S příchodem umělé inteligence se v ERP systémech zásadně proměňuje i uživatelské rozhraní. Od softwaru, který vyžaduje detailní znalosti funkcí a databází, se přesouváme do éry zadávání dotazů tak, jako bychom si povídali s kolegou. Funkce, jako je Easy Filter, uživatelům šetří čas, který pak mohou využít pro jinou práci nebo vzdělávání,“ říká Martin Janáček, generální ředitel brněnského vývojového centra SAP Labs.

Spolehlivost je klíčová

Pracovníkům účetního oddělení nová funkce umožní zadat dotaz do vyhledávacího pole v aplikaci formou souvislé věty nebo jednotlivých požadavků na časový úsek, výši fakturovaných částek, status zaúčtování nebo zodpovědnou osobu, která údaje vkládala do systému. Podobně mohou experti v logistice generovat dokumenty nebo data od jednotlivých dodavatelů a rychle získat podklady pro své analýzy.

„Původní myšlenku vyvinout Easy Filter jsme měli už v roce 2022, ale v té době se vývoj generativní umělé inteligence ještě nenacházel na úrovni, která by zaručovala konzistentní výsledky. Právě vývoj a testování, které podnikům zaručí spolehlivost nové technologie, jsou klíčové pro širší využití AI,“ říká Jakub Djablik, seniorní UX designér SAP, který s kolegy Markem Halásem a Tomášem Ryšavým v minulém roce vyvinul první verzi nové AI funkce během interního hackathonu. Následně se do projektu zapojili vývojáři z Německa a USA. Beta verzi dokončili za pár měsíců.

Novou funkci od loňského srpna testovalo třicet podniků z celého světa, jejichž zpětnou vazbu SAP postupně zapracovával do finálního produktu. V současné době čeká Easy Filter na uznání patentu v USA a jedním z jeho plánovaných rozšíření je i ovládání hlasem. Kromě veřejného cloudu by se měla funkce rozšířit i do privátního.

V Brně má softwarová společnost přes 650 vývojářů, kteří se věnují nejen cloudovému ERP, ale také řešením pro řízení udržitelnosti nebo optimalizaci firemních procesů. „Od založení SAP Labs před devíti lety se náš tým rozrostl více než pětinásobně a i v následujících letech plánujeme nabírat další kolegy. Jsem hrdý na to, že s novou AI funkcí, která ovlivní práci milionů lidí po celém světě, přišli právě naši kolegové v Brně,“ doplňuje Martin Janáček.

Více o nejnovějších AI inovacích SAP pro cloudové ERP najdete na tomto odkazu.

O společnosti SAP

SAP je světovým lídrem v oblasti podnikových aplikací a umělé inteligence pro byznys a nachází se na pomezí technologií a podnikání. Více než padesát let se organizace spoléhají na SAP, aby jim pomohl dosahovat výjimečných výsledků prostřednictvím integrace klíčových podnikových procesů zahrnující finance, nákup, lidské zdroje, řízení dodavatelských řetězců nebo vztahy se zákazníky. Další informace naleznete na www.sap.com.

Exit mobile version