AI model FLUX.1 Kontext je nyní k dispozici jako mikroslužba NVIDIA NIM

V červenci se společnost NVIDIA spojila s Black Forest Labs, aby pro RTX AI PC optimalizovala nový FLUX.1 Kontext [dev] model sloužící k tvorbě a editaci obrázků. Nyní je FLUX.1 Kontext k dispozici jako mikroslužba NVIDIA NIM, což vývojářům a tvůrcům umožňuje jednoduše stáhnout a lokálně spustit.

NIM disponuje optimalizacemi TensorRT a pokročilou kvantizací, díky čemuž se požadavky na VRAM snížily z 24 GB na pouhých 7 GB (FP4) nebo 12 GB (FP8) a výkon je více než dvojnásobný ve srovnání s původním modelem. Dříve tato zrychlení vyžadovala pokročilé znalosti infrastruktury AI, ale nyní je může kdokoli vložit do nástrojů, jako je ComfyUI, a okamžitě začít tvořit.

S FLUX.1 Kontext [dev] mohou tvůrci zachovat konzistentnost detailů postav napříč scénami, upravovat jednotlivé prvky bez změny celého obrazu, přenášet styly z referenční fotografie a pracovat v reálném čase.

Tento týden RTX AI Garage zdůrazňuje, co to znamená pro tvůrce a vývojáře:

  • Jednoduché nastavení: Od instalace na úrovni vývojáře po stažení jedním kliknutím.
  • Úpravy v reálném čase: Interaktivní generování obrázků s nízkou latencí.
  • Kreativní zaměření: Věnujte čas práci, ne konfiguraci.
  • Přístup širšímu okruhu uživatelů: Pokročilá generativní AI bez hardwarových nebo know-how bariér.

FLUX.1 Kontext [dev] je k dispozici na Hugging Face s optimalizacemi TensorRT a ComfyUI. Chcete-li začít, postupujte podle pokynů na NIM nodes ComfyUI GitHub:

  1. Nainstalujte NVIDIA AI Workbench.
  2. Stáhněte ComfyUI.
  3. Nainstalujte NIM nodes prostřednictvím nástroje ComfyUI Manager v aplikaci.
  4. Přijměte licenční podmínky modelu na Black Forest Labs’ FLUX.1 Kontext’s [Dev] HuggingFace.
  5. Po kliknutí na tlačítko „Spustit“ uzel připraví požadované workflow a pomůže se stažením všech potřebných modelů.

FLUX.1 díky optimalizaci pro TensorRT přináší až 2x rychlejší běh a nižší zátěž VRAM

Blog RTX AI Garage představuje spolupráci společnosti NVIDIA s Black Forest Labs, jednou z předních světových výzkumných institucí zabývajících se AI. Její model FLUX.1 Kontext [dev], je díky tomu nyní optimalizován pro využití na GPU RTX s použitím NVIDIA TensorRT.

FLUX.1 Kontext [dev] kombinuje generování a úpravy obrázků v jediném intuitivním pracovním postupu. Na rozdíl od tradičních přístupů, které vyžadují složité kombinace modelů a řídicích sítí, umožňuje uživatelům řídit úpravy krok za krokem pomocí přirozeného jazyka a referenčních obrázků. Není nutné žádné dolaďování nebo složité nastavení. Mezi klíčové vlastnosti patří:

  • Konzistence postav: Zachování jedinečných rysů napříč scénami.
  • Lokalizované úpravy: Můžete změnit konkrétní prvky, aniž byste ovlivnili celý obraz.
  • Přenos stylu: Použití vzhledu referenčního obrázku na nové scény
  • Výkon v reálném čase: Generování s nízkou latencí podporuje rychlé opakování a zpětnou vazbu

Akcelerace na GPU RTX pomocí TensorRT přináší až 2x rychlejší inference a výrazně nižší spotřebu VRAM. Proč je to důležité?

  • Úpravy v reálném čase: Optimalizace TensorRT umožňují interaktivní úpravy v reálném čase na systémech poháněných RTX.
  • Intuitivní iterace: Cílené změny – předefinování detailů, zachování konzistence znaků nebo přenesení stylů bez ztráty kvality nebo tvůrčí kontroly.
  • Zjednodušení pracovních postupů: Eliminace potřeby více modelů nebo složitých postupů. Vše od generování obrázků až po jemné úpravy probíhá v jednom zjednodušeném a dostupném nástroji.
  • Škálovatelná přístupnost: Díky otevřeným váhám dostupným v Hugging Face a bezproblémové integraci do nástrojů, jako je ComfyUI, může více lidí experimentovat, vytvářet prototypy a zavádět pokročilá řešení pro úpravu obrázků .

FLUX.1 Kontext [dev] je k dispozici na Hugging Face (Torch a TensorRT). Nadšenci do AI, kteří mají zájem o testování těchto modelů, si mohou stáhnout varianty Torch a používat je v programu ComfyUI. Společnost Black Forest Labs také zpřístupnila online playground pro testování modelu. Mikroslužba NVIDIA NIM se očekává v srpnu. Pro pokročilé uživatele a vývojáře NVIDIA pracuje na vzorovém kódu pro snadnou integraci pipeline TensorRT do pracovních postupů. Repozitář DemoDiffusion vyjde ještě tento měsíc.

Exit mobile version