RTX AI Garage Archivy

Stable Diffusion s nižšími nároky na VRAM a vyšším výkonem na RTX GPU

Stable Diffusion 3.5 je jedním z nejvýkonnějších modelů pro generování obrázků, které jsou v současné době k dispozici a které dokáží převést psaný vstup na fotorealistické vizuály.

RTX AI Garage, rozebírá, jak se společnosti NVIDIA a Stability AI spojily, aby byl SD3.5 rychlejší, lehčí a přístupnější na počítačích a pracovních stanicích s RTX. Díky kvantizaci modelu na přesnost FP8 pomocí NVIDIA TensorRT nyní SD3.5 Large vyžaduje pouze ~11 GB VRAM, což představuje 40% snížení. A běží až 2,3x rychleji ve srovnání s BF16 PyTorch. Tím se odemyká lokální nárůst výkonu pro širší škálu systémů.

Mezi hlavní výhody patří:

Nižší nároky na VRAM : Stabilní Diffusion 3.5 Large nyní potřebuje pouze 11 GB VRAM, takže je praktické pro mnohem více notebooků a stolních počítačů.
Vyšší výkon: Akcelerace TensorRT zdvojnásobuje nebo téměř zdvojnásobuje rychlost inference pro modely Large i Medium.
Optimalizováno pro nejnovější GPU RTX: GeForce RTX řady 40 a 50 a RTX PRO s architekturami Ada a Blackwell jsou nyní díky vylepšeným jádrům Tensor ještě lépe vybaveny pro zpracování těchto modelů.
Nová sada TensorRT for RTX SDK : K dispozici je nyní samostatná sada SDK s 8x menší velikostí instalace a just-in-time (JIT) enginem pro snadnější nasazení .

Generativní AI se setkává s EDM: Nový videoklip Dona Diabla pohánějí technologie RTX

Tento týden se RTX AI Garage zaměřuje na ikonu elektronické hudby Dona Diabla a jeho způsoby využití platformy NVIDIA RTX a generativní AI v cloudu k vytvoření nejnovějšího videoklipu BLACKOUT.

Video vzniklo pomocí hybridního kreativního workflow, které kombinovalo lokální generování obrazů pomocí GeForce RTX 5090 s filmovou animací v cloudu. Diablo a jeho tým tak získali potřebnou rychlost, kontrolu nad kreativním procesem i věrně vypadající výstupy odrážející jeho jedinečný styl. Týmu to umožnilo nastavit rychlý a flexibilní pracovní proces, díky kterému mohli vizuály upravovat v reálném čase.

Mezi hlavní prvky patří:

Stylizované vizuály generované umělou inteligencí pomocí ComfyUI a vlastního modelu obličeje Dona Diabla trénovaného pomocí LoRA.
Kompletní animace renderovaná pomocí Kling AI, cloudového nástroje určeného pro generativní video.

Don celý kreativní proces shrnuje: „Práce s těmito novými AI nástroji je doslova jako vstoupit do vlastní mysli… Dokázali jsme posunout kreativní laťku, tvarovat vizuály v reálném čase a zůstat soustředění na příběh.“
Videoklip BLACKOUT: https://youtu.be/cPMNIIZkNIs?si=LeNl_Q9oMctmFYVc

Celý blog s detailními informacemi: https://blogs.nvidia.com/blog/rtx-ai-garage-don-diablo-gen-ai-music-video

LM Studio akceleruje práci s LLM díky NVIDIA GeForce RTX a CUDA 12.8

Seriál RTX AI Garage se tento týden zaměřuje na LM Studio, které lze spustit na RTX AI PC. Jde o flexibilní nástroj s otevřeným zdrojovým kódem určené k lokálnímu a rychlému odvozování LLM pro vývojáře a nadšence.

S LM Studio 0.3.15 mohou uživatelé s GPU NVIDIA GeForce RTX řady 50 těžit z vylepšeného výkonu a rychlejších časů načítání modelů i vyšší propustností s plnou podporou CUDA 12.8 a integraci llama.cpp – od experimentování, vytváření pipelines až po integraci AI do aplikací, jako jsou Obsidian a VS Code.

Verze přináší také nové vývojářské funkce, včetně podrobnějšího ovládání nástrojů prostřednictvím parametru „volba nástroje“ a vylepšeného editoru promptů, který usnadňuje přizpůsobení a škálování pracovních postupů. Protože je vše možné spouštět lokálně, je zachována anonymita dat v zařízení.

Detailní blog: https://blogs.nvidia.com/blog/rtx-ai-garage-lmstudio-llamacpp-blackwell

RTX AI Garage: GeForce RTX řady 50 jsou navrženy pro využití potenciálu generativní AI na lokálních PC

Tento díl seriálu RTX AI Garage představuje přínos GeForce RTX řady 50 poháněné architekturou Blackwell vytvořeny pro éru generativní umělé inteligence.

Díky až 3 352 AI TOPS, Tensor jádrech páté generace a podpoře přesnosti FP4 umožňují GeForce RTX 5090 a 5080 rychlejší a efektivnější běh pokročilých modelů AI. Nejde však jen o hardware, NVIDIA se snaží AI co nejvíce zpřístupnit také pomocí mikroslužeb NIM a AI Blueprints, předpřipravených nástrojů, které pomáhají vývojářům a nadšencům vytvářet, iterovat a nasazovat AI lokálně.

Architektura Blackwell také přinesla novou technologii DLSS Multi Frame Generation, která zvyšuje FPS tím, že využívá AI ke generování až tří snímků na jeden vykreslovaný.

Mikroslužby NIM a AI Blueprints se objeví již brzy, s počáteční hardwarovou podporou pro GeForce RTX 50 Series, GeForce RTX 4090 a 4080 a profesionální GPU NVIDIA RTX 6000 a 5000. Další GPU budou podporovány v budoucnu.