Chat s RTX je přejmenován na ChatRTX. NA GTC bylo představeno jeho rozšíření o nové LMM modely, které budou k dispozici prostřednictvím aktualizace. ChatRTX bude schopen rozumět mluvenému slovu a odpovídat zpět textem prostřednictvím systému „Whisper“ pro automatické rozpoznávání řeči s využitím AI. Uživatelé budou dokonce moci požádat ChatRTX, aby našel fotografie v jejich soukromé knihovně prostřednictvím slov, termínů nebo frází v jejich dotazech – najít 20 let starou fotografii bude nyní hračka, aniž by se museli prohrabávat složkou za složkou. Bude přidána podpora dalších modelů LLM, včetně ChatGLM2 a Google’s Gemma od společnosti Google, což uživatelům poskytne větší flexibilitu.
Mezi další novinky z GTC patří integrace nových funkcí s podporou AI do populárních aplikací pro tvorbu obsahu nebo rozšíření integrace TensorRT-LLM v oblasti vývojářských frameworků, jako jsou Jan.ai, Langchain, LlamaI-index a Oobabooga.
Na PC s GPU NVIDIA RTX je nyní možné využívat inferenční mikroslužby NVIDIA NIM, které pomáhají vývojářům vytvářet další aplikace využívající AI. Jde o předpřipravené „kontejnery“ AI se standardními rozhraními API poskytující optimalizovaná řešení, které pomáhá zkrátit dobu implementace z týdnů na minuty. Lze je použít s více než dvěma desítkami populárních modelů od společností NVIDIA, Getty Images, Google, Meta, Microsoft, Shutterstock a dalších.
Detaily přináší aktuální „AI Decoded“ blog: https://blogs.nvidia.
Doporučené odkazy:
- Gemma společnosti Google optimalizovaná pro běh na grafických procesorech NVIDIA RTX: https://blogs.nvidia.com/blog/
google-gemma-llm-rtx-ai-pc/ - Chat s RTX je nyní k dispozici: https://blogs.nvidia.com/blog/
chat-with-rtx-available-now/ - Aktualizace TensorRT-LLM na konferenci Microsoft Ignite: https://blogs.nvidia.com/blog/
ignite-rtx-ai-tensorrt-llm- chat-api/ - TensorRT-LLM pro počítače se systémem Windows: https://blogs.nvidia.com/blog/
tensorrt-llm-windows-stable- diffusion-rtx/
