Nová aktualizace pro NVIDIA ChatRTX rozšiřuje možnosti tohoto technologického dema a podporu LLM. Poprvé byla oznámena a předvedena na GTC začátkem března a přidává několik nových možností:
- ChatRTX rozšiřuje seznam podporovaných LLM, včetně Gemmy, nejnovějšího LLM společnosti Google, a ChatGLM3, otevřeného a dvojjazyčného (anglického a čínského) modelu.
- Nová podpora fotografií umožňuje uživatelům ChatRTX snadno vyhledávat mezi vlastními fotografickými daty bez nutnosti složitého označování metadat. Aplikace s nimi pracuje lokálně bez odesílání informací na vzdálené servery. Nová funkce staví na Contrastive Language-Image Pre-training (CLIP) společnosti OpenAI.
- Uživatelé služby ChatRTX mohou díky přidané podpoře pro Whisper, systém automatického rozpoznávání řeči využívající AI, s ChatRTX pracovat prostřednictvím hlasových pokynů.
ChatRTX využívá softwarovou sadu TensorRT-LLM a hardwarové možnosti GPU NVIDIA RTX. Vše probíhá lokálně a data uživatelů zůstávají v bezpečí. Nástroj je navíc k dispozici na GitHubu jako bezplatný referenční projekt, což umožňuje vývojářům zkoumat a rozšiřovat AI aplikace využívající technologii RAGtechnology.
Nové aktualizace se dočkal také nástroj RTX Remix. Přináší podporu DLSS 3.5 s funkcí Ray Reconstruction.
Detailnější informace přináší blog „AI Decoded“: https://blogs.
Stránka ChatRTX s možností stažení: https://www.nvidia.
