Štítek: G-Assist

NVIDIA RTX AI Garage: RTX GPU akcelerují lokální AI asistenty

AI asistenti kódování jsou nástroje, které pomáhají zkušeným vývojářům i nováčkům zjednodušit úkoly, jako je psaní, ladění a vysvětlování kódu. Jednou z hlavních výhod provozování těchto nástrojů lokálně na vlastním počítači je možnost využívat je neomezeně, což vás osvobozuje od poplatků za předplatné nebo jiných omezení u cloudových služeb.

Ve spojení s GPU RTX jsou tito asistenti výrazně rychlejší a v modelech, jako je Meta Llama 3.1-8B, dosahují až 6x vyššího výkonu než při běhu na CPU. Tato rychlost umožňuje místním nástrojům, jako jsou Continue.dev, Tabby a OpenInterpreter, vyrovnat se rychlostí cloudovým alternativám nebo je dokonce překonat, a to vše bez nutnosti odesílat zdrojový kód na externí server.
Tento týden se blog RTX AI Garage věnuje následujícím tématům:
  • Příklady reálných pracovních postupů využívajících modely jako Gemma 12B, Code Llama a StarCoder2, které běží lokálně prostřednictvím Continue.dev, Ollama a LM Studio.
  • Proč má akcelerace pomocí GPU význam např. pro vývojáře pracující na rozsáhlých projektech nebo dlouhých promptech.
  • Pohled na nástroje, díky nimž jsou lokální AI asistenti kódování praktičtí: Continue.dev, Tabby, OpenInterpreter, LM Studio a další.

NVIDIA do 16. července pořádá Project G-Assist Plug-In Hackathon – vyzývá vývojáře, aby rozšířili experimentálního AI asistenta G-Assist o vlastní pluginy.

Vývojářům, kteří teprve začínají, včetně studentů nebo nadšenců experimentujících s lokální umělou inteligencí , nabízejí notebooky GeForce řady RTX 50 výkon potřebný pro plynulý běh těchto asistentů bez latence nebo omezení cloudových nástrojů. Podívejte se na RTX notebooky ideální pro návrat do školy.

NVIDIA oznamuje hackaton pro vývojáře pluginů do Projektu G-Assist

Asistent využívající AI, který žije v overlay vrstvě vašeho PC, rozumí přirozenému jazyku a pomáhá vám optimalizovat, automatizovat a ovládat systém GeForce RTX, aniž byste museli přepínat na jiný panel. To je Projekt G-Assist, experimentální funkce, která je nyní k dispozici prostřednictvím NVIDIA App. Tento týden se blog zaměřuje na to, jak mohou vývojáři rozšířit projekt G-Assist o vlastní funkce. RTX AI Garage upozorňuje na nový komunitní hackathon:

Plug and Play: Projekt G-Assist Hackathon– který proběhne virtuálně do středy 16. července, vyzývá vývojáře k vytváření a sdílení vlastních pluginů v jazyce Python nebo C++. Případně je lze vytvořit pomocí G-Assist Plug-In Builder, nástroje založeného na ChatGPT, který generuje kód plug-inů z přirozeného jazyka. Výherci budou vyhlášeni ve středu 20. srpna:

Tři nejlepší účastníci zároveň získají možnost setkat se s týmem NVIDIA G-Assist, získat kredit na samostudijní kurz NVIDIA Deep Learning Institute, a být uvedeni na sociálních médiích společnosti NVIDIA.
O G-Assist: G-Assist, který je k dispozici prostřednictvím NVIDIA App Overlay, je asistent s umělou inteligencí, který běží lokálně a může být rozšířen o pluginy automatizující úlohy, integrované s aplikacemi nebo přidávající nové funkce. Mezi příklady existujících pluginů patří:

  • Spotify: Hlasové ovládání přehrávání hudby
  • Twitch: Zkontrolujte, kdo je online, a zobrazte informace o vysílání.
  • Discord: Sdílejte klipy nebo zprávy ve hře.
  • IFTTT: Automatizace chytrých zařízení a rutinních činností
  • Google Gemini: Spouštění dotazů přímo z overlay

Chcete-li se zúčastnit hackathonu:

  • Registrujte se do 16. července.
  • Přihlášku odešlete přes GitHub s požadovanými soubory, včetně souboru se zdrojovým kódem (plugin.py), requirements.txt, manifest.json, config.json (pokud je k dispozici), spustitelného souboru pluginu a kódu READme.
  • Sdílejte krátké ukázkové video (30 s – 2 min).
  • Propagujte ho pomocí #AIonRTXHackathon na Instagramu, TikToku nebo X.

Zapište si datum na webinář společnosti NVIDIA „Jak vytvořit zásuvný modul G-Assist„, který proběhne ve středu 9. července, od 19:00 do 20:00 SELČ. Zde se dozvíte více o možnostech projektu G-Assist, zjistíte základy tvorby, testování a nasazení pluginů projektu G-Assist a bude možné pokládat online dotazy.

Další zdroje:

  • Vývojářský kanál NVIDIA Discord ke spolupráci, sdílení výtvorů a získávání podpory od ostatních nadšenců do umělé inteligence a zaměstnanců společnosti NVIDIA.
  • Prozkoumejte stránky společnosti NVIDIA na GitHubu, které poskytují vše potřebné k zahájení vývoje s G-Assistem, včetně ukázek , pokynů krok za krokem a dokumentace k vytváření vlastních funkcí.
  • Další informace o ChatGPT Plug-In Builder k přeměně nápadů na funkční pluginy s minimálním kódováním. Nástroj využívá vlastní nástroj OpenAI GPT builder pro generování kódu a zefektivnění procesu vývoje.
  • Pro více informací se podívejte se na článek RTX AI Garage na blogu.

Nový nástroj umožňuje snadnou tvorbu pluginů pro Projekt G-Assist

Už se vám někdy stalo, že jste požádali chytrého asistenta o pomoc a nedostali jste odpověď, kterou jste hledali? Pojekt G-Assist nyní podporuje vlastní pluginy, takže majitelé RTX karet mají plnou kontrolu nad přidáváním požadovaných funkcí. A díky novému nástroji Project G-Assist’s Plug-in Builder mohou začátečníci s pomocí ChatGPT vytvářet stavební bloky kódu pro AI plugin.

Příspěvek na blogu RTX AI Garage z tohoto týdne se novou funkcí experimentálního asistenta zabývá více do hloubky, od automatizace úloh až po vytváření zcela vlastních hlasových nebo textových pracovních postupů, které běží lokálně.

G-Assist Plug-In Builder je nyní je k dispozici prostřednictvím NVIDIA App a umožňuje vývojářům vytvářet pluginy pouze pomocí JSON a Pythonu – není potřeba žádný cloud. S pomocí ChatGPT mohou uživatelé vytvářet kód, který běží přímo v zařízení a využívá malý lokální jazykový model (SLM) k ovládání aplikací, periferií a případně dalších zařízení přirozeným jazykem.

NVIDIA GitHub poskytuje vše potřebné pro začátek vývoje s G-Assistem. Včetně ukázkových pluginů, návodů popisujících vývoj krok za krokem a dokumentace pro vytváření vlastních funkcí. Mezi dnes dostupné pluginy patří:

  • Spotify – umožňuje ovládání hudby a hlasitosti bez nutnosti dotyku.
  • Google Gemini – umožňuje službě G-Assist využívat cloudovou umělou inteligenci pro složitější konverzace, brainstorming a vyhledávání na webu prostřednictvím bezplatného API klíče z Google AI Studio.
  • Twitch – kontrola, zda je oblíbený streamer live pomocí hlasových příkazů typu „Hej, Twitch, je [streamer] živě? „.
  • Stock Checker – umožňuje uživatelům rychle zjistit ceny akcií a jejich pohyb v reálném čase.
  • Aktualizace počasí – umožňuje uživatelům požádat G-Assist o aktuální informace o počasí v jakémkoli městě.

Pluginy běží v zařízení pomocí lokálního malého jazykového modelu (SLM) na RTX GPU. Stačí vložit konfigurační soubor do adresáře s pluginy a G-Assist se postará o zbytek. Vývojáři mohou také odesílat jejich práci ke kontrole a sdílení prostřednictvím služby GitHub.

Exit mobile version