NVIDIA nedávno představila novou technologickou ukázku, od které se očekává, že zlepší způsob, jakým pracujeme s umělou inteligencí. Tato nová funkce nazvaná „Chat With RTX“ je navržena tak, aby bezproblémově fungovala na počítačích se systémem Windows RTX, přičemž využívá výkon GPU NVIDIA RTX k poskytování personalizovaného a efektivního chatbota. Tato technologie si klade za cíl poskytovat uživatelům rychlé, bezpečné a kontextově specifické odpovědi, čerpající z jejich vlastních dokumentů a poznámek, aby byla zajištěna soukromá a personalizovaná interakce.
Jádrem „Chat With RTX“ je sofistikovaný jazykový model GPT schopný přizpůsobit konverzace specifickým potřebám uživatele. Nejedná se o obyčejného chatbota, ale o inteligentní systém schopný zpracovávat širokou škálu typů souborů, včetně textových dokumentů, PDF, Word dokumentů, XML souborů a dokonce i video přepisů Youtube. Tato všestrannost umožňuje chatbotu poskytovat pomoc, která je vysoce relevantní pro osobní obsah uživatele.
Demo chatbota na počítačích NVIDIA RTX s umělou inteligencí
Jedním z hlavních rysů nového technologického dema NVIDIA je použití retrieval augmented generation (RAG), které výrazně zlepšuje kvalitu odpovědí chatbotů. Kromě toho demo integruje TensorRT-LLM, velký nástroj pro optimalizaci jazykového modelu, který zajišťuje, že chatbot pracuje s maximální účinností. Díky RTX akceleraci je chatbot nejen přesný, ale také neuvěřitelně rychlý, běží přímo na Windows RTX PC uživatele, aniž by vyžadoval cloudové zpracování.
Zejména vývojáři mohou shledávat „Chat With RTX“ zajímavým, protože staví na referenčním projektu pro vývojáře TensorRT-LLM RAG dostupném na GitHubu. To jim poskytuje cennou příležitost prozkoumat pokročilé modely umělé inteligence a potenciálně integrovat podobné technologie do svých vlastních projektů.
Podívejte se na toto video na YouTube.
Zájemci o zážitek „Chat With RTX“ musí splňovat určité systémové požadavky. Počítač uživatele musí být vybaven GPU GeForce RTX řady 30 nebo pokročilejším modelem s minimálně 8 GB paměti VRAM. Kromě toho musí počítač používat Windows 10 nebo 11 a mít nainstalované nejnovější ovladače NVIDIA, aby byla zajištěna kompatibilita s ukázkou.
NVIDIA potvrdila pokračující problém s instalací „Chat With RTX“ a slíbila, že jej vyřeší v nadcházející aktualizaci. Mezitím se uživatelům doporučuje nainstalovat aplikaci do výchozího adresáře, aby se předešlo případným komplikacím.
Společnost NVIDIA navíc vyzývá vývojáře, aby posouvali hranice generativní umělé inteligence pořádáním soutěže. Účastníci mohou vytvářet inovativní aplikace pomocí GPU NVIDIA RTX s možností vyhrát ceny. Tato soutěž nejenže podněcuje kreativitu ve vývojářské komunitě, ale také zdůrazňuje potenciál technologie NVIDIA pro rozvoj aplikací AI.
Představení „Chat With RTX“ demonstruje pokračující úsilí společnosti NVIDIA o pokrok v technologii AI a GPU. Tím, že se NVIDIA zaměřuje na vysoce výkonné výpočty a soukromí dat, umožňuje integraci sofistikovaných funkcí umělé inteligence do každodenních úkolů. Tato technologie umožňuje uživatelům těžit z inteligentního, citlivého a personalizovaného asistenta umělé inteligence a zároveň uchovávat svá zpracovaná data v bezpečí na svém místním počítači. Vzhledem k tomu, že NVIDIA pokračuje v inovacích a řešení začínajících problémů, je „Chat With RTX“ připraven stát se nezbytným nástrojem pro ty, kteří hledají chytřejší a citlivější počítačový zážitek.
Přečtěte si více Průvodce:
- Google Gemma open source AI optimalizovaná pro běh na GPU NVIDIA
- Vše nové s ChatGPT a AI tento týden
- Jak vytvořit vlastní chatboty AI s Google Gemini
- LibreChat bezplatný a open source multifunkční model umělé inteligence
- Ollama pro Windows je nyní k dispozici pro místní spuštění LLM
- Jak Google Gemini vylepší Google Bard
