NVIDIA 最近推出了一項新技術演示，預計將改善我們與人工智慧互動的方式。這項名為「Chat With RTX」的新功能旨在在 Windows RTX PC 上無縫運作，利用 NVIDIA RTX GPU 的強大功能來提供個人化且有效的聊天機器人體驗。該技術旨在為用戶提供快速、安全和針對具體情況的回應，利用他們自己的文件和筆記來確保私密和個性化的互動。
「Chat With RTX」的核心是複雜的 GPT 語言模型，能夠根據使用者的特定需求自訂對話。這不是一個普通的聊天機器人，而是一個能夠處理多種文件類型的智慧系統，包括文字文檔、PDF、Word 文件、XML 檔案甚至 Youtube 視訊轉錄。這種多功能性使聊天機器人能夠提供與用戶的個人內容高度相關的幫助。
NVIDIA RTX AI PC 聊天機器人演示
NVIDIA 新技術演示的主要特點之一是使用檢索增強生成（RAG），它顯著提高了聊天機器人回應的品質。此外，此演示還整合了大型語言模型最佳化工具TensorRT-LLM，可確保聊天機器人以最高效率運作。透過 RTX 加速，聊天機器人不僅準確，而且速度快得令人難以置信，直接在用戶的 Windows RTX PC 上運行，無需雲端處理。
尤其是開發人員，可能會發現「Chat With RTX」很有趣，因為它建立在 GitHub 上提供的 TensorRT-LLM RAG 開發人員參考專案的基礎上。這為他們提供了寶貴的機會來探索先進的人工智慧模型，並有可能將類似的技術整合到自己的專案中。
在 YouTube 上觀看此影片。
對「Chat With RTX」體驗感興趣的人必須滿足某些系統要求。使用者的 PC 必須配備 GeForce RTX 30 系列 GPU 或更高級的型號，且 VRAM 至少為 8 GB。此外，PC 必須運行 Windows 10 或 11，並安裝最新的 NVIDIA 驅動程序，以確保與演示版相容。
NVIDIA 承認「Chat With RTX」存在持續安裝問題，並承諾在即將推出的更新中解決該問題。同時，建議使用者將應用程式安裝在預設目錄中，以避免任何複雜情況。
此外，NVIDIA 也鼓勵開發者透過組織競賽來突破生成式 AI 的界限。參與者受邀使用 NVIDIA RTX GPU 創建創新應用程序，並有機會贏得獎品。這項競賽不僅激發了開發者社群的創造力，也凸顯了 NVIDIA 技術推進 AI 應用的潛力。
「Chat With RTX」的推出彰顯了 NVIDIA 為推進 AI 和 GPU 技術而不斷做出的努力。透過專注於高效能運算和資料隱私，NVIDIA 能夠將複雜的 AI 功能整合到日常任務中。該技術使用戶能夠受益於智慧、響應迅速和個人化的人工智慧助手，同時將處理後的資料安全地保存在本地電腦上。隨著 NVIDIA 不斷創新並解決初期問題，「Chat With RTX」有望成為尋求更智慧、更快回應的運算體驗的人的必備工具。
