Firma NVIDIA zaprezentowała niedawno demonstrację nowej technologii, która ma ulepszyć sposób, w jaki współdziałamy ze sztuczną inteligencją. Ta nowa funkcja, zwana „Czat z RTX”, została zaprojektowana tak, aby bezproblemowo działać na komputerach z systemem Windows RTX, wykorzystując moc procesorów graficznych NVIDIA RTX w celu zapewnienia spersonalizowanej i efektywnej obsługi chatbota. Technologia ta ma na celu zapewnienie użytkownikom szybkich, bezpiecznych i dostosowanych do kontekstu odpowiedzi, opierając się na ich własnych dokumentach i notatkach, aby zapewnić prywatną i spersonalizowaną interakcję.
Sercem „Chat With RTX” jest wyrafinowany model języka GPT, który umożliwia dostosowanie rozmów do specyficznych potrzeb użytkownika. To nie jest zwykły chatbot, ale inteligentny system zdolny do przetwarzania szerokiej gamy typów plików, w tym dokumentów tekstowych, PDF, dokumentów Word, plików XML, a nawet transkrypcji wideo Youtube. Ta wszechstronność pozwala chatbotowi zapewnić pomoc, która jest bardzo istotna dla osobistych treści użytkownika.
Wersja demonstracyjna chatbota na komputerach stacjonarnych NVIDIA RTX AI
Jedną z głównych cech nowej wersji demonstracyjnej technologii NVIDIA jest wykorzystanie technologii Augmented Generation (RAG), która znacznie poprawia jakość odpowiedzi chatbota. Dodatkowo demo integruje TensorRT-LLM, narzędzie do optymalizacji dużych modeli językowych, które zapewnia maksymalną wydajność chatbota. Dzięki akceleracji RTX chatbot jest nie tylko dokładny, ale także niezwykle szybki i działa bezpośrednio na komputerze użytkownika z systemem Windows RTX, bez konieczności przetwarzania w chmurze.
W szczególności programiści mogą uznać „Czat z RTX” za intrygujący, ponieważ opiera się on na projekcie referencyjnym dla programistów TensorRT-LLM RAG dostępnym na GitHub. Daje im to cenną możliwość poznania zaawansowanych modeli sztucznej inteligencji i potencjalnego zintegrowania podobnych technologii z własnymi projektami.
Obejrzyj ten film na YouTube.
Osoby zainteresowane doświadczeniem „Czat z RTX” muszą spełniać określone wymagania systemowe. Komputer PC użytkownika musi być wyposażony w procesor graficzny GeForce RTX z serii 30 lub bardziej zaawansowany model, posiadający minimum 8 GB pamięci VRAM. Dodatkowo, aby zapewnić kompatybilność z wersją demonstracyjną, na komputerze musi być zainstalowany system Windows 10 lub 11 i najnowsze sterowniki NVIDIA.
NVIDIA potwierdziła, że istnieje ciągły problem z instalacją funkcji „Czat z RTX” i obiecał rozwiązać go w nadchodzącej aktualizacji. Tymczasem użytkownikom zaleca się zainstalowanie aplikacji w katalogu domyślnym, aby uniknąć jakichkolwiek komplikacji.
Ponadto NVIDIA zachęca programistów do przesuwania granic generatywnej sztucznej inteligencji poprzez organizowanie konkursu. Uczestnicy są zapraszani do tworzenia innowacyjnych aplikacji z wykorzystaniem procesorów graficznych NVIDIA RTX, z możliwością wygrania nagród. Konkurs ten nie tylko pobudza kreatywność społeczności programistów, ale także podkreśla potencjał technologii NVIDIA w zakresie rozwoju aplikacji AI.
Wprowadzenie funkcji „Czat z RTX” pokazuje ciągłe wysiłki firmy NVIDIA na rzecz rozwoju technologii AI i GPU. Koncentrując się na obliczeniach o wysokiej wydajności i prywatności danych, NVIDIA umożliwia integrację zaawansowanych funkcji sztucznej inteligencji z codziennymi zadaniami. Technologia ta umożliwia użytkownikom korzystanie z inteligentnego, responsywnego i spersonalizowanego asystenta AI, przy jednoczesnym bezpiecznym przechowywaniu przetwarzanych danych na komputerze lokalnym. Ponieważ NVIDIA nieustannie wprowadza innowacje i rozwiązuje początkowe problemy, „Czat z RTX” może stać się niezbędnym narzędziem dla osób poszukujących inteligentniejszych i bardziej responsywnych rozwiązań komputerowych.
Czytaj więcej Przewodnik:
- Sztuczna inteligencja Google Gemma typu open source zoptymalizowana do działania na procesorach graficznych NVIDIA
- Wszystko nowe w ChatGPT i AI w tym tygodniu
- Jak tworzyć niestandardowe chatboty AI za pomocą Google Gemini
- Bezpłatny i wielofunkcyjny model sztucznej inteligencji o otwartym kodzie źródłowym LibreChat
- Ollama dla Windows jest teraz dostępna do lokalnego uruchamiania LLM
- Jak Google Gemini ulepszy Google Bard
