NVIDIA presenterade nyligen en ny teknikdemonstration som förväntas förbättra vårt sätt att interagera med artificiell intelligens. Den här nya funktionen, kallad "Chat With RTX", är designad för att fungera sömlöst på Windows RTX-datorer och utnyttjar kraften hos NVIDIA RTX GPU:er för att leverera en personlig och effektiv chatbot-upplevelse. Denna teknik syftar till att ge användarna snabba, säkra och kontextspecifika svar, utifrån sina egna dokument och anteckningar för att säkerställa en privat och personlig interaktion.
I hjärtat av "Chat With RTX" är en sofistikerad GPT-språkmodell som kan skräddarsy konversationer efter användarens specifika behov. Detta är inte en vanlig chatbot, utan ett intelligent system som kan behandla en mängd olika filtyper, inklusive textdokument, PDF-filer, Word-dokument, XML-filer och till och med videotranskriptioner Youtube. Denna mångsidighet gör att chatboten kan ge hjälp som är mycket relevant för användarens personliga innehåll.
NVIDIA RTX AI PC Chatbot Demo
En av huvuddragen i NVIDIAs nya teknikdemo är användningen av retrieval augmented generation (RAG), vilket avsevärt förbättrar kvaliteten på chatbot-svar. Dessutom integrerar demon TensorRT-LLM, ett stort verktyg för optimering av språkmodeller, som säkerställer att chatboten fungerar med maximal effektivitet. Med RTX-acceleration är chatboten inte bara exakt utan också otroligt snabb och körs direkt på användarens Windows RTX-dator, utan att behöva molnbearbetning.
Särskilt utvecklare kan tycka att "Chat With RTX" är spännande eftersom det bygger på TensorRT-LLM RAG-referensprojektet för utvecklare som finns tillgängligt på GitHub. Detta ger dem en värdefull möjlighet att utforska avancerade AI-modeller och potentiellt integrera liknande teknologier i sina egna projekt.
Se den här videon på YouTube.
De som är intresserade av "Chatta med RTX"-upplevelsen måste uppfylla vissa systemkrav. Användarens PC måste vara utrustad med en GeForce RTX 30 Series GPU eller en mer avancerad modell, med minst 8 GB VRAM. Dessutom måste datorn köra Windows 10 eller 11 och ha de senaste NVIDIA-drivrutinerna installerade för att säkerställa kompatibilitet med demon.
NVIDIA har erkänt ett pågående installationsproblem med "Chat With RTX" och har lovat att lösa det i en kommande uppdatering. Samtidigt rekommenderas användare att installera programmet i standardkatalogen för att undvika komplikationer.
Dessutom uppmuntrar NVIDIA utvecklare att tänja på gränserna för generativ AI genom att anordna en tävling. Deltagarna uppmanas att skapa innovativa applikationer med hjälp av NVIDIA RTX GPU, med möjlighet att vinna priser. Den här tävlingen stimulerar inte bara kreativitet inom utvecklargemenskapen, utan lyfter också fram potentialen hos NVIDIA-tekniken för att främja AI-applikationer.
Introduktionen av "Chat With RTX" visar NVIDIAs fortsatta ansträngningar för att främja AI- och GPU-teknik. Genom att fokusera på högpresterande datoranvändning och datasekretess möjliggör NVIDIA att sofistikerade AI-funktioner integreras i vardagliga uppgifter. Den här tekniken tillåter användare att dra nytta av en intelligent, lyhörd och personlig AI-assistent, samtidigt som de håller sina bearbetade data säkert på sin lokala dator. När NVIDIA fortsätter att förnya och lösa barnsjukdomar är "Chat With RTX" redo att bli ett viktigt verktyg för dem som söker en smartare och mer lyhörd datorupplevelse.
Läs mer Guide:
- Google Gemma öppen källkod AI optimerad för att köras på NVIDIA GPU:er
- Allt nytt med ChatGPT och AI den här veckan
- Hur man skapar anpassade AI Chatbots med Google Gemini
- LibreChat gratis och öppen källkod multifunktionell AI-modell
- Ollama för Windows är nu tillgängligt för att köra LLM lokalt
- Hur Google Gemini kommer att förbättra Google Bard
