NVIDIA afslørede for nylig en ny teknologidemonstration, der forventes at forbedre den måde, vi interagerer med kunstig intelligens på. Denne nye funktion, kaldet "Chat With RTX", er designet til at fungere problemfrit på Windows RTX-pc'er og udnytter kraften fra NVIDIA RTX GPU'er til at levere en personlig og effektiv chatbot-oplevelse. Denne teknologi har til formål at give brugerne hurtige, sikre og kontekstspecifikke svar, der trækker på deres egne dokumenter og noter for at sikre en privat og personlig interaktion.
I hjertet af "Chat With RTX" er en sofistikeret GPT-sprogmodel, der er i stand til at skræddersy samtaler til brugerens specifikke behov. Dette er ikke en almindelig chatbot, men et intelligent system, der er i stand til at behandle en lang række filtyper, herunder tekstdokumenter, PDF'er, Word-dokumenter, XML-filer og endda videotransskriptioner Youtube. Denne alsidighed gør det muligt for chatbotten at yde assistance, der er yderst relevant for brugerens personlige indhold.
NVIDIA RTX AI PC'er Chatbot Demo
En af hovedfunktionerne i NVIDIAs nye teknologidemo er brugen af retrieval augmented generation (RAG), som markant forbedrer kvaliteten af chatbot-svar. Derudover integrerer demoen TensorRT-LLM, et stort sprogmodeloptimeringsværktøj, som sikrer, at chatbotten fungerer med maksimal effektivitet. Med RTX-acceleration er chatbotten ikke kun præcis, men også utrolig hurtig, og kører direkte på brugerens Windows RTX-pc, uden at det kræver cloud-behandling.
Især udviklere kan finde "Chat With RTX" spændende, fordi det bygger på TensorRT-LLM RAG-udviklerreferenceprojektet, der er tilgængeligt på GitHub. Dette giver dem en værdifuld mulighed for at udforske avancerede AI-modeller og potentielt integrere lignende teknologier i deres egne projekter.
Se denne video på YouTube.
De, der er interesseret i "Chat With RTX"-oplevelsen, skal opfylde visse systemkrav. Brugerens pc skal være udstyret med en GeForce RTX 30 Series GPU eller en mere avanceret model med minimum 8 GB VRAM. Derudover skal pc'en køre Windows 10 eller 11 og have de nyeste NVIDIA-drivere installeret for at sikre kompatibilitet med demoen.
NVIDIA har erkendt et igangværende installationsproblem med "Chat With RTX" og har lovet at løse det i en kommende opdatering. I mellemtiden rådes brugere til at installere programmet i standardbiblioteket for at undgå komplikationer.
Derudover opfordrer NVIDIA udviklere til at skubbe grænserne for generativ AI ved at organisere en konkurrence. Deltagerne inviteres til at skabe innovative applikationer ved hjælp af NVIDIA RTX GPU'er med mulighed for at vinde præmier. Denne konkurrence stimulerer ikke kun kreativiteten i udviklerfællesskabet, men fremhæver også potentialet i NVIDIA-teknologi til at fremme AI-applikationer.
Introduktionen af "Chat With RTX" demonstrerer NVIDIAs fortsatte bestræbelser på at fremme AI- og GPU-teknologi. Ved at fokusere på højtydende databehandling og databeskyttelse gør NVIDIA det muligt at integrere sofistikerede AI-egenskaber i hverdagens opgaver. Denne teknologi giver brugerne mulighed for at drage fordel af en intelligent, lydhør og personlig AI-assistent, mens de opbevarer deres behandlede data sikkert på deres lokale maskine. Mens NVIDIA fortsætter med at innovere og løse børneproblemer, er "Chat With RTX" klar til at blive et vigtigt værktøj for dem, der søger en smartere, mere responsiv computeroplevelse.
Læs mere guide:
- Google Gemma open source AI optimeret til at køre på NVIDIA GPU'er
- Alt nyt med ChatGPT og AI i denne uge
- Sådan opretter du tilpassede AI Chatbots med Google Gemini
- LibreChat gratis og open source multifunktionel AI-model
- Ollama til Windows er nu tilgængelig til at køre LLM'er lokalt
- Hvordan Google Gemini vil forbedre Google Bard
