Ved Ray Summit 2023, en forsamling af softwareingeniører, maskinlæringsudøvere, datavidenskabsfolk, udviklere, MLOps-professionelle og arkitekter, delte Aravind Srinivas, grundlæggeren og administrerende direktør for Perplexity AI, rejsen med at bygge den første LLM-drevne responsmotor på bare seks måneder med mindre end $4 mio. Topmødet, der er kendt for sit fokus på at bygge og implementere applikationer i stor skala, især inden for AI og maskinlæring, udgjorde den ideelle platform for Srinivas til at dykke ned i udfordringerne med ingeniørarbejde, ressourcebegrænsninger og fremtidige muligheder for Perplexity AI.
Perplexity AI, en revolutionerende forskningsassistent, har skåret en niche for sig selv ved at give præcise og nyttige svar, understøttet af fakta og referencer. Dens samtalegrænseflade, kontekstbevidsthed og tilpasningsmuligheder gør det til et unikt værktøj til at søge efter information online. Målet med Perplexity AI er at få søgeoplevelsen til at føles som en kyndig assistent, der forstår dine interesser og præferencer og kan forklare tingene for dig på en måde, der fungerer for dig.
Hvordan Perplexity AI blev udviklet
Perplexity AI's proces giver brugerne mulighed for at stille spørgsmål i naturligt, dagligdags sprog, og AI'en arbejder for at forstå hensigten bag forespørgslen. AI’en arbejder på at forstå hensigten bag forespørgslen. Hun kan indgå i en frem og tilbage-samtale for at afklare brugerens behov. Den avancerede responsmotor behandler spørgsmål og opgaver og tager hele samtalehistorien i betragtning for kontekst. Den bruger derefter forudsigelige tekstfunktioner til at generere nyttige svar, vælge den bedste fra flere kilder og opsummere resultaterne kortfattet.
Perplexity AI er ikke kun en søgemaskine, der giver direkte svar på brugerspørgsmål; det er meget mere end det. I starten fokuserede virksomheden på tekst til SQL og virksomhedssøgning med støtte fra højt profilerede investorer som Elon Musk, Nat Friedman og Jeff Dean. I november lancerede det en websøgning efter venner og Discord Bots, efterfulgt af lanceringen af selve Perplexity en uge senere.
Siden da har virksomheden arbejdet utrætteligt på at forbedre sine søgemuligheder, herunder evnen til at besvare komplekse forespørgsler, som traditionelle søgemaskiner som Google ikke er i stand til at håndtere. Det lancerede også en "søgeassistent", der kan besvare spørgsmål baseret på uploadede filer og dokumenter. For at forbedre brugeroplevelsen introducerede Perplexity "Collections", en funktion, der giver brugerne mulighed for at gemme og organisere deres søgninger.
Med hensyn til teknologi begyndte Perplexity at betjene sine egne modeller, inklusive LLM'er, og lancerede en raffineret model, der kombinerer hastigheden af GPT-3.5 med mulighederne i GPT-4. Det udforsker også brugen af open source-modeller og har sin egen tilpassede inferensstack for at forbedre søgehastigheden.
Tidligere på måneden annoncerede Perplexity pplx-api, designet til at være en af de hurtigste måder at få adgang til Mistral 7B, Llama2 13B, Code Llama 34B, Llama2 70B, replit-code-v1.5-3b. pplx-api giver udviklere mulighed for nemt at integrere banebrydende open source LLM'er i deres projekter.
-
Brugervenlighed: Udviklere kan bruge brancheførende, klar til brug open source-skabeloner og komme i gang på få minutter med en velkendt REST API.
-
Ultrahurtig slutning: Vores veldesignede slutningssystem er effektivt og opnår op til 2,9 gange lavere latenstid end Replicate and 3,1x lavere latency end Anyscale.
-
Gennemprøvet infrastruktur: pplx-api har bevist pålidelighed og betjener trafik i produktionsklasse i både dens Perplexity-responsmotor og Labs-legepladsen.
-
En one-stop-shop for open source LLM'er: Perplexity-teamet siger, at de er dedikerede til at tilføje nye open source-modeller, efterhånden som de ankommer. For eksempel tilføjede holdet Llama- og Mistral-modellerne inden for få timer efter lanceringen , uden forudgående adgang.
I fremtiden planlægger Perplexity at forbedre sine søgemuligheder yderligere og udvikle sine egne modeller for at bevare kontrollen over priser og tilpasning. Rejsen af Perplexity AI, som delt af Aravind Srinivas på Ray Summit 2023, er et vidnesbyrd om kraften i kunstig intelligens.
Læs mere guide:
- Perplexity Lab pplx-api API til open source LLM'er
- Sådan bruger du Perplexity AI Response Engine - Begyndervejledning
- Test og sammenligning af Perplexity AI og Googles søgeresultater
- Hvordan Perplexity AI omdefinerer online opdagelse med avanceret AI
- Sammenligning af Perplexity og Google AI-søgeresultater
- Kør Llama 2 Uncensored og andre LLM'er lokalt ved hjælp af Ollama for privatliv og sikkerhed
