在Ray Summit 2023 上，軟體工程師、機器學習從業者、資料科學家、開發人員、MLOps 專業人士和架構師齊聚一堂，Perplexity AI 創辦人兼執行長Aravind Srinivas 分享了在短短幾年內建造第一個由LLM 驅動的回應引擎的歷程。六個月的時間少於 4 萬美元。 該高峰會以大規模建置和部署應用程式而聞名，特別是在人工智慧和機器學習領域，為 Srinivas 深入研究 Perplexity AI 的工程挑戰、資源限制和未來機會提供了理想的平台。
Perplexity AI 是一款革命性的研究助手，它透過提供以事實和參考資料為支持的準確且有用的答案，為自己贏得了一席之地。 其對話式介面、上下文感知和自訂功能使其成為線上搜尋資訊的獨特工具。 Perplexity AI 的目標是讓搜尋體驗感覺就像知識淵博的助手一樣，了解您的興趣和偏好，並能以適合您的方式向您解釋事情。
Perplexity AI 是如何開發的
Perplexity AI 的流程讓使用者可以用自然的日常語言提出問題，並且 AI 可以理解查詢背後的意圖。 人工智慧致力於理解查詢背後的意圖。 她可以進行來回對話以澄清用戶的需求。 先進的反應引擎處理問題和任務，考慮整個對話歷史的脈絡。 然後，它使用預測文字特徵產生有用的答案，從多個來源中選擇最佳的答案，並簡要總結結果。
Perplexity AI 不僅僅是一個為用戶問題提供直接答案的搜尋引擎； 遠不止於此。 最初，在 Elon Musk、Nat Friedman 和 Jeff Dean 等知名投資者的支持下，該公司專注於文字轉 SQL 和企業搜尋。 XNUMX 月，它推出了針對朋友和 Discord Bot 的網絡搜索，一周後又推出了 Perplexity 本身。
從那時起，該公司一直不懈地努力提高其搜尋能力，包括回答谷歌等傳統搜尋引擎無法處理的複雜查詢的能力。 它還推出了「搜尋助理」功能，可以根據上傳的文件和文件回答問題。 為了改善用戶體驗，Perplexity 引入了「集合」功能，該功能允許用戶保存和組織他們的搜尋。
在技術方面，Perplexity開始服務自己的模型，包括LLM，並推出了結合了GPT-3.5的速度和GPT-4的能力的細化模型。 它還正在探索使用開源模型，並擁有自己的自訂推理堆疊以提高搜尋速度。
本月早些時候，Perplexity 發布了 pplx-api，旨在成為訪問 Mistral 7B、Llama2 13B、Code Llama 34B、Llama2 70B、replit-code-v1.5-3b 的最快方式之一。 pplx-api 讓開發人員可以輕鬆地將尖端的開源 LLM 整合到他們的專案中。
-
易於使用：開發人員可以使用業界領先的、即用型開源模板，並透過熟悉的 REST API 在幾分鐘內開始使用。
-
超快推理：我們精心設計的推理系統高效，可實現高達 延遲比複製低 2,9 倍 延遲比 Anyscale 低 3,1 倍。
-
經過驗證的基礎設施：pplx-api 具有經過驗證的可靠性，在其 Perplexity 回應引擎和實驗室遊樂場中提供生產級流量。
-
開源法學碩士的一站式商店：Perplexity 團隊表示，他們致力於在新的開源模型到來時添加它們。 例如，該團隊在發布後數小時內添加了 Llama 和 Mistral 模型 ， 沒有 事先訪問。
未來，Perplexity 計劃進一步增強其搜尋能力並開發自己的模型，以保持對定價和客製化的控制。 Aravind Srinivas 在 2023 年 Ray Summit 上分享的 Perplexity AI 之旅證明了人工智慧的力量。
