قدمت شركة Perplexity Labs مؤخرًا واجهة برمجة تطبيقات جديدة وسريعة وفعالة لنماذج اللغات الكبيرة مفتوحة المصدر (LLMs)، والمعروفة باسم pplx-api. تم تصميم هذه الأداة المبتكرة لتوفير وصول سريع إلى العديد من برامج LLM مفتوحة المصدر، بما في ذلك Mistral 7B وLlama2 13B وCode Llama 34B وLlama2 70B. يمثل تقديم pplx-api علامة فارقة في مجال الذكاء الاصطناعي، حيث يوفر متجرًا شاملاً لطلاب LLM مفتوح المصدر.
إحدى الميزات الرئيسية لـ pplx-api هي سهولة استخدامه للمطورين. واجهة برمجة التطبيقات (API) سهلة الاستخدام وتسمح للمطورين بدمج هذه القوالب بسهولة في مشاريعهم باستخدام واجهة REST API المألوفة. تلغي سهولة الاستخدام هذه الحاجة إلى معرفة واسعة بـ C++/CUDA أو الوصول إلى وحدات معالجة الرسومات، مما يجعل واجهة برمجة التطبيقات في متناول المزيد من المطورين.
مختبر الحيرة pplx-api
تحتوي واجهة pplx-api أيضًا على نظام استدلال سريع. تعتبر كفاءة نظام الاستدلال رائعة، حيث توفر زمن وصول أقل بما يصل إلى 2,9x من Replicate وأقل بمقدار 3,1x من Anyscale. في الاختبار، حقق pplx-api زمن استجابة إجماليًا يصل إلى 2,03x أسرع من استدلال إنشاء النص (TGI)، وزمن استجابة أولية يصل إلى 2,62x أسرع. واجهة برمجة التطبيقات (API) قادرة أيضًا على معالجة الرموز المميزة بسرعة تصل إلى ضعف سرعة IGT. هذه السرعة والكفاءة تجعل من pplx-api أداة قوية للمطورين الذين يعملون مع LLMs.
فوائد pplx API
-
سهولة الاستخدام: يمكن للمطورين استخدام قوالب مفتوحة المصدر متطورة وجاهزة للاستخدام والبدء في دقائق معدودة باستخدام واجهة REST API المألوفة.
-
الاستدلال فائق السرعة: يتميز نظام الاستدلال المصمم بعناية بالكفاءة ويحقق ما يصل إلى زمن استجابة أقل بـ 2,9 مرة من النسخ المتماثل و زمن وصول أقل بمقدار 3,1 مرة من Anyscale.
-
بنية تحتية مثبتة: أثبتت pplx-api موثوقيتها، حيث تخدم حركة المرور على مستوى الإنتاج في كل من محرك الاستجابة للارتباك وملعب Labs.
-
متجر شامل لبرامج LLM مفتوحة المصدر: Perplexity Labs مخصص لإضافة نماذج جديدة مفتوحة المصدر عند وصولها. على سبيل المثال، أضفنا اللاما وميسترال م
البنية التحتية لـ pplx-api موثوقة ومثبتة. لقد أثبت موثوقيته في خدمة حركة المرور على مستوى الإنتاج في كل من محرك الاستجابة الحائرة وملعب Labs. تجمع البنية التحتية بين البرامج والأجهزة الرائدة في الصناعة، بما في ذلك مثيلات AWS p4d المدعومة بوحدات معالجة الرسومات NVIDIA A100 وNVIDIA TensorRT-LLM. هذه البنية التحتية القوية تجعل من pplx-api واحدة من أسرع واجهات برمجة التطبيقات Llama وMistral المتوفرة تجاريًا.
واجهة برمجة التطبيقات (API) لـ LLMs مفتوحة المصدر
واجهة برمجة تطبيقات pplx موجودة حاليًا في الإصدار التجريبي العام وهي مجانية للمستخدمين الذين لديهم اشتراك Perplexity Pro. يتيح هذا التوفر لعدد أكبر من المستخدمين اختبار واجهة برمجة التطبيقات (API) وتقديم التعليقات، مما يساعد Perplexity Labs على تحسين الأداة وتحسينها باستمرار. تعتبر واجهة برمجة التطبيقات (API) أيضًا فعالة من حيث التكلفة لنشر LLM والاستدلال. لقد حققت بالفعل وفورات كبيرة في Perplexity، مما أدى إلى خفض التكاليف بحوالي 0,62 مليون دولار سنويًا لوظيفة واحدة. هذه الفعالية من حيث التكلفة تجعل من pplx-api أداة قيمة للاستخدام العرضي أو التجاري.
يلتزم فريق Perplexity بإضافة نماذج جديدة مفتوحة المصدر عندما تصبح متاحة، مما يضمن بقاء pplx-api موردًا شاملاً لبرامج LLM مفتوحة المصدر. تُستخدم واجهة برمجة التطبيقات (API) أيضًا لتشغيل Perplexity Labs، وهي ساحة لعب نموذجية تخدم العديد من النماذج مفتوحة المصدر. يمثل تقديم pplx-api بواسطة Perplexity Labs تقدمًا كبيرًا في مجال الذكاء الاصطناعي. إن سهولة الاستخدام ونظام الاستدلال السريع والبنية التحتية الموثوقة وفعالية التكلفة تجعلها أداة قوية للمطورين الذين يعملون مع LLMs مفتوحة المصدر. مع استمرار تطوير واجهة برمجة التطبيقات (API) وتحسينها، يجب أن تصبح موردًا أكثر قيمة لمجتمع الذكاء الاصطناعي.
في المستقبل القريب، سوف يدعم pplx-api:
-
Custom Perplexity LLMs وغيرها من LLMs مفتوحة المصدر.
-
تضمينات الحيرة المخصصة والتضمينات مفتوحة المصدر.
-
هيكل تسعير API مخصص مع إمكانية الوصول العام بعد انتهاء النسخة التجريبية العامة.
-
واجهة برمجة تطبيقات RAG-LLM الخاصة بـ Perplexity مع أساس للحقائق والاقتباسات.
كيفية الوصول إلى pplx-api
يمكنك الوصول إلى pplx-api REST API باستخدام طلبات HTTPS. تتضمن المصادقة على pplx-api الخطوات التالية:
1. قم بإنشاء مفتاح API من صفحة إعدادات حساب Perplexity. مفتاح API هو رمز وصول طويل الأمد يمكن استخدامه حتى يتم تحديثه أو حذفه يدويًا.
2. أرسل مفتاح API كرمز مميز لحامل في رأس التفويض مع كل طلب pplx-api.
3. وهو يدعم حاليًا Mistral 7B، وLlama 13B، وCode Llama 34B، وLlama 70B، كما أن واجهة برمجة التطبيقات (API) متوافقة بشكل ملائم مع عميل OpenAI لسهولة التكامل في التطبيقات الحالية.
لمزيد من المعلومات، قم بزيارة وثائق Perplexity Labs API الرسمية ودليل البدء السريع.
اقرأ المزيد من الدليل:
- كيف تم بناء Perplexity AI في ستة أشهر فقط؟
- وحدة تخزين SSD لمركز بيانات Micron PCIe Gen4
- قم بتشغيل Llama 2 Uncentriced وغيرها من برامج LLM محليًا باستخدام Ollama للخصوصية والأمان
- كيف يعيد Perplexity AI تعريف الاكتشاف عبر الإنترنت باستخدام الذكاء الاصطناعي المتقدم
- توفر Llama 3 على Groq Cloud سرعات استدلال مذهلة
- كشف نموذج الذكاء الاصطناعي Mistral AI Mixtral 8x7B عن معايير مثيرة للإعجاب
