En ny språkmodell känd som Zephyr har skapats. Den stora språkmodellen Zephyr-7B-α designades för att fungera som användbara assistenter, vilket ger en ny nivå av interaktion och användbarhet inom AI-området. Den här översiktsguiden och jämförelsevideon mellan Llama 2 70B och Zephyr-7B ger mer information om utvecklingen och prestandan för Zephyr-7B. Den utforskar sin träningsprocess, användningen av Direct Preference Optimization (DPO) för anpassning och dess prestanda jämfört med andra modeller. I grekisk mytologi är Zephyr eller Zephyrus västvindens gud, ofta representerad som en mild bris som förebådar våren.
Zephyr-7B-α, den första modellen i Zephyr-serien, är en förfinad version av Mistral-7B-v0.1. Modellen tränades på en uppsättning offentligt tillgängliga syntetiska datauppsättningar med hjälp av Direct Preference Optimization (DPO), en teknik som har visat sig förbättra prestandan hos språkmodeller. Intressant nog fann utvecklarna att ta bort den inbyggda justeringen från dessa datauppsättningar förbättrade MT Benchs prestanda och gjorde modellen mer användbar. Detta innebär dock också att modellen sannolikt kommer att generera problematiska texter när den används, och därför rekommenderas att den endast används för utbildnings- och forskningsändamål.
Llama 2 70B vs Zephyr-7B
Om du är intresserad av att lära dig mer har YouTube-kanalen Prompt Engineering skapat en ny video som jämför denna modell med den massiva Llama 2 70B AI-modellen.
Initial utveckling av Zephyr-7B-α utfördes på en variant av UltraChat-datauppsättningen. Denna datauppsättning innehåller en mängd olika syntetiska dialogrutor genererade av ChatGPT, vilket ger en rik och varierad datakälla för träning. Modellen justerades sedan med TRL:s DPOTrainer på datamängden openbmb/UltraFeedback, som innehåller 64 4 modelluppmaningar och kompletteringar klassificerade av GPT-XNUMX.
Det är viktigt att notera att Zephyr-7B-α inte har anpassats till mänskliga preferenser med tekniker som RLHF eller implementerats med loop-filtrering av svar som ChatGPT. Detta innebär att modellen kan ge problematiska resultat, särskilt när du uppmanas att göra det. Storleken och sammansättningen av den korpus som används för att träna basmodellen (mistralai/Mistral-7B-v0.1) är inte känd, men den innehåller sannolikt en blandning av webbdata och tekniska källor som böcker och kod.
När det gäller prestanda håller Zephyr-7B-α sig själv jämfört med andra modeller. En jämförelse med Lama 270 miljarder-modellen visar till exempel att Zephyrs utvecklings- och utbildningsprocess har resulterat i en modell som kan ge resultat av hög kvalitet. Men som med alla AI-modeller beror kvaliteten på resultaten till stor del på kvaliteten och mångfalden av indata.
Tester av Zephyrs förmåga att skriva, resonera och koda har visat lovande resultat. Modellen är kapabel att generera sammanhängande och kontextuellt relevanta texter, som visar en imponerande nivå av förståelse och resonemang för en språkmodell. Dess kodningsförmåga, även om den inte är jämförbar med en mänsklig kodare, är tillräckliga för grundläggande uppgifter och ger insikt i AI:s potential inom programmeringsområdet.
Utvecklingen och prestandan för Zephyr-7B-α AI-modellen representerar ett betydande framsteg inom området för AI-språkmodeller. Dess inlärningsprocess, användning av DPO för anpassning och dess prestanda jämfört med andra modeller antyder en framtid där AI-modeller som Zephyr kan spela en avgörande roll inom olika områden, från utbildning och från forskning till programmering och vidare. Det är dock viktigt att komma ihåg att Zephyr, precis som alla AI-modeller, är ett verktyg vars effektivitet och säkerhet beror på hur det används och hanteras.
Läs mer Guide:
- Ny Zephyr-7B LLM AI-modell förfinar Mistral-7B och slår Llama-2 70B
- Intels nya Neural-Chat 7B LLM toppar Hugging Face-rankingen och slår den ursprungliga Mistral 7B.
- Hur man förfinar Llama 3:s stora språkmodell (LLM) från Meta
- Lama 3 prestationstest och praktisk demonstration
- Mistral AI Mixtral 8x7B expertblandning av artificiell intelligensmodell imponerande riktmärken avslöjade
- LLaMA Factory låter dig enkelt förfina och träna stora språkmodeller (LLM).
