En ny språkmodell kjent som Zephyr har blitt opprettet. Den store språkmodellen Zephyr-7B-α ble designet for å fungere som nyttige assistenter, og gi et nytt nivå av interaksjon og nytte innen kunstig intelligens. Denne oversiktsguiden og sammenligningsvideoen mellom Llama 2 70B og Zephyr-7B gir mer informasjon om utviklingen og ytelsen til Zephyr-7B. Den utforsker treningsprosessen, bruken av Direct Preference Optimization (DPO) for justering, og ytelsen sammenlignet med andre modeller. I gresk mytologi er Zephyr eller Zephyrus guden for vestavinden, ofte representert som en mild bris som varsler om våren.
Zephyr-7B-α, den første modellen i Zephyr-serien, er en raffinert versjon av Mistral-7B-v0.1. Modellen ble trent på et sett med offentlig tilgjengelige syntetiske datasett ved bruk av Direct Preference Optimization (DPO), en teknikk som har vist seg å forbedre ytelsen til språkmodeller. Interessant nok fant utviklerne ut at fjerning av den innebygde justeringen fra disse datasettene forbedret MT Benchs ytelse og gjorde modellen mer nyttig. Dette betyr imidlertid også at modellen sannsynligvis vil generere problematiske tekster når den blir bedt om, og derfor anbefales det kun å bruke den til utdannings- og forskningsformål.
Llama 2 70B vs Zephyr-7B
Hvis du er interessert i å lære mer, har YouTube-kanalen Prompt Engineering laget en ny video som sammenligner denne modellen med den massive Llama 2 70B AI-modellen.
Innledende utvikling av Zephyr-7B-α ble utført på en variant av UltraChat-datasettet. Dette datasettet inneholder et mangfoldig utvalg av syntetiske dialogbokser generert av ChatGPT, og gir en rik og variert datakilde for trening. Modellen ble deretter justert med TRLs DPOTrainer på openbmb/UltraFeedback-datasettet, som inneholder 64k modellforespørsler og fullføringer klassifisert av GPT-4.
Det er viktig å merke seg at Zephyr-7B-α ikke har blitt justert til menneskelige preferanser med teknikker som RLHF eller distribuert med loop-basert responsfiltrering som ChatGPT. Dette betyr at modellen kan gi problematiske resultater, spesielt når du blir bedt om det. Størrelsen og sammensetningen av korpuset som brukes til å trene opp grunnmodellen (mistralai/Mistral-7B-v0.1) er ikke kjent, men det vil sannsynligvis inkludere en blanding av nettdata og tekniske kilder som bøker og kode.
Når det gjelder ytelse, holder Zephyr-7B-α stand sammenlignet med andre modeller. En sammenligning med Lama 270 milliarder-modellen viser for eksempel at Zephyrs utviklings- og treningsprosess har resultert i en modell som er i stand til å gi resultater av høy kvalitet. Som med enhver AI-modell avhenger imidlertid kvaliteten på resultatene i stor grad av kvaliteten og mangfoldet til inndataene.
Tester av Zephyrs evner til å skrive, resonnere og kode har vist lovende resultater. Modellen er i stand til å generere sammenhengende og kontekstuelt relevante tekster, som viser et imponerende nivå av forståelse og resonnement for en språkmodell. Dens kodeevner, selv om de ikke kan sammenlignes med en menneskelig koder, er tilstrekkelige for grunnleggende oppgaver og gir innsikt i AIs potensiale innen programmering.
Utviklingen og ytelsen til Zephyr-7B-α AI-modellen representerer et betydelig fremskritt innen AI-språkmodeller. Læringsprosessen, bruken av DPO for justering og ytelsen sammenlignet med andre modeller antyder en fremtid der AI-modeller som Zephyr kan spille en avgjørende rolle på ulike felt, fra utdanning og fra forskning til programmering og utover. Det er imidlertid viktig å huske at Zephyr, som alle AI-modeller, er et verktøy hvis effektivitet og sikkerhet avhenger av hvordan det brukes og administreres.
Les mer guide:
- Ny Zephyr-7B LLM AI-modell foredler Mistral-7B og slår Llama-2 70B
- Intels nye Neural-Chat 7B LLM topper Hugging Face-rangeringen, og slår den originale Mistral 7B.
- Hvordan avgrense Llama 3s store språkmodell (LLM) fra Meta
- Lama 3 ytelsestest og praktisk demonstrasjon
- Mistral AI Mixtral 8x7B ekspertblanding av kunstig intelligensmodell imponerende referanseindekser avslørt
- LLaMA Factory lar deg enkelt foredle og trene store språkmodeller (LLM).
