Meta har officielt afsløret Llama 3.1, som indeholder 405 milliarder parametre, hvilket etablerer den som den største open source AI-model til dato. Ved siden af 405 milliarder varianten vil Llama 3.1 være tilgængelig i mindre versioner på 70 milliarder og 8 milliarder parametre, der imødekommer forskellige applikationsbehov og kapaciteter.
Den nye model udmærker sig ved kodning, matematisk problemløsning og dokumentresumé på tværs af flere sprog. Meta hævder, at Llama 3.1 understøtter et større kontekstvindue på 128.000 tokens, hvilket væsentligt forbedrer dets evne til at behandle og analysere omfattende tekstdata.
Ydeevne sammenlignet med proprietære modeller
Meta hævder, at Llama 3.1 overgår proprietære modeller såsom OpenAI 's GPT-4 o og Anthropic's Claude 3.5 i flere benchmarks. Virksomheden citerer, at modellen er konkurrencedygtig på områder som generel videnindsamling, matematisk ræsonnement og værktøjsudnyttelse.
Modellen blev trænet med en betydelig investering i forhold til de 16.000 Nvidia H100 GPU'er, der blev brugt i udviklingsfasen. Denne omfattende træningsramme bidrog til robustheden og effektiviteten af Llama 3.1.
Meta oplyser, at Llama 3.1 kan produceres til cirka halvdelen af driftsomkostningerne ved at køre OpenAI 's GPT-4 o, hvilket kan tilbyde betydelige besparelser for virksomheder, der søger at implementere avancerede AI-løsninger.
Meta's Vision for Open-Source AI
Mark Zuckerberg, CEO for Meta, forudser, at Llama 3.1 repræsenterer et afgørende øjeblik i AI-sektoren, med en stærk tro på, at brugen af dens model snart vil overgå ChatGPT . Han sammenligner overgangen til open source-operativsystemet med udviklingen af Linux til dette operativsystem, som driver de fleste telefoner, hvilket tyder på, at Llama 3.1 kan fremskynde dette skift.
For at fremme udviklingen og integrationen af Llama 3.1 har Meta indgået partnerskab med flere teknologigiganter, herunder Amazon , Microsoft og Nvidia. Disse samarbejder har til formål at skabe et understøttende økosystem, der muliggør nem adgang til modellen på tværs af cloud-platforme, hvilket i sidste ende fører til en mere omfattende udrulning af open source AI-løsninger.
Nye funktioner og applikationer
Meta udforsker aktivt udviklingen af multimodale muligheder for Llama 3.1 med fokus på integration af billed- og videogenkendelse sammen med tekst, men disse funktioner er endnu ikke blevet frigivet.
Llama er nu tilgængelig til brug på AWS, Azure og Google Cloud, mens den lanceres i USA via platforme som WhatsApp og Meta AI-webstedet til chatbotbrug, Llama 3.1 vil snart blive integreret i Facebook og Instagram .
Brugere kan forvente opdateringer, der forbedrer sprogunderstøttelsen, og i sidste ende rummer fransk, tysk, hindi, italiensk og spansk.