Meta heeft Llama 3.1 officieel onthuld, dat 405 miljard parameters bevat, en is daarmee het grootste open-source AI-model tot nu toe. Naast de variant van 405 miljard zal Llama 3.1 beschikbaar zijn in kleinere versies van 70 miljard en 8 miljard parameters, die tegemoetkomen aan verschillende toepassingsbehoeften en capaciteiten.
Het nieuwe model blinkt uit in coderen, het oplossen van wiskundige problemen en het samenvatten van documenten in meerdere talen. Meta beweert dat Llama 3.1 een groter contextvenster van 128.000 tokens ondersteunt, waardoor het vermogen om uitgebreide tekstuele gegevens te verwerken en te analyseren aanzienlijk wordt vergroot.
Prestaties vergeleken met bedrijfseigen modellen
Meta beweert dat Llama 3.1 beter presteert dan eigen modellen zoals OpenAI 's GPT-4 o en Anthropic's Claude 3.5 in meerdere benchmarks. Het bedrijf geeft aan dat het model concurrerend is op gebieden als algemene kennisverwerving, wiskundig redeneren en gebruik van hulpmiddelen.
Het model werd getraind met een aanzienlijke investering, waarbij rekening werd gehouden met de 16.000 Nvidia H100 GPU's die in de ontwikkelingsfase werden gebruikt. Dit uitgebreide trainingskader heeft bijgedragen aan de robuustheid en efficiëntie van Llama 3.1.
Meta stelt dat Llama 3.1 geproduceerd kan worden tegen ongeveer de helft van de operationele kosten van het draaien van OpenAI 's GPT-4 o, wat aanzienlijke besparingen zou kunnen opleveren voor bedrijven die geavanceerde AI-oplossingen willen implementeren.
Meta's visie op open source AI
Mark Zuckerberg, CEO van Meta, verwacht dat Llama 3.1 een cruciaal moment zal vertegenwoordigen in de AI-sector, met de sterke overtuiging dat het gebruik van zijn model ChatGPT binnenkort zal overtreffen. Hij vergelijkt de overgang naar het open-source besturingssysteem met de evolutie van Linux naar dit besturingssysteem dat de meeste telefoons aandrijft, wat suggereert dat Llama 3.1 deze verschuiving zou kunnen versnellen.
Om de ontwikkeling en integratie van Llama 3.1 te bevorderen, werkt Meta samen met verschillende technologiegiganten, waaronder Amazon , Microsoft en Nvidia. Deze samenwerkingen zijn gericht op het creëren van een ondersteunend ecosysteem dat gemakkelijke toegang tot het model op cloudplatforms mogelijk maakt, wat uiteindelijk leidt tot een uitgebreidere inzet van open-source AI-oplossingen.
Nieuwe functies en toepassingen
Meta onderzoekt actief de ontwikkeling van multimodale mogelijkheden voor Llama 3.1, waarbij de nadruk ligt op de integratie van beeld- en videoherkenning naast tekst, maar deze functies zijn nog niet vrijgegeven.
Llama is nu beschikbaar voor gebruik op AWS, Azure en Google Cloud, terwijl het in de Verenigde Staten wordt gelanceerd via platforms als WhatsApp en de Meta AI-website voor chatbotgebruik. Llama 3.1 zal binnenkort worden geïntegreerd in Facebook en Instagram .
Gebruikers kunnen updates verwachten die de taalondersteuning verbeteren en uiteindelijk Frans, Duits, Hindi, Italiaans en Spaans bevatten.