Befehlspalette
Suche nach einem Befehl zum Ausführen

Llama 3.3 70B Instruct

von Meta

Specifications

Input
Output
Context window
131K tokens
Veröffentlicht
Dec 2024

Performance

Speed
33 t/s
TTFT
257 ms
Latency
327 ms
Intelligence

Pricing

Eingabe
€0.11
per 1M tokens
Ausgabe
€0.35
per 1M tokens

Über dieses Modell

Meta Llama 3.3 70B Instruct is a multilingual instruction-tuned model optimized for dialogue. Trained on ~15 trillion tokens with cutoff December 2023, it outperforms many open-source and closed models. Major improvements include 92.1% on IFEval (steerability), 88.4% on HumanEval (code), 77.0% on MATH, and 91.1% on MGSM (multilingual). Features 128K context, Grouped-Query Attention, and supports 8 languages including English, German, French, Spanish, Italian, Portuguese, Hindi, and Thai. Trained on 7M GPU hours with 100% renewable energy.

Technische Daten

Fähigkeiten
Eingabe-Modalitäten
Ausgabe-Modalitäten
Reasoning
No

Knowledge horizon

Wissensstand Dec 2023
Veröffentlicht Dec 2024
Today
Training to release 12 mo Since release 18 mo

See also

Modell zum Vergleich hinzufügen
Nach einem Modell suchen
Befehlspalette
Suche nach einem Befehl zum Ausführen