Meta Notebook Llama
Meta · Produktivität · Sonstiges
Meta Llama ist die Familie von KI-Modellen mit offenen Gewichten von Meta, darunter die multimodalen Llama 4 Scout und Maverick. Sie laden die Gewichte herunter und betreiben sie auf eigener Hardware oder bei einem Drittanbieter.
Über Meta Notebook Llama
About
Was ist Meta Llama
Meta Llama ist eine Familie von Sprachmodellen, deren Gewichte jeder herunterladen und selbst betreiben kann. Die Reihe beginnt 2023 und reicht heute von Llama 4 Scout und Llama 4 Maverick bis zu den älteren Textmodellen Llama 3.3 70B und Llama 3.1 405B. Meta trainiert die Modelle, veröffentlicht die Gewichte und überlässt Ihnen den Betrieb.
Genau das ist der Kern. Ein KI-Modell mit offenen Gewichten legt die Modelldatei in Ihre Infrastruktur. Sie wählen GPU, Quantisierung, Kontextlänge und Systemprompt. Nichts von Ihrem Traffic verlässt Ihr Netz, solange Sie es nicht hinausschicken.
Der Preis dafür ist Betriebsarbeit. Es gibt kein Dashboard und keinen Zähler pro Token. Sie beschaffen Hardware, starten einen Inferenzserver, beobachten den Speicher und spielen Updates ein. Meta hat außerdem die eigene gehostete Llama-API am 6. Juli 2026 abgeschaltet, gehosteter Zugang läuft heute über Anbieter wie Together AI, Fireworks oder Ihr eigenes Cloud-Konto.
So starten Sie
- Beantragen Sie den Zugang und akzeptieren Sie die Lizenz auf llama.com oder auf der Meta-Llama-Seite bei Hugging Face. Die Freigabe kommt meist schnell, und Sie brauchen ein Hugging-Face-Konto mit derselben E-Mail-Adresse.
- Wählen Sie das Modell nach Ihrer Hardware, nicht nach einer Rangliste. Scout passt in eine 80-GB-GPU mit 4-Bit-Quantisierung. Maverick braucht mehrere GPUs. Llama 3.3 70B liegt dazwischen.
- Richten Sie einen Inferenzserver ein. vLLM ist die übliche Wahl für Durchsatz, llama.cpp und Ollama für Laptops und kleine Rechner, TensorRT-LLM, wenn Ihr Stack durchgehend Nvidia ist.
- Testen Sie mit Ihren eigenen Prompts, bevor Sie dem Ergebnis trauen. Zwanzig echte Aufgaben aus Ihrem Alltag sagen mehr als jeder öffentliche Benchmark.
- Feinabstimmung oder Auslieferung. LoRA-Adapter decken fast jede Domänenanpassung ab. Wenn Sie die GPUs umgehen wollen, richten Sie Ihren Client auf einen Drittanbieter-Endpunkt mit denselben Gewichten.
Produktinformationen
Ein kurzer Überblick über Preise, unterstützte Plattformen und die Leistung von Meta Notebook Llama.
Am besten für
Die Nutzer, Aufgaben und Szenarien, für die dieses Tool am besten passt.
Nutzer
- ML-Ingenieure und Plattformteams
- Forschende und Studierende
- Teams mit Vorgaben zum Datenstandort
Aufgaben
- Feinabstimmung auf internen Daten
- Prüfung langer Dokumente
- Auslesen von Screenshots und Formularen
Szenarien
- Gleichmäßiges Klassifizieren in großem Volumen
- Prototypen, bevor Sie sich an eine geschlossene API binden
- Betrieb, wo eine in den USA gehostete API unpraktisch ist
Wichtigste Funktionen
Offene Gewichte zum direkten Download
Jeder aktuelle Llama-Checkpoint ist eine Datei, die Sie nach Annahme der Llama 4 Community License von llama.com oder Hugging Face laden. Keine Sitzplatzzahl, kein Anfragekontingent, keine Warteliste für den Produktivbetrieb. Sie kopieren die Datei auf so viele Server, wie Sie besitzen.
Llama 4 Scout mit 10 Millionen Token Kontext
Scout hat 109 Milliarden Parameter insgesamt, davon 17 Milliarden aktiv, verteilt auf 16 Experten, und Meta gibt ein Kontextfenster von bis zu 10 Millionen Token an. Ein ganzes Code-Repository oder ein Jahr Support-Tickets passt hinein. Die Genauigkeit lässt über diese Distanz nach, Prüfen bleibt Pflicht.
Llama 4 Maverick für anspruchsvolles Schlussfolgern
Maverick bringt 400 Milliarden Parameter insgesamt mit, davon 17 Milliarden aktiv über 128 Experten, und ist laut Metas eigenen Zahlen der stärkere der beiden bei Code, Schlussfolgern und Mehrsprachigkeit. Der Betrieb kostet mehr, weil das vollständige Modell im Speicher liegen muss, obwohl pro Token nur ein Teil aktiv wird.
Bildverständnis ohne Zusatzmodell
Llama 4 wurde als multimodales Modell trainiert, nicht als Textmodell mit nachträglich angesetztem Vision-Adapter. Sie mischen Screenshots, Fotos und Diagramme in einen Prompt und verlangen eine schriftliche Antwort. Die Ausgabe bleibt Text, was für Extraktion und Prüfung gut passt.
Kleinere Textmodelle bleiben verfügbar
Die vorige Reihe ist nicht verschwunden. Llama 3.3 70B verarbeitet Text mit 128K Kontext und läuft auf einem Knoten mit 8 GPUs oder auf zwei 80-GB-Karten quantisiert. Llama 3.1 8B bleibt die praktische Wahl für Geräte am Rand und günstige Stapelverarbeitung.
Wege zur Feinabstimmung und Quantisierung
LoRA, QLoRA und vollständiges Feintuning laufen mit Standardwerkzeugen. Es gibt Builds für llama.cpp in GGUF, für vLLM in AWQ und GPTQ sowie für die optimierten Nvidia-Engines. In der Praxis quantisieren Sie zuerst und stimmen danach fein, weil der Speicher die harte Grenze ist.
Vor- und Nachteile
Vorteile
- Die Gewichte kosten nichts, die einzige Rechnung ist Rechenzeit. Bei hoher Auslastung ist das günstiger als der Token-Preis jedes Frontier-Modells.
- Prompts, Dokumente und Logs verlassen Ihr Netz nicht, was Compliance-Prüfungen vereinfacht.
- Sechs Jahre Werkzeuge hängen am Llama-Format, von vLLM über Ollama bis zu jeder brauchbaren Bibliothek für Feintuning.
- Die zwei Größen von Llama 4 decken verschiedene Aufgaben ab, also bedienen Sie Mengenarbeit mit dem kleinen und schwierige Anfragen mit dem großen Modell.
Nachteile
- Maverick braucht realistisch mehrere GPUs mit viel Speicher, und diese Rechnung kommt vor dem ersten Nutzer.
- Metas eigene API ist weg, und Drittanbieter streichen alte Modelle kurzfristig, deshalb brauchen Sie einen Ausweichweg und eine feste Version.
- Die Llama 4 Community License ist keine von der OSI anerkannte Open-Source-Lizenz. Firmen über 700 Millionen monatlich aktive Nutzer brauchen eigene Bedingungen, und für Ihre Produkte gelten Namens- und Quellenhinweise.
Häufige Fragen
Meta Llama ist eine Familie von Allzweckmodellen, die Sie selbst betreiben. Teams nutzen sie für Chat-Assistenten, Dokumentprüfung, Code-Hilfe, Klassifizierung und das Auslesen von Daten aus Bildern. Gemeinsam ist allen Fällen, dass das Modell in der eigenen Infrastruktur laufen soll.
Ähnliche Inhalte
Entdecke passende Tools, Skills und Artikel zu Meta Notebook Llama.
Alternativen zu Meta Notebook Llama
Base Code
Base44 (Wix) · Coding · ProduktivitätBase Code ist eine geteilte Cloud-Entwicklungsumgebung von Base44. Das Team beschreibt Änderungen an einem bestehenden GitHub-Repository im Chat, prüft sie in der Vorschau und reicht sie als Pull Request ein.
Knocket
Knocket (Tencent RTC team) · Produktivität · Business · ChatbotKnocket ist ein kostenloses Werkzeug für Live-Chat und Kontaktseite: Besucher schreiben über Ihre Website, Ihre App oder einen Link, und Sie antworten aus Telegram oder einem einzigen Posteingang.
FloorGen
Vinit Kumar (FloorGen) · Produktivität · KI aus ChinaFloorGen ist ein Grundriss-Ersteller im Browser, der aus einem Satz oder einer Skizze einen bearbeitbaren 2D-Plan und einen 3D-Rundgang macht. Export als PDF, DXF oder Video, Zeichnen ohne Konto.