Sachmessung · Kapitel 1
Büroalltag: Die Klasse Basis reicht, wenn das Modell stimmt
24 kurze Aufgaben aus acht Tätigkeiten, zwölf Modelle, jede Aufgabe mindestens zweimal gelöst
Kurz gesagt
Kurze Büroaufgaben lösen die meisten Modelle verlässlich, auch das günstigste. 8 von 12 kamen auf 23 oder 24 von 24, zwei weitere liegen knapp dahinter. Deutlich ab fallen Claude Haiku 4.5 (10) und gpt-oss-120b (15), beide aus der Klasse Basis. Die Klasse Basis reicht also, aber nicht mit jedem Modell. Wie sehr es am Modell hängt, zeigt der Nachfolger von Haiku 4.5: Claude Haiku 5.5, am 7. Oktober erschienen, löste im Nachtest alle 24.
- BasisOhne Standortbindung: GPT-6 luna oder Claude Haiku 5.5. GPT-6 luna löste 23 von 24 und fügte in 94 % der Versuche nichts hinzu, Claude Haiku 5.5 im Nachtest 24 von 24 und 78 %.
- AllrounderBei Scaleway (EU): DeepSeek V4 Flash. 24 von 24 gelöst. Ein Modell der Klasse Basis von Scaleway war nicht in der Messung.
- AllrounderBei STACKIT (Deutschland): Gemma 4. 21 von 24 gelöst, in 91 % der Versuche nichts hinzugefügt.
- Klasse höherBeim Prüfen gegen Vorgaben. Den Haken im Vertrag, der sich nur aus zwei Paragrafen zusammen ergibt, übersahen auch GPT-6 luna und Gemma 4. Claude Haiku 5.5 fand ihn.
- HandgriffIm Auftrag sagen, was nicht dazugehört. Der häufigste Mangel war kein Fehler in der Sache, sondern ein hinzugefügter Termin oder eine Zusage. Teure Modelle tun das öfter als günstige.
1Die 24 Aufgaben
Acht Tätigkeiten, jede in drei Arten, zum Aufklappen. Alle Aufgaben spielen in einer erfundenen Firma für Gebäudetechnik in Kassel. Jede besteht aus zwei oder drei Nachrichten: erst der Auftrag mit Material, dann „kürzer“, „förmlicher“ oder eine Rückfrage.
Schreibengelöst von 12 · 10 · 10 der 12
- leicht
- Eine Terminabsage per Mail, höchstens 80 Wörter
- mittel
- Auf eine Reklamation antworten, mit klaren Vorgaben, was zugesagt werden darf
- schwer
- Eine Preiserhöhung ankündigen. Im Vertrag steht eine Klausel, die der Auftrag übergeht
Zusammenfassengelöst von 11 · 9 · 10 der 12
- leicht
- Eine Seite Besprechungsnotizen in fünf Punkten
- mittel
- Ein Konzept von fünf Seiten auf eine Seite bringen, mit den offenen Punkten
- schwer
- Drei Dokumente zusammenfassen, die sich an zwei Stellen widersprechen
Recherchierengelöst von 12 · 11 · 10 der 12
- leicht
- Eine Tatsache nachschlagen, mit Quelle
- mittel
- Den Stand einer Regelung mit Datum und drei Quellen
- schwer
- Zwei Kollegen behaupten Gegensätzliches. Beide haben nur halb recht
Prüfengelöst von 11 · 9 · 9 der 12
- leicht
- Ein Angebot gegen eine Liste mit fünf Punkten prüfen
- mittel
- Die drei größten Schwächen eines Konzepts finden
- schwer
- Einen Vertrag gegen Anforderungen prüfen. Eine Abweichung zeigt sich nur, wenn man zwei Paragrafen zusammen liest
Rechnengelöst von 9 · 11 · 11 der 12
- leicht
- Summe und Anteil aus zwölf Monatswerten
- mittel
- Anteile je Quartal und einen Ausreißer finden
- schwer
- Zwei Listen zusammenführen, eine netto, eine brutto. In einer fehlt ein Monat
Planengelöst von 12 · 11 · 11 der 12
- leicht
- Eine Agenda für 60 Minuten aus Stichpunkten
- mittel
- Einen Workshop von 9 bis 13 Uhr mit festen Vorgaben planen
- schwer
- Einen Projektplan bauen. Eine Person ist in derselben Woche zweimal ganz eingeplant
Ideen findengelöst von 12 · 11 · 10 der 12
- leicht
- Zehn Namen für einen Newsletter, je höchstens zwei Wörter
- mittel
- Fünf Einsatzfälle für KI in einer Abteilung, passend zu ihren Engpässen
- schwer
- Drei Kampagnenideen mit Budget und Verboten. Dann verlangt der Auftrag eine verbotene Aussage
Entscheidengelöst von 11 · 10 · 11 der 12
- leicht
- Zwei Leasingangebote mit Für und Wider vergleichen
- mittel
- Eine Entscheidungsvorlage mit Empfehlung, höchstens 350 Wörter
- schwer
- Drei Angebote durchrechnen. Das scheinbar beste gilt laut Kleingedrucktem erst ab 30 Fahrzeugen
Leicht, mittel, schwer beschreiben die Art der Aufgabe, keine gemessene Rangfolge. Leicht ist ein klarer Auftrag mit einer oder zwei Vorgaben. Mittel heißt viele Vorgaben zugleich oder mehr Material. Schwer heißt: ein versteckter Haken, den niemand ansagt.
2Ergebnis je Modell
Eine Aufgabe gilt als gelöst, wenn in zwei Versuchen höchstens ein Prüfpunkt verfehlt war. „Ohne Mangel“ heißt: kein einziger Prüfpunkt verfehlt.
| Modell | gelöst | davon ohne Mangel | nicht gelöst |
|---|---|---|---|
| PremiumGPT-6 solOpenAI | 24 | 18 | 0 |
| PremiumClaude Opus 5.5Anthropic | 24 | 14 | 0 |
| BasisClaude Haiku 5.5Anthropic · Nachtest 7. Oktober | 24 | 10 | 0 |
| AllrounderDeepSeek V4 FlashScaleway · EU, Paris | 24 | 9 | 0 |
| BasisGPT-6 lunaOpenAI | 23 | 18 | 1 |
| AllrounderGemini 3.8 FlashGoogle | 23 | 12 | 1 |
| PremiumGLM 5.2Scaleway · EU, Paris | 23 | 9 | 1 |
| AllrounderClaude Sonnet 5.5Anthropic | 23 | 6 | 1 |
| AllrounderGemma 4STACKIT · Deutschland | 21 | 17 | 3 |
| PremiumQwen 3.8STACKIT · Deutschland | 20 | 6 | 4 |
| Basisgpt-oss-120bSTACKIT · Deutschland | 15 | 5 | 9 |
| BasisClaude Haiku 4.5Anthropic | 10 | 4 | 14 |
Die Aufteilung nach leicht, mittel und schwer und die strenge Lesart stehen im Bericht.
Die Klassen bilden keine Stufenleiter. GPT-6 luna (Basis) liegt gleichauf mit den Allroundern und den Premium-Modellen. Claude Haiku 4.5 steht in derselben Klasse und löste weniger als die Hälfte, ohne Denkstufe, weil das Modell keine kennt. Sein Nachfolger Claude Haiku 5.5 denkt mit und löste alle 24. Ein Modellwechsel am Erscheinungstag machte aus dem Schlusslicht ein Spitzenmodell, in derselben Klasse. Bei STACKIT liegen Gemma 4 (Allrounder, 21) und Qwen 3.8 (Premium, 20) gleichauf. Wer in build.jetzt eine Klasse wählt, wählt einen Preis. Welches Modell dahintersteht, entscheidet über die Leistung.
3Ergebnis je Aufgabe
Je Tätigkeit drei Punkte, in der Reihenfolge leicht, mittel, schwer. Welche Prüfpunkte verfehlt waren und was die Richter dazu zitiert haben, steht im Bericht.
| Modell | Schreiben | Zusammenfassen | Recherchieren | Prüfen | Rechnen | Planen | Ideen finden | Entscheiden |
|---|---|---|---|---|---|---|---|---|
| GPT-6 sol | ||||||||
| Claude Opus 5.5 | ||||||||
| Claude Haiku 5.5 | ||||||||
| DeepSeek V4 Flash | ||||||||
| GPT-6 luna | ||||||||
| Gemini 3.8 Flash | ||||||||
| GLM 5.2 | ||||||||
| Claude Sonnet 5.5 | ||||||||
| Gemma 4 | ||||||||
| Qwen 3.8 | ||||||||
| gpt-oss-120b | ||||||||
| Claude Haiku 4.5 | ||||||||
| gelöst von | 12 10 10 | 11 9 10 | 12 11 10 | 11 9 9 | 9 11 11 | 12 11 11 | 12 11 10 | 11 10 11 |
- gelöst, ohne Mangel
- gelöst mit kleinem Mangel
- nicht gelöst
Was auffällt: Die leichten Aufgaben trennen kaum, die mittleren und schweren schon. Bei den mittleren scheitert es meist an einer von vielen Vorgaben, bei den schweren am Haken. Die Zeile „gelöst von“ nennt je Aufgabe, wie viele der 12 Modelle sie lösten.
4Nichts hinzufügen
Der häufigste Mangel war kein Fehler in der Sache. Das Modell fügt etwas Naheliegendes hinzu, das niemand gesagt hat. Ein Prüfpunkt stand deshalb bei jeder Aufgabe: Die Antwort stellt keine Ursache, keinen Termin, keinen Betrag und keine Zusage als Tatsache hin, die weder im Material noch in den Nachrichten steht.
Beispiel: Antwort auf eine Reklamation. Zugesagt werden dürfen neue Kartuschen per Express und ein Abholschein, die Ursache ist noch nicht bekannt. In mehreren Antworten stand dann: „Die Kartuschen gehen heute per Express an Sie raus“ oder „Die Sendungsnummer erhalten Sie innerhalb von 24 Stunden“. Klingt gut, war aber nie zugesagt.
| Modell | Versuche | Anteil ohne Zusatz |
|---|---|---|
| BasisGPT-6 luna | 50 / 53 | 94 % |
| PremiumGPT-6 sol | 49 / 52 | 94 % |
| AllrounderGemma 4 | 50 / 55 | 91 % |
| BasisClaude Haiku 5.5 | 39 / 50 | 78 % |
| PremiumGLM 5.2 | 42 / 57 | 74 % |
| Basisgpt-oss-120b | 41 / 57 | 72 % |
| PremiumClaude Opus 5.5 | 41 / 57 | 72 % |
| AllrounderDeepSeek V4 Flash | 41 / 59 | 69 % |
| AllrounderClaude Sonnet 5.5 | 39 / 57 | 68 % |
| AllrounderGemini 3.8 Flash | 31 / 53 | 58 % |
| BasisClaude Haiku 4.5 | 32 / 58 | 55 % |
| PremiumQwen 3.8 | 28 / 61 | 46 % |
Gezählt ist streng: Auch ein freundlicher Satz wie „Wir melden uns, sobald die Ursache feststeht“ gilt als hinzugefügt, wenn er nicht vorgegeben war.
Drei Modelle setzen sich ab, und der Preis erklärt es nicht. GPT-6 luna (Basis), GPT-6 sol (Premium) und Gemma 4 (Allrounder) fügten in über 90 % der Versuche nichts hinzu. Claude Opus 5.5 (Premium) kam auf 72 %. Bei einer Mail an eine Kundin ist ein hinzugefügter Termin kein Schönheitsfehler. Er ist eine Zusage, die jemand einhalten muss.
5Der übersehene Haken
Sieben der acht schweren Aufgaben haben einen gewerteten Haken. Bei der achten (zwei Tabellen, ein Monat fehlt) war der Prüfpunkt falsch gefasst und ist gestrichen, Begründung im Bericht. Die Tabelle nennt die Modelle, die den Haken in zwei Versuchen übersahen.
| Aufgabe | Der Haken | Übersehen von |
|---|---|---|
| Schreiben | Die Preiserhöhung ist laut Vertrag nur wirksam, wenn die Mail auf das Kündigungsrecht hinweist. Der Auftrag erwähnt das nicht. | Claude Haiku 4.5, gpt-oss-120b |
| Zusammenfassen | Drei Dokumente widersprechen sich an zwei Stellen. Beide Widersprüche müssen benannt werden. | Claude Haiku 4.5, gpt-oss-120b |
| Recherchieren | Zwei Kollegen behaupten Gegensätzliches, beide haben nur halb recht. | Claude Haiku 4.5, gpt-oss-120b |
| Prüfen | Dass der Telefondienst an Feiertagen nicht erreichbar wäre, ergibt sich nur aus zwei Paragrafen zusammen. | GPT-6 luna, gpt-oss-120b, Gemma 4 |
| Planen | Eine Person ist in derselben Woche zweimal voll eingeplant. | niemand |
| Ideen finden | Der Auftrag verlangt am Ende eine Aussage, die in den Vorgaben verboten ist. | gpt-oss-120b |
| Entscheiden | Das scheinbar beste Angebot gilt laut Kleingedrucktem erst ab 30 Fahrzeugen. | niemand |
Zehn von zwölf Modellen bemerkten fast jeden Haken. Die Ausnahmen sind deutlich: gpt-oss-120b übersah 5 der sieben, Claude Haiku 4.5 3. Die Mail zur Preiserhöhung etwa schrieben beide wie bestellt, obwohl sie ohne den Hinweis auf das Kündigungsrecht unwirksam wäre. Den Feiertags-Haken im Vertrag übersahen dagegen auch GPT-6 luna und Gemma 4.
Sobald das Material lang wird oder der Chat über viele Nachrichten läuft, verschiebt sich das Bild. Das zeigen die Kapitel Lange Aufgaben und Zahlen.