GRIPS: German Reasoning, Idioms, Puzzles & Sprachspiel

GRIPS is the German word for wits / brains („Streng deinen Grips an!“) and it describes the capability this benchmark probes: German Reasoning, Idioms, Puzzles & Sprachspiel (wordplay).

Many questions reward precise reading, counting, and multi-step reasoning, and several categories (e.g. Schüttelreim, combination-lock deduction) are only reliably solved by frontier reasoning models.

The benchmark is machine-verifiable and contains 925 German-language quiz questions spanning 96 distinct puzzle mechanics: wordplay, anagrams, hidden words, idioms, puns, arithmetic word problems, and multi-step logic deduction. Every item was synthetically generated, programmatically verified, and human reviewed to have the keyed answer; a stored verification object records the exact mechanic and solution for each item.

Dataset statistics

Items	925
Mechanics	96
Language	German
Modality	text only
Multiple-choice items	356
Open-answer items	569
Hard subset (hard=true)	100

Results

Single-run, one response per item, graded by the recommended gpt-5.4-mini judge on the 925-item test split:

Model	Reasoning	Correct (%)
gpt-5.5	high	99.8%
gemini-3.5-flash	high	98.5%
deepseek-v4-pro	default	97.6%
claude-sonnet-4-6	32k	97.6%
deepseek-v4-flash	default	95.8%
gpt-5.4-mini	high	94.4%
nemotron-3-ultra-550b	default	94.1%
mistral-medium-3-5	high	92.4%
nemotron-3-super-120b	default	90.4%
qwen3.5-35b-a3b	default	90.1%
claude-sonnet-4-6	off	89.9%
mistral-medium-3-5	off	83.7%
claude-haiku-4.5	off	80.4%
gpt-5.4-mini	off	75.6%
mistral-small-3.2-24b-instruct	off	71.6%
mistral-small-2603	off	71.5%

Reasoning: high = effort parameter set to high; 32k = Anthropic extended-thinking budget of 32,000 tokens; default = model reasons by default (no effort set, confirmed via reasoning-token usage); off = reasoning disabled / not a reasoning model.

Hard subset

The dataset ships a hard flag marking 100 hard items (hard=true). hard means hard for models, these items are not necesserily difficult for humans.

Model	Reasoning	Hard-100
gpt-5.5	high	98%
gemini-3.5-flash	high	90%
claude-sonnet-4-6	32k	82%
deepseek-v4-pro	default	81%
gpt-5.4-mini	high	68%
deepseek-v4-flash	default	64%
nemotron-3-ultra-550b	default	64%
mistral-medium-3-5	high	50%
qwen3.5-35b-a3b	default	43%
nemotron-3-super-120b	default	41%
claude-sonnet-4-6	off	39%
claude-haiku-4.5	off	21%
mistral-medium-3-5	off	18%
gpt-5.4-mini	off	15%
mistral-small-2603	off	12%
mistral-small-3.2-24b-instruct	off	4%

Mechanics

All 96 mechanics, with a short description and one example each.

mechanic	n	description	example question	answer
multiple_choice	82	Mixed wordplay/joke items kept as multiple choice — riddle-jokes (Scherzfragen), flat jokes, three-meaning homonyms, puns, portmanteaus (Kofferwörter) and rebuses — where the options are integral to the puzzle.	Scherzfrage: Was macht ein Clown im Büro? A: Kopien B: Termine C: Notizen D: Faxen	D, Faxen
idiom_meaning	28	Choose the correct meaning of a German idiom.	Was bedeutet die Redewendung „die Katze im Sack kaufen“? A: etwas ungeprüft / ungesehen kaufen B: sich ein Haustier anschaffen C: ein echtes Schnäppchen machen	A, etwas ungeprüft / ungesehen kaufen
idiom_complete	26	Complete a German idiom or proverb.	Vervollständige diese Redewendung bzw. dieses Sprichwort: „Lügen haben kurze ___.“	Beine
egal_wie_pun	24	Complete an 'Egal wie…' joke with a name that sounds like the missing word (homophone pun).	Vervollständige dieses Wortspiel. Gesucht ist ein Name, der wie das fehlende Wort klingt: „Egal wie viel Curry du isst, Freddie ist ___.“	Mercury
char_count	20	Count how often a given letter occurs in a sentence (case-insensitive).	Wie oft kommt der Buchstabe „L“ – ob groß oder klein geschrieben – im folgenden Satz vor? „Lulu malt lila Blumen auf das helle Plakat.“	9-mal
compound_word	20	Find the word that forms a valid German compound with each of the given word parts.	Welches Wort ergibt vor jedem dieser Wortteile ein sinnvolles zusammengesetztes Wort? -mann -ball -flocke -sturm	Schnee
cyclic_position	20	Find the element at position n of a repeating cycle (modular arithmetic).	Reihenfolge: Montag, Dienstag, Mittwoch, Donnerstag, Freitag, Samstag, Sonntag (dann wieder von vorn). Tag 1 ist ein Montag, Tag 2 ein Dienstag … Welcher Woc…	Dienstag
sort_letters	20	Write all letters of a word in alphabetical order as one string.	Schreibe alle Buchstaben des Wortes „SOMMER“ in alphabetischer Reihenfolge – als eine zusammenhängende Buchstabenfolge.	EMMORS
hidden_name	18	Find which listed name is hidden as a contiguous letter sequence inside a sentence.	Welcher dieser Vornamen versteckt sich – als Buchstabenfolge – im folgenden Satz? A: Felix B: Lukas C: Nora D: Sophie „Vom Gipfel aus genossen wir ein grandi…	C, Nora
teekesselchen	18	Name the single German word that carries all the listed meanings (a 'Teekesselchen' homonym).	Welches Wort hat diese beiden Bedeutungen (ein „Teekesselchen“)? (1) ein Geldinstitut (2) eine Sitzgelegenheit im Park	Bank
arithmetic	16	Multi-step time/quantity arithmetic featuring distractor numbers (e.g. transfer times).	Ein IC verlässt Hamburg um 08:08 Uhr und hält um 10:52 Uhr in Essen. Dort steigt Lena in einen ICE, der Essen um 11:00 Uhr verlässt und um 11:21 Uhr in Düsse…	8 Minuten
fewest_distinct	14	Pick the word that uses the fewest distinct letters.	Welches dieser Wörter kommt mit den wenigsten verschiedenen Buchstaben aus? A: OTTO B: EMMA C: ANJA	A, OTTO
stated_remainder	14	Notice the remainder is already stated in the question ('all but k') — the answer is k.	In einem Korb liegen 30 Eier. Alle bis auf 7 werden zum Backen verbraucht. Wie viele bleiben übrig?	7
anagram_open	13	Rearrange all letters of a given word into a different meaningful German word matching a clue.	Aus genau den Buchstaben von „LAMPE“ lässt sich – in anderer Reihenfolge – ein neues, sinnvolles deutsches Wort bilden: ein Verkehrssignal. Wie lautet es?	AMPEL
handshakes	13	Compute the number of pairwise handshakes among n people: n·(n−1)/2.	6 Personen sind in einem Raum. Jede begrüßt jede andere genau einmal per Handschlag. Wie viele Handschläge sind das insgesamt?	15
answer_key_deduction	12	Reconstruct a test's answer key from known scores, then score the remaining taker.	Max, Pia, Nik und Eva füllen denselben Multiple-Choice-Test mit 3 Fragen aus. Pro Frage gibt es nur die Antworten A und B, für jede richtige Antwort 10 Punkt…	0 Punkte
boundary_word_assignment	12	Match words so each row's left-word end + right-word start spell an animal.	Ordnen Sie die Wörter der zweiten Spalte den Zeilen der ersten Spalte so zu, dass in jeder Zeile das Ende des linken und der Anfang des rechten Wortes zusamm…	B: BRATEN, BERGE, BRAUT, STERNE
hidden_category_triple	12	Find the word triple hiding, in order, an animal, a number word and a colour.	In genau einer der vier Dreiergruppen verstecken sich – als Buchstabenfolge und in dieser Reihenfolge – im ersten Wort ein Tier, im zweiten Wort ein Zahlwort…	B
hidden_numbers_code	12	Extract the number word hidden in each word and concatenate their digits into a code.	In jedem der folgenden Wörter steckt ein Zahlwort (von eins bis neun) als Buchstabenfolge. Liest man die Zahlwörter der Reihe nach, ergeben ihre Ziffern eine…	9185
idiom_oddone	12	Identify the invented (non-existent) idiom among real ones.	Welche dieser drei Redewendungen gibt es im Deutschen NICHT (welche ist erfunden)? A: den Aal im Baum suchen B: die Katze im Sack kaufen C: ins Gras beißen	A, „den Aal im Baum suchen“ (erfunden)
initial_sequence	12	Recognise a well-known series from its initial letters and supply the missing initial.	Diese Buchstaben sind jeweils der erste Buchstabe einer bekannten Reihe. Welcher Buchstabe gehört an die Stelle des Fragezeichens? ? Z D V F S S A N Z	E
insert_one_letter	12	Insert a single letter into a word to form a new word matching a clue.	Welchen einzelnen Buchstaben muss man in „Alt“ einfügen, um ein Stopp zu erhalten?	H (→ Halt)
lock_deduction	12	Crack a numeric combination lock from 'correct digit / correct place' clues by elimination.	Wie lautet die Zahlenkombination für dieses dreistellige Zahlenschloss? 267: Eine Ziffer ist korrekt, steht aber an der falschen Position. 468: Eine Ziffer i…	820
middle_letters	12	Take the middle letter of each short word to spell a new word.	Nimmt man von jedem dieser kurzen Wörter nur den mittleren Buchstaben, ergeben sie zusammen ein neues Wort. Welches? ARM, REH, OHR	REH
most_letters	12	Pick the word with the most letters.	Welches dieser Wörter hat die meisten Buchstaben? (Genau nachzählen!) A: Nilpferd B: Elefant C: Leopard	Nilpferd
name_compound_initials	12	Derive a dish from a name using a letter-mapping rule inferred from the examples.	Theo Brock mag Obstkuchen, Adam Prent mag Mandeltorte und Anne Prent mag Erdbeertorte. Welche leckere Spezialität mag nach demselben Muster Marlene Krebs? A:…	B, Eierschecke
number_word_transform	12	Continue a series of truncated, consecutive number words.	Diese Reihe besteht aus eingekürzten, aufeinanderfolgenden Zahlwörtern. Ergänzen Sie sie um eine Stelle! NEU - SEC - EIN - ZWE - *	DRE
spot_typo	12	Find the single word in a sentence that contains a letter-swap typo.	In genau einem Wort dieses Satzes hat sich ein Buchstabendreh-/-tippfehler eingeschlichen. In welchem? „Der Anlger sitzt geduldig am ruhigen Ufer.“	„Anlger“ (richtig: „Angler“)
string_interleave	12	Two words are interleaved order-preservingly; given one, recover the other.	In dieser Buchstabenfolge stecken zwei ineinander verwobene Wörter; die Reihenfolge der Buchstaben jedes Wortes bleibt dabei erhalten. FSTENUSHTERL Ein Wort …	FENSTER
strip_concat	12	Drop the first and last letter of each word and concatenate the remainders in order.	Streiche bei jedem dieser Wörter den ersten und den letzten Buchstaben und hänge die übrig bleibenden Buchstaben in dieser Reihenfolge aneinander. Wie lautet…	PFEIRN
substitution_cipher	12	Infer a fixed monoalphabetic substitution from examples and encrypt a new word.	Bei einer Geheimschrift wird jeder Buchstabe immer durch denselben anderen Buchstaben ersetzt. Aus diesen Beispielen lässt sich die Ersetzung ableiten: KEMPT…	D
three_tier_liar	12	With never-/always-/sometimes-liars, find the statement that is guaranteed true.	In einem Dorf gibt es drei Sorten von Bewohnern: Nie-Lügner sagen immer die Wahrheit, Immer-Lügner lügen immer, und Gelegenheitslügner sagen mal die Wahrheit…	B
transitive	12	Follow a chain of size/order comparisons to find the extreme element.	Ein Bach ist kleiner als ein Fluss, ein Fluss kleiner als ein Strom und ein Strom kleiner als das Meer. Was ist am größten?	Meer
transitive_order	12	Combine relative-age statements into a total order to find the extreme person.	Vergleiche die Altersangaben mehrerer Personen: Ida ist 12 Jahre älter als Paula. Lukas ist genauso alt wie Mia. David ist 13 Jahre älter als Mia. Jonas ist …	Jonas
truthteller_liar	12	A constant truth-teller or liar makes a claim; deduce the actual state.	Mia lügt grundsätzlich immer. Sie sagt: „Im Korb sind Äpfel.“ Was ist wirklich drin (Äpfel oder Birnen)?	Birnen
weekday_offset	12	Given one date's weekday, compute a later date's weekday from the day count between them.	Der 1. November fällt auf einen Sonntag. Auf welchen Wochentag fällt dann der 1. Dezember (im selben, gewöhnlichen Jahr)?	Dienstag
homophone_pair	11	Name the pair of identically pronounced but differently spelled words matching two clues.	Zwei Wörter klingen genau gleich, werden aber verschieden geschrieben. Welches Schreibweisen-Paar ist gemeint? (1) ein rund geformtes Brot (2) der Körper (ge…	Laib und Leib
interval_count	11	Count intervals rather than items (n doses leave n−1 gaps).	Du sollst 5 Tabletten einnehmen: die erste sofort, danach alle 30 Minuten eine weitere. Nach wie vielen Minuten nimmst du die letzte Tablette?	nach 120 Minuten
alternating_direction	10	Pick the variant in which every second word is consistently written backwards.	In welcher Variante sind die Wörter abwechselnd vorwärts und rückwärts geschrieben (1. Wort vorwärts, 2. Wort rückwärts, 3. vorwärts, …)? Nur eine Variante f…	A
namecode	10	Names sound like letter pairs; convert a name to a digit code via alphabet positions.	„Bea“ klingt wie die Buchstaben B–A und ergibt darum den Code 0201. „Elli“ ergibt nach demselben Muster 1209. Welchen Code hat dann „Effi“?	0609
palindrome	10	Pick the word that reads the same forwards and backwards.	Welches dieser Wörter liest sich vorwärts wie rückwärts gleich? A: Otmar B: Oskar C: Otto	C, Otto
pigeonhole	10	Apply the pigeonhole principle (worst-case draws needed to guarantee a match).	In einer Schublade liegen 3 grüne Socken, 3 blaue Socken, 11 rote Socken. Im Dunkeln nimmt man blind Socken heraus. Wie viele Socken muss man mindestens hera…	4
rectangle_border	10	Count the border pieces of a rectangular grid: 2·w + 2·h − 4.	Ein Puzzle ist 66 Teile breit und 19 Teile hoch. Aus wie vielen Puzzleteilen besteht der äußere Rand?	166
scrambled_number_word	10	Unscramble syllables of number words and pick the largest resulting number.	Bei diesen Zahlen sind die Silben durcheinandergeraten, doch jede lässt sich zu genau einer sinnvollen Zahl zusammensetzen. Welche ist die größte? A: NEUNUND…	A (neunundneunzig = 99)
caesar	9	Infer the Caesar letter-shift from a worked example and apply it to another word.	Bei diesem Code wird „HUND“ zu „GTMC“. Wie lautet nach demselben Muster der Code für „MOPS“ (ein Haustier)?	LNOR
power_strip	9	Compute the max devices powered by chained power strips (each strip nets slots−1).	In einem Zimmer gibt es nur eine einzige Steckdose. Daran wird eine Kette aus 2 Mehrfachstecker mit 3 und 5 Steckplätzen angeschlossen, wobei jeder Mehrfachs…	7
alphabetical_order	8	Answer a question about items placed in alphabetical order (e.g. which comes last).	Ordnet man die sieben Wochentage alphabetisch, welcher Tag steht an letzter Stelle?	Sonntag
days_in_month	8	Find the missing value in the sequence of days-per-month.	Welche Zahl gehört an die Stelle des Fragezeichens? 31, 28, 31, 30, 31, 30, 31, 31, 30, 31, ?, 31	30
idiom_reverse	8	Choose the idiom that matches a given meaning.	Welche Redewendung bedeutet „jemanden betrügen“? A: jemanden übers Ohr hauen B: jemandem die Leviten lesen C: jemandem reinen Wein einschenken	A, jemanden übers Ohr hauen
missing_letter	8	Find which of the listed letters does NOT appear in a sentence.	Welcher dieser Buchstaben kommt im folgenden Satz NICHT vor? „Der schnelle Hund springt über den braunen Zaun.“ A: F B: E C: N	A: F
reversal	8	Pick the word that becomes a different valid word when read backwards.	Welches dieser Wörter ergibt rückwärts gelesen ein neues, sinnvolles Wort? A: NETZ B: BALL C: TOR	C, TOR (rückwärts: ROT)
spellable_from	8	Pick the word spellable using only the letters (with multiplicity) of a given name.	Welches dieser Wörter lässt sich allein aus den Buchstaben des Namens „KONSTANTIN“ bilden (jeder Buchstabe nur so oft, wie er im Namen vorkommt)? A: TAKT B: …	A, TAKT
syllable_open	8	Reorder the given syllables to form a single German word.	Bringe diese Silben in die richtige Reihenfolge. Welches deutsche Wort ergibt sich? LING TER SCHMET	Schmetterling
conceptual	7	A classic lateral-thinking / insight puzzle (e.g. doubling lily pads).	Ein Teich mit Seerosen, die täglich ihre Fläche verdoppeln, ist nach 30 Tagen vollständig bedeckt. Nach wie vielen Tagen war erst die Hälfte bedeckt?	nach 29 Tagen
painted_cube	7	Count the small cubes with a given number of painted faces after a painted cube is sliced.	Ein Würfel wird außen vollständig angemalt und dann in 3×3×3 = 27 gleich große kleine Würfel zersägt. Wie viele dieser kleinen Würfel haben genau 3 angemalte…	8
schuettelreim	7	Complete a Schüttelreim by swapping the initial consonants of the two stressed syllables.	Vervollständige diesen Schüttelreim: „Es klapperten die Klapperschlangen, bis ihre Klappern ___ ___.“	schlapper klangen
unit_chain	7	Decode a chain of unit conversions to recover the missing unit's initial.	In dieser verschlüsselten Kette steht jeweils „‹Anzahl›‹Anfangsbuchstabe›s 1 ‹nächster Buchstabe›“. Welcher Buchstabe gehört an die Stelle des Fragezeichens?…	M
chess_count	6	Count how many moves land on a black square (colour flips with odd dx+dy).	Eine Figur macht nacheinander diese Züge (jeder beginnt neu auf dem genannten Feld). Auf wie vielen der Zielfelder landet sie auf einem SCHWARZEN Feld? 1) vo…	4
correct_spelling	6	Pick the only correctly spelled option.	Welche Schreibweise ist die einzig richtige? A: Buchstabendreher B: Buchstabenderher C: Buchstabendrehre	A, Buchstabendreher
count_hidden_numbers	6	Count how many distinct number words are hidden as contiguous letters in a string.	Wie viele verschiedene Zahlwörter (von „eins“ bis „zwölf“) stecken als zusammenhängende Buchstabenfolge in diesem Wort? EINSZWEIDREIVIERFÜNF	5
idiom_origin	6	Choose the correct historical origin of an idiom.	Woher stammt die Redewendung „auf dem Holzweg sein“? A: von mittelalterlichen „Holzwegen“, die nur zum Abtransport von Bäumen dienten und im Wald im Nichts e…	A, von mittelalterlichen „Holzwegen“, die nur zum Abtrans…
letter_length_sequence	6	Continue a word series in which each word is exactly one letter longer than the last.	Welches Wort setzt diese Reihe von Städten fort? Ulm, Bonn, Essen, Berlin, Hamburg, Mannheim, ...? A: Stuttgart B: Köln C: Leipzig	A, Stuttgart
letter_value_sum	6	Infer a hidden letter→value scoring rule from examples and apply it (intentionally under-determined).	Nach einer bestimmten Logik gilt: Ulm = 22; Unna = 42; Uslar = 43. Welchen Wert hat dann „Usedom“?	63 (alternativ auch 43)
most_frequent	6	Find the most frequent vowel in a sentence.	Welcher der fünf Vokale (a, e, i, o, u) kommt im folgenden Satz am häufigsten vor? „Anna sah am Strand drei kleine graue Krabben.“	a
probability	6	Compute a simple dice / combinatorial probability.	Man wirft zwei Würfel und addiert die Augen. Wie hoch ist die Wahrscheinlichkeit für eine gerade Summe? A: 25 % B: 50 % C: 75 %	B, 50 %
ambiguous_split	5	Split one word two different ways, each into two meaningful words.	Das Wort „URINSTINKT“ lässt sich auf zwei Arten in jeweils zwei sinnvolle Wörter zerlegen. Wie?	UR-INSTINKT bzw. URIN-STINKT
insert_word_twice	5	Insert a short word twice into a frame to spell a longer word.	Welches kurze Wort muss man zweimal einsetzen, um eine Süßspeise zu erhalten? SP __ SE __ S	EI (→ SPEISEEIS)
letter_frame	5	Pick the letter frame that forms a valid word with every given fragment.	Welcher Rahmen ergibt mit JEDER dieser Buchstabenkombinationen ein sinnvolles Wort? _ _ N N _ , _ _ R T _ , _ _ T Z _ A: L O _ _ E B: K A _ _ E C: R E _ _ E	B, KA _ _ E
longest_avoiding	5	Find the longest word in a sentence that contains none of a given set of letters.	Welches Wort in diesem Satz ist das längste, das KEINEN Buchstaben des Wortes „BLOCK“ enthält? „Die Maschine steht seit heute im Internet.“	Internet
mapping_arithmetic	5	Compute a number, then map it to a labelled item (e.g. the month at that index).	Wenn „6 + 6 = Dezember“, „10 - 9 = Januar“ gilt, was ist dann „2 + 2“?	April
most_shared_letters	5	Pick the word that shares the most distinct letters with a given word.	Mit welchem dieser Wörter hat „MONIKA“ die meisten gemeinsamen Buchstaben? A: MAXI B: NIKO C: OLLI	B, NIKO
negation_parity	5	Decide whether nested negations net to an affirmation or a negation (parity of negations).	Ergibt dieser Satz im Kern eine Bejahung (etwas Positives) oder eine Verneinung (etwas Negatives)? „Das ergibt keinen Sinn.“	Verneinung (im Kern negativ)
only_repeated_letters	5	Pick the word built only from letters that occur at least twice in a given phrase.	Welcher Name lässt sich NUR aus Buchstaben bilden, die in „HANNA OTTO“ mehrfach (mindestens zweimal) vorkommen? A: HASE B: KIND C: RABE D: OTTO	D, OTTO
mirror_symmetry	4	Find the letter that lacks vertical mirror symmetry.	Welcher Buchstabe in dieser Reihe ist als Einziger NICHT spiegelsymmetrisch (sieht senkrecht gespiegelt anders aus)? T U V W X Y X W V U T G	G
remove_substring	4	Remove a given substring from a word to reveal another word matching a clue.	Nimm aus dem BEICHTEN das „ich“ heraus – was tut man dann nur noch?	beten
restore_swaps	4	Identify which two swaps restore a regular repeating pattern.	Diese Reihe sollte einem klaren, sich wiederholenden Muster folgen, aber zwei Paare wurden vertauscht. Welche zwei Tausche stellen das Muster wieder her? 1: …	A: 3↔4 und 9↔10
row_layout	4	Deduce the total number of objects in a row from positional constraints.	In einer Reihe stehen einige Objekte: genau zwei Ampeln, der Rest sind Laternen. Eine Ampel steht ganz links, die andere ist die vierte von rechts; dazwische…	7
typoglyph	4	Read text whose word-internal letters are scrambled, then answer the embedded question.	Bei diesen Wörtern sind nur die inneren Buchstaben verdreht. Lies die Frage und beantworte sie: Wie vleie Bniee hat enie ghcilnhöwee Snnipe ?	acht
vowel_omission	4	Identify the single vowel still written in an otherwise de-voweled text.	Dieser Text wurde fast vollständig „entvokalt“. Welcher Vokal steht hier noch wirklich geschrieben? V_RS_CH_ D__S_N TEXT TR_TZD_M Z_ L_S_N	E
format_mismatch	3	Find the option whose rendering contradicts the meaning of its word.	Bei welcher Antwort stimmt die Darstellung NICHT mit ihrer Bedeutung überein? A: vorwärts B: fett C: sträwkcür D: kursiv	D
grid_fill	3	Read a letter grid row by row to reveal a sentence and supply the missing letter.	Liest man dieses Gitter Zeile für Zeile, ergibt sich ein Satz. Welcher Buchstabe gehört ins letzte (leere) Feld? F I N D E D E N L E T Z T E N B U C H S T A …	N
palindrome_date	3	Pick the date whose digit string reads identically forwards and backwards.	Welches dieser Datumsangaben kann man als Ziffernfolge vorwärts wie rückwärts gleich lesen? A: 02.02.2020 B: 12.03.2021 C: 20.02.2021	A, 02.02.2020
syllable_sum	3	Infer that the result equals the total syllable count of the number words involved.	Nach einer „ausgesprochen logischen“ Rechenweise gilt: 13 + 2 = 3, 5 + 5 = 2, 7 + 1 = 3. Was ist dann 13 + 7?	4
two_letter_fill	3	Fill all blanks using only two distinct letters to spell the target word.	Füllen Sie die Lücken so, dass ein Wohlfühl-Trend entsteht – Sie brauchen dafür nur zwei verschiedene Buchstaben: W _ _ _ N _ SS	Wellness
digit_word_filter	2	Filter digits by their individual German digit words, then arrange all matching digits to form the requested largest or smallest number.	Gesucht ist die größtmögliche Zahl aus genau den Ziffern, bei denen das Zahlwort der einzelnen Ziffer den Buchstaben „e“ enthält. Jede passende Ziffer wird g…	9764321
hidden_numbers	2	Identify the number words hidden as letter sequences inside each word.	Was verbirgt sich in jedem dieser Wörter? Klavier, Schachtel, verzweigt, Helfer	Zahlen (vier, acht, zwei, elf)
number_word_constraint	2	Find the smallest number whose German spelling uses only an allowed letter range.	Was ist die niedrigste Zahl, die man ausgeschrieben (auf Deutsch) nur mit Buchstaben aus dem Bereich A bis O bilden kann?	11 (elf)
remove_letters	2	Strike the letters of one hidden word to reveal another word.	Welche Buchstaben muss man streichen, um ein Heißgetränk zu erhalten? TKAASFSFEEE	TASSE streichen -> KAFFEE
hidden_bodyparts	1	Identify the body parts hidden as letter sequences inside each word.	Was verbirgt sich in jedem dieser Wörter? Marmelade, Vormund, Bohrer, beinhaltet	Körperteile (Arm, Mund, Ohr, Bein)
hidden_colors	1	Identify the colours hidden as letter sequences inside each word.	Was verbirgt sich in jedem dieser Wörter? Brotzeit, Spiegelbild, Vorangehen, Prosa	Farben (Rot, Gelb, Orange, Rosa)
page_flips	1	Count the physical page-turns (leaves) needed to reach a target page.	Ein Buch ist so aufgeschlagen, dass man die Seiten 24 und 25 sieht. Wie oft muss man Seite für Seite umblättern, um bei Seite 32 weiterzulesen?	4-mal
self_descriptive_number	1	Find the number word whose letter count equals its own value.	Welches Zahlwort von Null bis Zehn hat genau so viele Buchstaben, wie sein Wert angibt?	Vier
sum_check	1	Resolve an 'all but' riddle and give the consistent counts.	Ein Bauer hat 17 Tiere. Bis auf 9 sind es alles Hühner, bis auf 8 alles Kühe. Kann das stimmen, und wie viele Hühner hat er?	8 Hühner (und 9 Kühe)
sum_equals_product	1	Pick the number trio whose sum equals its product.	Bei welchem dieser Zahlen-Trios ist die Summe genauso groß wie das Produkt? A: 1, 2, 3 B: 2, 3, 4 C: 1, 3, 5	A, 1, 2, 3
weighted_count	1	Multiply and add the relevant quantities while ignoring distractor numbers.	Ein Oktopus hat drei Herzen und neun Gehirne. Wie viele Gehirne befinden sich im Becken, wenn dort drei Oktopusse und zwei Tierpflegerinnen sind?	29
word_half	1	Identify a word that forms one half of a longer given word.	Welcher nachtaktive Vogel bildet die zweite Hälfte des Wortes WALDKAUZ?	Kauz

Schema

column	type	description
id	string	SHA-256 hex digest of the question text (unique).
question	string	The full quiz question (German).
answer	string	Reference answer.
explanation	string	Worked solution / why the answer is correct.
mechanic	string	Puzzle mechanic (see table below).
verification	string	JSON-encoded object with the mechanic type and the machine-checkable solution.
hard	bool	Member of the model-selected hard subset (100 items; see Hard subset).

Evaluation

Answers are free-form (and for some items multiple choice). We recommend LLM-as-judge grading against the reference answer + explanation rather than string matching. In our runs gpt-5.4-mini is a reliable, cheap judge for this dataset. We found no systematic false-positives or false-negatives its judgements.

Recommended judge prompt

Decide whether the candidate answer is correct relative to the reference answer.
Accept semantically equivalent variants, minor spelling/case/punctuation differences, and either an answer letter or answer text for multiple-choice questions.
If the candidate gives a correct final answer with extra explanation, mark correct.
If the candidate gives contradictory answers or no clear answer, mark incorrect.
Use the explanation only to understand the intended answer; do not require the candidate to include the explanation.

Return only a JSON object that matches the enforced schema:
{
  "rating": "YES" | "NO",
  "rationale": short string
}

Use rating YES only when the candidate answer should be accepted as correct.
Use rating NO for wrong answers, unclear answers, contradictory answers, or answers that do not clearly select a final answer.

Question:
{question}

Reference answer:
{answer}

Reference explanation:
{explanation}

Candidate answer:
{candidate}

The judge returns a strict-JSON object {"rating": "YES"|"NO", "rationale": ...}; YES counts as correct.

Judge Implementation

Given a dataset item and a model response (collected beforehand), this is the function we use to produce a verdict:

import json, os
from openai import OpenAI

JUDGE_MODEL = "openai/gpt-5.4-mini"   # recommended judge
client = OpenAI(base_url="https://openrouter.ai/api/v1", api_key=os.environ["OPENROUTER_API_KEY"])

JUDGE_SCHEMA = {"type": "json_schema", "json_schema": {"name": "rating", "strict": True,
    "schema": {"type": "object", "additionalProperties": False,
        "properties": {"rating": {"type": "string", "enum": ["YES", "NO"]},
                       "rationale": {"type": "string"}},
        "required": ["rating", "rationale"]}}}

JUDGE_PROMPT = """Decide whether the candidate answer is correct relative to the reference answer.
Accept semantically equivalent variants, minor spelling/case/punctuation differences, and either an answer letter or answer text for multiple-choice questions.
If the candidate gives a correct final answer with extra explanation, mark correct.
If the candidate gives contradictory answers or no clear answer, mark incorrect.
Use the explanation only to understand the intended answer; do not require the candidate to include the explanation.

Return only a JSON object: {{"rating": "YES" | "NO", "rationale": short string}}

Question:
{question}

Reference answer:
{answer}

Reference explanation:
{explanation}

Candidate answer:
{candidate}
"""


def judge(item, response):
    """Grade a model `response` (str) for a dataset `item` (dict).

    Returns {"is_correct": bool, "rating": "YES"|"NO", "rationale": str}.
    """
    prompt = JUDGE_PROMPT.format(
        question=item["question"],
        answer=item["answer"],
        explanation=item["explanation"] or "None provided.",
        candidate=response,
    )
    verdict = client.chat.completions.create(
        model=JUDGE_MODEL,
        messages=[{"role": "user", "content": prompt}],
        response_format=JUDGE_SCHEMA,
    ).choices[0].message.content
    result = json.loads(verdict)
    return {"is_correct": result["rating"] == "YES", **result}

Run it over your collected responses and average is_correct for the benchmark score:

from datasets import load_dataset

ds = load_dataset("ellamind/grips", split="test")
verdicts = [judge(item, responses[item["id"]]) for item in ds]   # responses: {id -> model output}
accuracy = sum(v["is_correct"] for v in verdicts) / len(verdicts)