Skip to content

DELTA Benchmark Report

DELTA measures how well leading AI models answer open-ended questions of Dutch law with research that is legally sound, well sourced and usable by a lawyer.
Research · Sep 2026

By Legal Benchmarks, with Zeno as Founding Research Partner

12 min read

Introduction

Legal research is everyday work in Dutch practice: a client asks a question, and a lawyer finds the governing law, applies it to the facts and gives an answer the client can act on. AI models now claim to do this work. DELTA tests whether they actually can.

Its questions come from more than 200 research assignments in Dutch practice. Every model receives the same questions under the same conditions. 12 partner firms reviewed the tasks and results.

Every answer is graded on:

  • Substance: Whether the legal work is correct, complete, and responsive.
  • Form: Whether the output is ready to use as delivered.
  • Citation: Whether the right legal sources are cited.

Key findings

No model is ready to do Dutch legal research on its own. Fable 5.1 leads on task pass rate, yet fully passes only 15% of tasks.

  • Frontier: Claude Fable 5.1. The highest task pass rate. The strongest choice when quality matters most.
  • Balanced: Grok 4.6. The strongest balance of legal quality and cost.
  • Open-weight: DeepSeek V4 Pro. The strongest open-weight model, for teams that run models on their own infrastructure.

DELTA legal quality matrix

Named models are the frontier discussed below. Further right means a higher task pass rate; higher means stronger Form. Hover a provider to isolate its family, or any mark for the full row.

DELTA leaderboard

Sorted by Task pass rate, descending

1Claude Fable 5.1 Adaptive MaxNew15.0%75.7%2.850$1.7582m 54s
2Claude Opus 5 MaxNew13.3%77.6%2.792$1.0684m 22s
3Claude Fable 5 Adaptive Max11.7%68.4%2.908$1.5203m 08s
4Grok 4.6 MaxNew10.0%68.8%2.878$0.1912m 09s
5GPT-6 Astra MaxNew6.7%67.7%2.958$0.6721m 38s
5DeepSeek V4 Pro MaxNew6.7%65.3%2.898$0.1623m 48s
5Claude Sonnet 5 Max6.7%60.4%2.797$0.2542m 17s
8Grok 4.5 High5.0%66.1%2.839$0.1271m 53s
8GPT-5.6 Sol Max5.0%64.8%2.956$0.4633m 50s
8Gemini 3.8 FlashNew5.0%61.4%2.925$0.10050s
8GPT-5.6 Terra Max5.0%57.7%2.940$0.2612m 28s
8Gemini 3.6 Flash5.0%56.5%2.901$0.1601m 04s
8MiniMax M35.0%55.9%2.717$0.0501m 34s
8GLM 5.2 Max5.0%51.1%2.830$0.1302m 07s
8Gemini 3.5 Flash5.0%45.5%2.899$0.1481m 04s
8Gemini 3.1 Pro Preview5.0%44.0%2.920$0.2241m 50s
17Claude Opus 4.8 Max3.3%61.6%2.769$0.4361m 53s
17Qwen 3.8 Max3.3%60.6%2.822$0.2314m 26s
17Kimi K33.3%50.4%2.652$0.4307m 50s
20Qwen 3.7 Max0.0%55.5%2.886$0.1021m 52s
20GPT-5.6 Luna Max0.0%53.8%2.938$0.1181m 41s
20Mistral Large 30.0%28.8%2.628$0.00755s
20Mistral Medium 3.50.0%27.6%2.497$0.1101m 06s
DELTA leaderboard
  • Token price is a poor proxy for real-world cost. Astra and Fable 5.1 have the same list token price ($10/$50 per million input/output tokens), yet Astra costs 62% less per DELTA task and responds 44% faster. It is also cheaper per task than Opus 5 despite having twice the list token price.
  • Frontier quality carries a steep premium. Fable 5.1 costs 9.2× more per task than Grok 4.6, but improves the task pass rate from 10% to 15% and criteria pass rate from 68.8% to 75.7%. Reaching the very top of the leaderboard requires substantially more spend for a relatively modest performance gain.
  • Slower models cost more, but are not consistently better. Response time is strongly linked to cost, but only weakly linked to task success and not linked to Form.

Frontier model progress is uneven

Task pass rate

Criteria pass rate

Form

  • Anthropic goes all-in on getting the law right, at the expense of Form. Task pass rate quadruples from 3.3% to 15% between Opus 4.8 and Fable 5.1, the largest jump of any lab. Presentation is clearly not the priority: Form falls from Fable 5 to Fable 5.1 even as the law keeps getting better.
  • OpenAI polishes the answer for the human reader. Substance improves from Sol to Astra, but what stays constant is the finish: every GPT release keeps Form near the top of the field, with the four highest Form scores all belonging to GPT models.
  • Passing more criteria does not mean passing more tasks. Gemini gets better with every release, with criteria pass rate climbing from 45.5% to 61.4%. Yet none of that converts into finished work: across all three releases, the share of tasks it completes end to end stays flat at 5.0%.

Observed failure modes

Failure to apply law to facts

Correctness

What it is: The model's answer identifies the right legal framework but does not use the facts to decide the outcome.

The question: If a child's legal representative also acts for a company with conflicting interests, does that bind the child?

The error: Models state the right legal framework. They do not apply it to the facts, so they never decide whether the child is bound.

Open on GitHub

{
  "task_id": "family-law/minor-representative-conflict-of-interest",
  "jurisdiction": "NL",
  "normative_language": "nl",
  "task_horizon": "short",
  "law_as_of": "2026-08-30",
  "practice_area": {
    "nl": "Personen- en familierecht",
    "en": "Family law"
  },
  "title": {
    "nl": "Tegenstrijdig belang wettelijk vertegenwoordiger bij wijziging overeenkomst",
    "en": "Conflict of interest of a minor's legal representative when amending an agreement"
  },
  "prompt": {
    "nl": "Een nadelige wijziging van een overeenkomst zou een minderjarige binden. De wettelijk vertegenwoordiger van de minderjarige handelde daarbij ook in een andere hoedanigheid, bijvoorbeeld als bestuurder of aandeelhouder van een vennootschap, en had een belang dat tegenstrijdig was aan dat van de minderjarige. Mag worden aangenomen dat de vertegenwoordiger tevens als wettelijk vertegenwoordiger optrad en de minderjarige aan de wijziging bond?",
    "en": "A disadvantageous amendment of an agreement is said to bind a minor. The minor's legal representative also acted in another capacity, such as director or shareholder of a company, and had an interest conflicting with the minor's. May it be assumed that the representative was also acting as the minor's legal representative and thereby bound the minor to the amendment?"
  },
  "criteria": [
    {
      "id": "S-001",
      "type": "substance",
      "dimensions": [
        "legal_correctness"
      ],
      "lawyer_validated": true,
      "pass_criteria": {
        "nl": "PASS als het antwoord de toepasselijke maatstaf aanduidt als het beginsel van conformerende uitleg: bij gebreke van duidelijke aanwijzingen voor het tegendeel mag niet worden aangenomen dat een wettelijk vertegenwoordiger heeft gedaan wat hij niet behoorde te doen, namelijk tegelijk als wettelijk vertegenwoordiger en in een daarmee conflicterende andere hoedanigheid handelen.",
        "en": "PASS if the answer identifies the applicable standard as conforming interpretation (conformerende uitleg): absent clear indications to the contrary, it should not be assumed that a legal representative did what they ought not to have done, namely act as the minor's legal representative while simultaneously acting in a conflicting official capacity."
      }
    },
    {
      "id": "S-002",
      "type": "substance",
      "dimensions": [
        "legal_correctness",
        "legal_judgment"
      ],
      "lawyer_validated": true,
      "pass_criteria": {
        "nl": "PASS als het antwoord de drempel 'geen duidelijke aanwijzingen van het tegendeel' op de feiten toepast en concludeert dat zulke aanwijzingen voor vertegenwoordiging in een dubbele hoedanigheid ontbraken.",
        "en": "PASS if the answer applies the threshold of 'no clear indications to the contrary' to the facts and concludes that such indications of dual-capacity representation were absent."
      }
    },
    {
      "id": "S-003",
      "type": "substance",
      "dimensions": [
        "legal_correctness"
      ],
      "lawyer_validated": true,
      "pass_criteria": {
        "nl": "PASS als het antwoord vermeldt dat wanneer een wettelijk vertegenwoordiger een evident tegenstrijdig belang heeft met dat van de minderjarige, benoeming van een bijzonder curator op grond van art. 1:250 BW de wettelijk voorgeschreven route is, in plaats van vertegenwoordiging door de conflicterende vertegenwoordiger zelf.",
        "en": "PASS if the answer states that, where a legal representative has an interest evidently conflicting with the minor's, the legally prescribed route is appointment of a special guardian under Article 1:250 BW rather than representation by the conflicted representative."
      }
    },
    {
      "id": "S-011",
      "type": "substance",
      "dimensions": [
        "legal_correctness",
        "legal_judgment"
      ],
      "lawyer_validated": true,
      "pass_criteria": {
        "nl": "PASS als het antwoord de regel dat een wettelijk vertegenwoordiger met een evident tegenstrijdig belang op grond van art. 1:250 BW door een bijzonder curator behoort te worden vervangen, gebruikt ter ondersteuning van de uitlegconclusie dat vertegenwoordiging in een dubbele hoedanigheid niet mag worden aangenomen.",
        "en": "PASS if the answer uses the rule that an evidently conflicted legal representative should be replaced by a special guardian under Article 1:250 BW to support the interpretive conclusion that dual-capacity representation should not be assumed."
      }
    },
    {
      "id": "C-005",
      "type": "citation",
      "lawyer_validated": true,
      "pass_criteria": {
        "nl": "PASS als het antwoord art. 1:250 lid 1 BW (bijzonder curator) citeert als toepasselijke wettelijke bepaling, hetzij als grondslag voor de voorgeschreven procedure bij een belangenconflict, hetzij ter ondersteuning van de uitlegnorm.",
        "en": "PASS if the answer cites Article 1:250(1) BW on the special guardian as an applicable provision, either as the basis for the prescribed procedure in a conflict of interest or as support for the interpretive norm."
      },
      "cited_authority": "art. 1:250 lid 1 BW"
    },
    {
      "id": "C-006",
      "type": "citation",
      "lawyer_validated": true,
      "pass_criteria": {
        "nl": "PASS als het antwoord art. 3:32 lid 2 BW citeert in verband met de rechtsgevolgen van een rechtshandeling die zonder behoorlijke bevoegdheid namens een minderjarige is verricht, waaronder handelingsonbekwaamheid of vernietigbaarheid van zulke rechtshandelingen.",
        "en": "PASS if the answer cites Article 3:32(2) BW in connection with the legal consequences of an act performed on behalf of a minor without proper authority, including incapacity or voidability of such acts."
      },
      "cited_authority": "art. 3:32 lid 2 BW"
    },
    {
      "id": "C-007",
      "type": "citation",
      "lawyer_validated": true,
      "pass_criteria": {
        "nl": "PASS als het antwoord HR 31 oktober 1934 (ECLI:NL:HR:1934:322, NJ 1934, p. 1675) citeert of deze uitspraak anderszins aanduidt als grondslag of illustratie van de vernietigbaarheid van een namens een minderjarige verrichte handeling zonder toereikende vertegenwoordigingsbevoegdheid.",
        "en": "PASS if the answer cites HR 31 October 1934 (ECLI:NL:HR:1934:322, NJ 1934, p. 1675) or otherwise identifies that authority as establishing or illustrating the voidability of an act performed on behalf of a minor without proper authority."
      },
      "cited_authority": "HR 31 oktober 1934, ECLI:NL:HR:1934:322, NJ 1934, p. 1675"
    },
    {
      "id": "S-008",
      "type": "substance",
      "dimensions": [
        "legal_correctness",
        "legal_judgment"
      ],
      "lawyer_validated": true,
      "pass_criteria": {
        "nl": "PASS als het antwoord onderkent dat het evidente belangenconflict tussen de andere rol van de vertegenwoordiger, bijvoorbeeld als bestuurder of aandeelhouder, en het belang van de minderjarige op zichzelf een doorslaggevende factor is die pleit tegen impliciete vertegenwoordiging in een dubbele hoedanigheid; facultatief mag het antwoord opmerken dat een eigenbelang, zoals belastingbesparing, deze conclusie verder versterkt.",
        "en": "PASS if the answer recognises that the evident conflict between the representative's other role, for example as director or shareholder, and the minor's interest is itself a decisive factor against implicit dual-capacity representation; it may additionally note that a self-serving motive, such as tax savings, reinforces that conclusion."
      }
    },
    {
      "id": "S-009",
      "type": "substance",
      "dimensions": [
        "legal_correctness",
        "legal_judgment"
      ],
      "lawyer_validated": true,
      "pass_criteria": {
        "nl": "PASS als het antwoord, voor zover het een argument over dynamische uitleg behandelt, juist vermeldt dat dynamische uitleg geen zelfstandige maatstaf is maar een toepassing van de gewone uitlegmaatstaf op gewijzigde omstandigheden.",
        "en": "PASS if, when addressing a dynamic-interpretation argument, the answer correctly notes that dynamic interpretation is not an independent standard but an application of the ordinary interpretation standard to changing circumstances."
      }
    },
    {
      "id": "S-013",
      "type": "substance",
      "dimensions": [
        "legal_correctness",
        "legal_judgment"
      ],
      "lawyer_validated": true,
      "pass_criteria": {
        "nl": "PASS als het antwoord overal één consistente formulering van de rechtspositie van de minderjarige gebruikt: indien het concludeert dat de minderjarige niet gebonden is, onderscheidt het die conclusie van een bespreking van vernietigbaarheid, toerekening, schijn van volmacht of een uitdrukkelijke rechtshandeling namens de minderjarige, in plaats van deze als onverzoende alternatieve eindconclusies te presenteren.",
        "en": "PASS if the answer uses one consistent formulation of the minor's legal position throughout: if it concludes that the minor is not bound, it distinguishes that conclusion from any discussion of voidability, attribution, apparent authority or an express act on the minor's behalf instead of presenting those matters as unreconciled alternative bottom lines."
      }
    },
    {
      "id": "F-014",
      "type": "form",
      "dimensions": [
        "style",
        "usability"
      ],
      "lawyer_validated": true,
      "pass_criteria": {
        "nl": "PASS als de openingsalinea, vóór de uitvoerige bespreking van vertegenwoordiging, toerekening, schijn van volmacht of instemming, beknopt de conclusie van het antwoord vermeldt over de vraag of het handelen van de vertegenwoordiger in een andere hoedanigheid ook de minderjarige bond, met behoud van de in de analyse gebruikte voorbehouden.",
        "en": "PASS if the opening paragraph concisely states the answer's conclusion on whether conduct by the representative in another capacity also bound the minor, preserving any qualifications used in the analysis, before the detailed discussion of representation, attribution, apparent authority or consent."
      }
    }
  ]
}

Only 2 of 23 models, GPT-5.6 Sol Max and GPT-6 Astra Max, apply the test to the facts and reach the required conclusion.

Treating unsettled law as settled

Judgement

What it is: The model's answer states the settled rule correctly but resolves an open question as if the courts had decided it.

The question: When two deeds about the same land are signed on the same day, is each deed read on its own or are they read together?

The error: Most models reason that same-day deeds should be read together, a rule Dutch law does not contain. The rest never address how such deeds interact.

Open on GitHub

{
  "task_id": "real-estate/interpretation-of-notarial-deeds-limited-rights",
  "jurisdiction": "NL",
  "normative_language": "nl",
  "task_horizon": "short",
  "law_as_of": "2026-08-30",
  "practice_area": {
    "nl": "Vastgoedrecht",
    "en": "Real estate"
  },
  "title": {
    "nl": "Uitleg notariële akten bij vestiging beperkte rechten op registergoederen",
    "en": "Interpretation of notarial deeds establishing limited rights in registered property"
  },
  "prompt": {
    "nl": "In een geschil staat de omvang centraal van beperkte rechten op registergoederen die in notariële akten zijn gevestigd. Welke maatstaf geldt voor de uitleg van de akten, en in hoeverre mag daarbij acht worden geslagen op de feitelijke situatie ter plaatse, de plaatselijke adresaanduiding ten tijde van het verlijden en de onderlinge samenhang tussen op dezelfde dag verleden akten?",
    "en": "A dispute concerns the extent of limited rights in registered property established by notarial deeds. What standard governs interpretation of the deeds, and to what extent may it take account of the factual situation on site, the local address designation at the time of execution, and the relationship between deeds executed on the same day?"
  },
  "criteria": [
    {
      "id": "S-001",
      "type": "substance",
      "dimensions": [
        "legal_correctness"
      ],
      "lawyer_validated": true,
      "pass_criteria": {
        "nl": "PASS als het antwoord vermeldt dat voor de uitleg van notariële akten waarbij beperkte rechten op registergoederen worden gevestigd een objectieve maatstaf geldt: de partijbedoeling moet worden afgeleid uit de in de akte gebezigde bewoordingen, uitgelegd naar objectieve maatstaven in het licht van de gehele inhoud van de akte.",
        "en": "PASS if the answer states that notarial deeds establishing limited rights in registered property are interpreted objectively: the parties' intention must be derived from the wording used in the deed, interpreted according to objective criteria in light of the deed as a whole."
      }
    },
    {
      "id": "S-002",
      "type": "substance",
      "dimensions": [
        "legal_correctness",
        "legal_judgment"
      ],
      "lawyer_validated": true,
      "pass_criteria": {
        "nl": "PASS als het antwoord uitlegt waarom de objectieve maatstaf geldt: derden moeten kunnen afgaan op wat in een in de openbare registers ingeschreven akte staat over de vestiging van een beperkt recht; de ratio ligt dus in het publiciteitsstelsel voor registergoederen.",
        "en": "PASS if the answer explains that the objective standard applies because third parties must be able to rely on what a deed recorded in the public registers states about the establishment of a limited right; the rationale lies in the publicity system for registered property."
      }
    },
    {
      "id": "S-003",
      "type": "substance",
      "dimensions": [
        "legal_correctness",
        "legal_judgment"
      ],
      "lawyer_validated": true,
      "pass_criteria": {
        "nl": "PASS als het antwoord onderkent dat bij de uitleg van de omschrijving in de akte rekening mag worden gehouden met de plaatselijke feitelijke situatie ten tijde van het verlijden.",
        "en": "PASS if the answer recognises that the factual situation at the location at the time of execution may be considered when interpreting the description in the deed."
      }
    },
    {
      "id": "S-004",
      "type": "substance",
      "dimensions": [
        "legal_correctness"
      ],
      "lawyer_validated": true,
      "pass_criteria": {
        "nl": "PASS als het antwoord vermeldt dat omstandigheden van na de datum van het verlijden in beginsel geen rol spelen.",
        "en": "PASS if the answer states that circumstances arising after the date of execution play no role in principle."
      }
    },
    {
      "id": "S-011",
      "type": "substance",
      "dimensions": [
        "legal_correctness"
      ],
      "lawyer_validated": true,
      "pass_criteria": {
        "nl": "PASS als het antwoord specifiek vermeldt dat een latere hernummering van een adres een nadien ontstane omstandigheid is waaraan geen gewicht mag worden toegekend.",
        "en": "PASS if the answer specifically states that a later renumbering of an address is a subsequent circumstance to which no weight may be given."
      }
    },
    {
      "id": "S-012",
      "type": "substance",
      "dimensions": [
        "legal_correctness"
      ],
      "lawyer_validated": true,
      "pass_criteria": {
        "nl": "PASS als het antwoord vermeldt dat de akte moet worden uitgelegd aan de hand van de officiële nummering zoals die ten tijde van het verlijden gold.",
        "en": "PASS if the answer states that the deed must be interpreted according to the official numbering in effect at the time of execution."
      }
    },
    {
      "id": "S-005",
      "type": "substance",
      "dimensions": [
        "legal_correctness",
        "legal_judgment"
      ],
      "lawyer_validated": true,
      "pass_criteria": {
        "nl": "PASS als het antwoord uitlegt dat, wanneer op dezelfde dag meerdere akten betreffende deels hetzelfde registergoed zijn verleden, iedere akte in beginsel zelfstandig wordt uitgelegd op basis van de daarin opgenomen omschrijving.",
        "en": "PASS if the answer explains that, when multiple deeds concerning partly the same immovable property are executed on the same day, each deed is in principle interpreted independently on the basis of its own description."
      }
    },
    {
      "id": "S-006",
      "type": "substance",
      "dimensions": [
        "legal_correctness",
        "legal_judgment"
      ],
      "lawyer_validated": true,
      "pass_criteria": {
        "nl": "PASS als het antwoord vermeldt dat de rechter de omschrijvingen in op dezelfde dag verleden akten mag vergelijken, maar uitsluitend om na te gaan of de zelfstandige uitleggingen niet met elkaar in strijd zijn.",
        "en": "PASS if the answer states that the court may compare the descriptions in deeds executed on the same day, but only to verify that the independent interpretations are not mutually contradictory."
      }
    },
    {
      "id": "S-007",
      "type": "substance",
      "dimensions": [
        "legal_correctness",
        "legal_judgment"
      ],
      "lawyer_validated": true,
      "pass_criteria": {
        "nl": "PASS als het antwoord concludeert, of met de conclusie verenigbaar is, dat geen rangorderegel hoeft te worden toegepast wanneer zelfstandige uitleg van iedere akte — naar objectieve maatstaven en met inachtneming van de feitelijke omschrijvingen en de situatie ten tijde van het verlijden — tot niet-tegenstrijdige uitkomsten leidt.",
        "en": "PASS if the answer concludes, or is consistent with the conclusion, that no priority rule is required when independent interpretation of each deed according to objective criteria, the factual descriptions and the situation at execution produces non-conflicting results."
      }
    },
    {
      "id": "S-013",
      "type": "substance",
      "dimensions": [
        "legal_correctness",
        "legal_judgment"
      ],
      "lawyer_validated": true,
      "pass_criteria": {
        "nl": "PASS als het antwoord concludeert, of met de conclusie verenigbaar is, dat geen verzoenende uitleg nodig is wanneer zelfstandige uitleg van iedere akte — naar objectieve maatstaven en met inachtneming van de feitelijke omschrijvingen en de situatie ten tijde van het verlijden — tot niet-tegenstrijdige uitkomsten leidt.",
        "en": "PASS if the answer concludes, or is consistent with the conclusion, that no harmonising interpretation is required when independent interpretation of each deed according to objective criteria, the factual descriptions and the situation at execution produces non-conflicting results."
      }
    },
    {
      "id": "S-014",
      "type": "substance",
      "dimensions": [
        "legal_correctness",
        "legal_judgment"
      ],
      "lawyer_validated": true,
      "pass_criteria": {
        "nl": "PASS als het antwoord concludeert, of verenigbaar is met de conclusie, dat wanneer de zelfstandige uitleg van iedere akte (aan de hand van objectieve maatstaven, de feitelijke omschrijvingen en de situatie ten tijde van het verlijden) tot niet met elkaar strijdige uitkomsten leidt, het object van ieder beperkt recht wordt bepaald door de zelfstandige uitleg van de desbetreffende akte, met dien verstande dat in de rechtspraak van de Hoge Raad onbeantwoord is gebleven of verzoenende uitleg de uitleg kan beïnvloeden.",
        "en": "PASS if the answer concludes, or is consistent with the conclusion, that where independent interpretation of each deed (applying objective standards, the factual descriptions and the situation at the time of execution) leads to non-contradictory results, the object of each limited right is determined by the independent interpretation of the relevant deed, while the question whether harmonising interpretation (verzoenende uitleg) may influence that interpretation has not been answered in Supreme Court case law."
      }
    },
    {
      "id": "C-008",
      "type": "citation",
      "lawyer_validated": true,
      "pass_criteria": {
        "nl": "PASS als het antwoord HR 8 december 2000, ECLI:NL:HR:2000:AA8901 (Eelder Woningbouw / NJ 2001/350) citeert als leidende uitspraak voor de objectieve uitlegmaatstaf bij notariële akten waarbij beperkte rechten op registergoederen worden gevestigd.",
        "en": "PASS if the answer cites HR 8 December 2000, ECLI:NL:HR:2000:AA8901 (Eelder Woningbouw / NJ 2001/350), as the leading authority for the objective interpretation standard applicable to notarial deeds establishing limited rights in registered property."
      },
      "cited_authority": "HR 8 december 2000"
    },
    {
      "id": "S-010",
      "type": "substance",
      "dimensions": [
        "legal_correctness",
        "legal_judgment"
      ],
      "lawyer_validated": true,
      "pass_criteria": {
        "nl": "PASS als het antwoord ten minste één van de volgende ondersteunende uitspraken inhoudelijk gebruikt voor een onderdeel van de uitlegmaatstaf of de behandeling van op dezelfde dag verleden akten: HR 13 juni 2003 (ECLI:NL:HR:2003:AH9168), HR 22 oktober 2010 (ECLI:NL:HR:2010:BM8933) of HR 1 november 2013 (ECLI:NL:HR:2013:1078, De Prinsenwerf / NJ 2013/522).",
        "en": "PASS if the answer uses at least one of these supporting authorities substantively for an element of the interpretation standard or the treatment of same-day deeds: HR 13 June 2003 (ECLI:NL:HR:2003:AH9168), HR 22 October 2010 (ECLI:NL:HR:2010:BM8933), or HR 1 November 2013 (ECLI:NL:HR:2013:1078, De Prinsenwerf / NJ 2013/522)."
      }
    },
    {
      "id": "F-015",
      "type": "form",
      "dimensions": [
        "style",
        "usability"
      ],
      "lawyer_validated": true,
      "pass_criteria": {
        "nl": "PASS als het antwoord de geldende objectieve uitlegmaatstaf afzonderlijk herkenbaar behandelt naast de feitelijke situatie ter plaatse, de adresaanduiding ten tijde van het verlijden en de verhouding tussen de op dezelfde dag verleden akten, zodat de lezer de regel en iedere gevraagde contextfactor kan terugvinden zonder de structuur zelf te reconstrueren.",
        "en": "PASS if the answer makes the governing objective interpretation standard separately identifiable from its treatment of the factual situation on site, the address designation at execution and the relationship between the same-day deeds, so the reader can locate the rule and each requested contextual factor without reconstructing the structure."
      }
    },
    {
      "id": "F-016",
      "type": "form",
      "dimensions": [
        "style",
        "usability"
      ],
      "lawyer_validated": true,
      "pass_criteria": {
        "nl": "PASS als iedere aangehaalde uitspraak wordt geplaatst bij de uitlegregel of contextfactor die zij ondersteunt; een losstaande lijst van uitspraken of bronnen volstaat op zichzelf niet.",
        "en": "PASS if each cited decision is placed with the interpretation rule or contextual factor it supports; a stand-alone case list or source list does not by itself satisfy this checkpoint."
      }
    }
  ]
}

16 of 18 graded models state the governing standard correctly, but only 1, Claude Opus 5 Max, reads each deed on its own and says that the harmonising question remains undecided by the Supreme Court.

Citation without analysis

Citation

What it is: The model's answer cites the applicable law but does not explain how it supports the conclusion.

The question: After a company goes bankrupt, can a lender with security over its customer debts still negotiate settlements with those customers?

The error: Models cite the applicable law. They do not explain that bankruptcy ends the lender's permission to settle.

Open on GitHub

{
  "task_id": "insolvency-restructuring/pledgee-settlement-authority-over-pledged-claims",
  "jurisdiction": "NL",
  "normative_language": "nl",
  "task_horizon": "short",
  "law_as_of": "2026-08-30",
  "practice_area": {
    "nl": "Insolventierecht en herstructurering",
    "en": "Insolvency & Restructuring"
  },
  "title": {
    "nl": "Schikkingsbevoegdheid pandhouder bij verpande vorderingen",
    "en": "Settlement authority of a pledgee over pledged claims"
  },
  "prompt": {
    "nl": "Een openbaar pandhouder overweegt een schikking over een verpande vordering, terwijl een faillissement van de pandgever mogelijk is. Omvat de inningsbevoegdheid ook de bevoegdheid om te schikken, en kan die schikkingsbevoegdheid bij overeenkomst met goederenrechtelijke werking aan de pandhouder worden toegekend zodat zij tijdens het faillissement van de pandgever blijft bestaan?",
    "en": "A disclosed pledgee is considering a settlement of a pledged claim while the pledgor may enter bankruptcy. Does the collection authority include authority to settle, and can that settlement authority be granted contractually to the pledgee with property-law effect so that it survives the pledgor's bankruptcy?"
  },
  "criteria": [
    {
      "id": "S-001",
      "type": "substance",
      "dimensions": [
        "legal_correctness"
      ],
      "lawyer_validated": true,
      "pass_criteria": {
        "nl": "PASS als het antwoord vermeldt dat de wettelijke bevoegdheidsverdeling tussen pandhouder en pandgever bij een openbaar pandrecht op vorderingen van dwingendrechtelijke aard is.",
        "en": "PASS if the answer states that the statutory allocation of powers between pledgee and pledgor under a disclosed pledge over claims is mandatory in nature."
      }
    },
    {
      "id": "S-012",
      "type": "substance",
      "dimensions": [
        "legal_correctness"
      ],
      "lawyer_validated": true,
      "pass_criteria": {
        "nl": "PASS als het antwoord vermeldt dat de pandhouder na mededeling uitsluitend de inningsbevoegdheid en de daaruit voortvloeiende bevoegdheden verkrijgt.",
        "en": "PASS if the answer states that, after notice has been given, the pledgee acquires only collection authority and the powers flowing from it."
      }
    },
    {
      "id": "S-013",
      "type": "substance",
      "dimensions": [
        "legal_correctness"
      ],
      "lawyer_validated": true,
      "pass_criteria": {
        "nl": "PASS als het antwoord vermeldt dat alle schuldeisersbevoegdheden behalve de inningsbevoegdheid en de daaruit voortvloeiende bevoegdheden — waaronder de bevoegdheid een schikking te treffen, kwijtschelding te verlenen, een betalingsregeling overeen te komen of de onderliggende overeenkomst te beëindigen — bij de pandgever blijven.",
        "en": "PASS if the answer states that all creditor powers other than collection authority and the powers flowing from it — including settling, granting a release, agreeing a repayment arrangement or terminating the underlying agreement — remain vested in the pledgor."
      }
    },
    {
      "id": "S-002",
      "type": "substance",
      "dimensions": [
        "legal_correctness"
      ],
      "lawyer_validated": true,
      "pass_criteria": {
        "nl": "PASS als het antwoord art. 3:246 BW met artikelnummer citeert.",
        "en": "PASS if the answer cites Article 3:246 BW by article number."
      }
    },
    {
      "id": "C-004",
      "type": "citation",
      "lawyer_validated": true,
      "pass_criteria": {
        "nl": "PASS als het antwoord HR 21 februari 2014 citeert aan de hand van de ECLI (ECLI:NL:HR:2014:415), de datum of de NJ-vindplaats (NJ 2015/82).",
        "en": "PASS if the answer cites HR 21 February 2014 by ECLI:NL:HR:2014:415, its date or NJ 2015/82."
      },
      "cited_authority": "HR 21 februari 2014"
    },
    {
      "id": "S-005",
      "type": "substance",
      "dimensions": [
        "legal_correctness",
        "legal_judgment"
      ],
      "lawyer_validated": true,
      "pass_criteria": {
        "nl": "PASS als het antwoord de redengeving van HR 21 februari 2014 (IAE/Neo River) uitlegt dat een schikking een beschikking over de vordering inhoudt die verder gaat dan enkel innen.",
        "en": "PASS if the answer explains the rationale of HR 21 February 2014 (IAE/Neo River): settlement entails a disposition over the claim that goes beyond mere collection."
      }
    },
    {
      "id": "S-006",
      "type": "substance",
      "dimensions": [
        "legal_correctness"
      ],
      "lawyer_validated": true,
      "pass_criteria": {
        "nl": "PASS als het antwoord vermeldt dat het gesloten stelsel van goederenrechtelijke rechten (art. 3:81 lid 1 BW) eraan in de weg staat dat partijen de bevoegdheden van de pandhouder bij overeenkomst uitbreiden met goederenrechtelijke werking.",
        "en": "PASS if the answer states that the closed system of property rights under Article 3:81(1) BW prevents parties from contractually extending the pledgee's powers with property-law effect."
      }
    },
    {
      "id": "S-014",
      "type": "substance",
      "dimensions": [
        "legal_correctness"
      ],
      "lawyer_validated": true,
      "pass_criteria": {
        "nl": "PASS als het antwoord vermeldt dat de wet geen mogelijkheid biedt om de bevoegdheden van de pandhouder bij overeenkomst uit te breiden met goederenrechtelijke werking.",
        "en": "PASS if the answer states that the law does not provide for contractual extension of the pledgee's powers with property-law effect."
      }
    },
    {
      "id": "S-015",
      "type": "substance",
      "dimensions": [
        "legal_correctness"
      ],
      "lawyer_validated": true,
      "pass_criteria": {
        "nl": "PASS als het antwoord vermeldt dat goederenrechtelijke bepalingen dwingend zijn, tenzij de wet uitdrukkelijk afwijking toestaat.",
        "en": "PASS if the answer states that property-law provisions are mandatory unless the statute expressly permits deviation."
      }
    },
    {
      "id": "S-007",
      "type": "substance",
      "dimensions": [
        "legal_correctness"
      ],
      "lawyer_validated": true,
      "pass_criteria": {
        "nl": "PASS als het antwoord art. 7:424 lid 1 BW aanduidt als de schakelbepaling waardoor de lastgevingsbepalingen over het eindigen van de lastgevingsovereenkomst van overeenkomstige toepassing zijn op overeenkomsten op grond waarvan de ene partij bevoegd is voor rekening van de andere rechtshandelingen te verrichten.",
        "en": "PASS if the answer identifies Article 7:424(1) BW as the connecting provision that applies the mandate rules on termination correspondingly to agreements under which one party is authorised to perform legal acts for the account of another."
      }
    },
    {
      "id": "C-016",
      "type": "citation",
      "lawyer_validated": true,
      "pass_criteria": {
        "nl": "PASS als het antwoord art. 7:424 lid 1 BW met artikelnummer citeert.",
        "en": "PASS if the answer cites Article 7:424(1) BW by article number."
      },
      "cited_authority": "Art. 7:424 lid 1 BW"
    },
    {
      "id": "S-008",
      "type": "substance",
      "dimensions": [
        "legal_correctness",
        "legal_judgment"
      ],
      "lawyer_validated": true,
      "pass_criteria": {
        "nl": "PASS als het antwoord uitlegt dat een contractueel verleende schikkingsbevoegdheid op grond van art. 7:422 lid 1, aanhef en onder a, BW, via art. 7:424 BW, van rechtswege eindigt bij faillissement van de pandgever, ook wanneer de bevoegdheid uitsluitend in het belang van de pandhouder is verleend.",
        "en": "PASS if the answer explains that, by operation of Article 7:422(1)(a) BW through Article 7:424 BW, a contractually granted settlement power lapses by operation of law upon the pledgor's bankruptcy, including where granted solely in the pledgee's interest."
      }
    },
    {
      "id": "C-017",
      "type": "citation",
      "lawyer_validated": true,
      "pass_criteria": {
        "nl": "PASS als het antwoord art. 7:422 lid 1, aanhef en onder a, BW met artikelnummer citeert.",
        "en": "PASS if the answer cites Article 7:422(1)(a) BW by article number."
      },
      "cited_authority": "Art. 7:422 lid 1, aanhef en onder a, BW"
    },
    {
      "id": "S-009",
      "type": "substance",
      "dimensions": [
        "legal_correctness",
        "legal_judgment"
      ],
      "lawyer_validated": true,
      "pass_criteria": {
        "nl": "PASS als het antwoord ingaat op de wetsgeschiedenis van art. 3:246 BW (Parl. Gesch. Boek 3, MvA II, p. 772–773), waaruit volgt dat de wettelijke bevoegdheidsverdeling een bewuste keuze van de wetgever is die berust op het zwaarwegende belang van de pandgever bij behoud van de betrokken schuldeisersbevoegdheden.",
        "en": "PASS if the answer engages with the legislative history of Article 3:246 BW (Parl. Gesch. Boek 3, MvA II, pp. 772–773), explaining that the statutory allocation reflects a deliberate legislative choice based on the pledgor's substantial interest in retaining the relevant creditor powers."
      }
    },
    {
      "id": "S-018",
      "type": "substance",
      "dimensions": [
        "legal_correctness",
        "legal_judgment"
      ],
      "lawyer_validated": true,
      "pass_criteria": {
        "nl": "PASS als het antwoord bespreekt of de woorden 'in het algemeen' in de wetsgeschiedenis van art. 3:246 BW ruimte laten voor contractuele afwijking van de wettelijke verdeling van schuldeisersbevoegdheden en concludeert dat dit niet het geval is. Iedere juridisch gemotiveerde route naar die conclusie is aanvaardbaar; het antwoord hoeft de woorden niet aan te merken als een 'algemeen normatief uitgangspunt'.",
        "en": "PASS if the answer addresses whether the phrase 'in general' (in het algemeen) in the legislative history of Article 3:246 BW leaves room for contractual deviation from the statutory allocation of creditor powers and concludes that it does not. Any legally reasoned route to that conclusion is acceptable; the answer need not characterise the phrase as a 'general normative standpoint.'"
      }
    },
    {
      "id": "C-011",
      "type": "citation",
      "lawyer_validated": true,
      "pass_criteria": {
        "nl": "PASS als het antwoord HR 9 december 2016, ECLI:NL:HR:2016:2833, NJ 2017/2 (Megalim/De Veenbloem) citeert aan de hand van de ECLI, datum of zaaknaam.",
        "en": "PASS if the answer cites HR 9 December 2016, ECLI:NL:HR:2016:2833, NJ 2017/2 (Megalim/De Veenbloem), by ECLI, date or case name."
      },
      "cited_authority": "HR 9 december 2016"
    },
    {
      "id": "S-019",
      "type": "substance",
      "dimensions": [
        "legal_correctness",
        "legal_judgment"
      ],
      "lawyer_validated": true,
      "pass_criteria": {
        "nl": "PASS als het antwoord uitlegt dat HR 9 december 2016, Megalim/De Veenbloem, de reikwijdte van de inningsbevoegdheid van de pandhouder functioneel omschrijft: zij omvat maatregelen om de verpande vordering op het vermogen van de schuldenaar te verhalen, waaronder het aanvragen van diens faillissement. Het antwoord moet die verhaalsfunctie gebruiken om een schikking of kwijtschelding te onderscheiden, omdat deze de vordering wijzigt of daarover beschikt in plaats van haar af te dwingen.",
        "en": "PASS if the answer explains that HR 9 December 2016, Megalim/De Veenbloem, defines the pledgee's collection authority functionally: it includes measures used to recover the pledged claim against the debtor's assets, including applying for the debtor's bankruptcy. The answer must use that recovery function to distinguish settlement or remission, which alters or disposes of the claim rather than enforcing it."
      }
    },
    {
      "id": "F-020",
      "type": "form",
      "dimensions": [
        "style",
        "usability"
      ],
      "lawyer_validated": true,
      "pass_criteria": {
        "nl": "PASS als het antwoord de twee gestelde vragen afzonderlijk herkenbaar behandelt: of de wettelijke inningsbevoegdheid ook de bevoegdheid tot schikking omvat en of een contractuele schikkingsbevoegdheid goederenrechtelijke werking kan hebben en het faillissement van de pandgever kan overleven.",
        "en": "PASS if the answer treats the two questions separately and identifiably: whether statutory collection authority includes settlement, and whether a contractual settlement power can have property-law effect and survive the pledgor's bankruptcy."
      }
    },
    {
      "id": "F-021",
      "type": "form",
      "dimensions": [
        "style",
        "usability"
      ],
      "lawyer_validated": true,
      "pass_criteria": {
        "nl": "PASS als art. 3:246 BW, de wetsgeschiedenis daarvan en Megalim/De Veenbloem ieder worden geplaatst bij de specifieke stelling die zij ondersteunen; een gezamenlijke mededeling dat de bronnen het antwoord bevestigen of een losstaande bronnenlijst is onvoldoende.",
        "en": "PASS if Article 3:246 BW, its legislative history and Megalim/De Veenbloem are each placed with the particular proposition they support; a collective assertion that the sources confirm the answer or a stand-alone source list is insufficient."
      }
    }
  ]
}

21 of 23 models cite the relevant rule, but 17 do not explain that bankruptcy ends the lender's permission to negotiate a settlement.

Methodology

What DELTA tests

DELTA evaluates open-ended Dutch legal research drawn from practice. Models must find relevant Dutch legal sources, identify the governing law, apply it to the facts and produce an answer a lawyer can use.

How the models are tested

Every attempt starts fresh with the same Dutch question, research instruction, search and source-reading tools, time limit and tool limit. Model-specific reasoning settings appear in the model names where applicable.

A single answer per model and question is scored. Failed or incomplete runs may be repeated under the same conditions. A missing answer fails the task and receives no Form score. Complete runs are not repeated to measure consistency.

How the answers are scored

A task passes only when the answer meets every legal and citation requirement. Criteria pass rate combines the Substance and Citation criteria satisfied across all answers. Form separately assesses whether the answer is clearly structured, appropriately prioritised, proportionate and usable by a practitioner on a 1 to 3 scale.

Answers are initially graded without revealing which model produced them. GPT-5.6 Sol assesses the legal and citation requirements; GPT-5.6 Sol and Claude Sonnet 4.6 assess Form. Final legal and citation scores apply binding rulings from qualified Dutch lawyers where available, followed by approved AI-human decisions that carry those rulings to materially equivalent answers; otherwise the blind judge verdict remains. Final Form scores likewise include reviewed decisions and approved transfers where available. Review coverage differs by model, so the leaderboard is not direct human validation of every answer.

Cost and response time

Average cost per task and response time reflect the answer used for scoring, or the final attempt when no answer is produced. Earlier attempts and lawyer-review time are excluded.

Open-source questions

The questions in the open-source DELTA release, reviewed with practising Dutch lawyers, are included in the larger evaluation. Its public criteria have since been refined and are not identical to those used for the leaderboard.

DELTA is curated and maintained by Legal Benchmarks. As Founding Research Partner, Zeno contributes technical expertise in legal AI systems, evaluation design and benchmark development.

Acknowledgements

We thank the practising Dutch lawyers who reviewed the tasks and criteria and scored model outputs while the framework was being calibrated. We also thank the participating firms, members of the legal technology community and individual contributors who shared their expertise.

Zeno is DELTA's Founding Research Partner.

Contributing organisations

  • Banning Advocaten
  • BVD advocaten
  • Damsté
  • De Clercq Advocaten Notariaat
  • De Roos
  • DM Advocaten
  • Holla Legal & Tax
  • HVG Law
  • Ploum
  • The Data Lawyers
  • VANEPS
  • Wijn & Stael Advocaten

Explore DELTA

A public, practitioner-grade benchmark for Dutch legal AI, pairing this report with an open legal-research task set and a survey of how Dutch lawyers use AI.