Gratis · 90 seconden · Geen login

Moet deze workload op een frontier-LLM of een small language model draaien?

Beschrijf je workload. We vergelijken 10 modellen — frontier-LLM's en SLM's — op maandelijkse kosten, accuracy op jouw specifieke taak, latency-fit en data-residency. De juiste hosting-modus komt mee met het antwoord.

Hoe het werkt

Drie inputs, één beslissing.
Geen tokens, geen spreadsheets.

  1. Beschrijf

    Vertel ons over de workload.

    Negen inputs: taak, volume, tokenprofiel, accuracy-tolerantie, latency-SLA, residency, taal, huidige spend. Ongeveer 90 seconden.

  2. Score

    Een rule engine, geen onderbuik.

    Harde filters knippen alles weg dat faalt op residency, taal of accuracy. Soft scores rangschikken op kosten (35%), accuracy op jouw taak (35%), latency-fit (15%) en sovereignty-bonus (15%).

  3. Beslis

    Top-3 met een hosting-modus.

    Kosten naast elkaar over 10 modellen. De juiste hosting-modus (API / managed / self-host / on-prem). Een besparingsgetal afgezet tegen wat je vandaag betaalt.

Voor wie het is

Gebouwd voor het moment dat je AI-rekening een board-gesprek wordt.

  • CTO / VP Engineering

    AI-rekening is 5× gegroeid — je vraagt je af of je nog een frontier-LLM nodig hebt. De shortlist + break-even vertellen het je.

  • CFO / Finance

    Je hebt een verdedigbaar besparingsgetal voor het bestuur nodig. Plug huidige spend in; het resultaat staat in dollars.

  • Head of AI / ML Lead

    Je doet een architecture review. Top-3 met fit scores + accuracy-delta's; PoC-klaar in een week.

  • Sovereign-AI tech founder

    Residency of nationaal AI-beleid is het primaire filter. De tool brengt regio-aligned SLM's (Mistral, Qwen, Falcon, BharatGen) op merit naar boven.

Methodologie

Deterministisch. Reproduceerbaar. Geciteerd.

De scoring engine is rule-based — geen LLM-calls op het hot path. Dezelfde inputs leveren altijd dezelfde shortlist op. Prijzen worden maandelijks ververst via de gedeelde Buzzi LLM Pricing Database (Tool 01) met een dagelijkse snapshot-cron die mid-maandse bewegingen oppikt. Benchmarks worden per bron geciteerd, niet verzonnen.

Geen vendor-sponsoring.

Prijzen zijn niet pay-to-play.

Benchmarks geciteerd, niet verzonnen.

Lees volledige methodologie

FAQ

Veelgestelde vragen over SLM vs LLM.

What does this tool do?

It takes nine details about your AI workload — task, volume, token profile, accuracy tolerance, latency SLA, residency, language, current spend — and returns a side-by-side monthly cost across 10 models, an accuracy delta on your task, the right hosting mode, and a top-3 shortlist with fit scores. No login, runs in 90 seconds.

How is this different from the LLM Pricing Comparison tool?

LLM Pricing Comparison compares token prices across models you pick. This tool picks models for a workload you describe. Same dataset, two lenses for two different buyer moments.

What's the difference between an SLM and an LLM?

SLM ≈ Small Language Model, typically 1–10B parameters with task-specific accuracy that matches frontier models on narrow tasks at a fraction of the cost. LLM = frontier general-purpose models like GPT-5, Claude Opus 4.7, Gemini 2.5 Pro that are stronger on agentic and reasoning workloads.

When does a small language model win?

Classification, extraction, summarization, translation. Cost-sensitive workloads at high volume. Residency-constrained deployments. Latency-critical paths where every millisecond counts. Anywhere accuracy on the specific task is good enough at much lower cost.

What assumptions does the cost formula make?

Monthly volume × average input tokens × published input price + monthly volume × average output tokens × published output price. Caching discount of up to 90% applied per cache-hit-rate; batch discount up to 50% applied when "Batch-tolerant" is selected. Self-hosted cost adds amortized setup + GPU monthly.

How much do caching and batch discounts change the numbers?

Up to 90% off the input portion when cache-hit-rate is 100% (rare). 50% off the total when batch mode is selected. Real workloads typically see 20–40% savings from caching, 50% from batch on async workloads.

How accurate are the benchmark scores?

They are public-benchmark proxies, not your workload. Strongly recommend a 100–500 sample PoC before committing. Benchmarks come from Artificial Analysis, HuggingFace Open LLM Leaderboard, Stanford HELM, HumanEval / MBPP, AgentBench, plus task-specific suites.

How do I pick the right hosting mode?

Use the matrix: under 100K queries/month → API. 100K–1M with EU residency → managed inference in EU. >1M with sub-second latency → self-hosted GPU. On-prem or air-gapped requirements → open-weight SLM on your hardware.

When does self-hosted beat API?

Typically past 1M–10M queries/month depending on token profile. The break-even chart on the results page shows the exact crossover for your inputs.

How do I size a GPU for self-hosted Llama 3 / Phi-3 / Mistral?

Use the min_vram_gb column on each model card. Phi-3.5 Mini fits on an L4 (24GB). Llama 3.x 8B + Mistral 7B comfortably on a single A100 40GB. Llama 3.3 70B needs 2× A100 80GB minimum at production throughput.

What are the implications of data residency?

Frontier APIs offer some regional hosting (Anthropic EU, OpenAI EU via Azure, Gemini in EU/SG/IN). For strict on-prem only open-weight SLMs apply: Llama, Mistral, Phi, Qwen, Falcon, BharatGen.

Which models are best for multilingual workloads?

Qwen for Chinese / Japanese / Korean. Mistral for European languages. Llama 3.x for broad multilingual baseline. GPT-5 / Claude Opus / Gemini 2.5 Pro for global coverage when budget allows.

What regional SLMs should I know about?

Mistral (EU sovereign), Falcon (UAE / TII), Qwen (APAC), BharatGen (India). The tool surfaces these neutrally on cost + compliance + language merit when residency is selected — not by default.

How often is the data updated?

Pricing — monthly vendor refresh + human review, with a daily snapshot cron catching mid-month moves. Benchmarks — quarterly. Sovereign-model coverage — quarterly + as new models ship.

Does Buzzi have a vendor bias?

No. No vendor sponsorships, no pay-to-play placement, every benchmark cited with source URL and capture date. We list all models we track and rank them on cost, accuracy, latency, residency — not relationships.

Klaar om te migreren?

Verlaag je AI-rekening met 30–60% zonder accuracy te verliezen.

Buzzi heeft SLM-migraties geleverd voor teams die classificatie, extractie en RAG op schaal draaien. PoC van twee weken, migratie in vier weken, echte kostendata.