Run #45
qwen3:14b
unknown
· liteLLM
· gestartet 2026-05-11 11:28:59
completed
Aktueller Adapter
bfcl.single_turn
Samples
10 / 10
(100%)
Errors
0
Letzter Heartbeat
11:30:22
Beendet
2026-05-11 11:30:22
Cold-Start TTFT
Baseline — Streaming-Performance & Sanity · v1.0.0
Wie schnell antwortet das Modell auf den ersten Token-Stream nach Aufruf?
1772ms
Antwortzeit gesamt
·
100% pass
·
↑ 0%
1 ok
·
0 failed
Sanity — Substring-Checks
Baseline — Streaming-Performance & Sanity · v1.0.0
Liefert der Endpoint überhaupt korrekte Antworten auf einfachste Fragen?
100%
↑ 0%
3 ok
·
0 failed
Throughput — Tokens/sec
Baseline — Streaming-Performance & Sanity · v1.0.0
Wie viele Tokens pro Sekunde liefert das Modell unter realistischer Last?
64.5t/s
Tokens/sec (p50)
·
100% pass
·
↑ 0%
6 ok
·
0 failed
Single-Turn Function Calling
BFCL · Berkeley Function Calling Leaderboard · v1.0.0
Ruft das Modell die richtige Funktion mit den richtigen Argumenten auf?
—
0 ok
·
0 failed
›
Live-View
läuft
beendet
Heartbeat
kein Heartbeat
elapsed
Cancel angefordert
/
(%)
/
· err
Keine Sub-Benchmarks erfasst.
Noch keine Events.
Run beendet. Scrolle nach unten zur KI-Auswertung oder lade den vollständigen Event-Verlauf.
KI-Bewertung
KI-Bewertung wird im Hintergrund erstellt — Seite in ~30 s neu laden.
Stärken & Schwächen
Auf Basis der Pass-Raten dieses RunsStärken
Keine Sub-Benchmarks im "good"-Bereich.
Schwächen
Keine Sub-Benchmarks im "poor"-Bereich.
Telemetrie
GPU-Auslastung (%)
VRAM (MB)
Snapshots
›
Konfiguration
{
"name": "BFCL - Short",
"provider_id": null,
"model_id": null,
"benchmarks": [
{
"adapter_key": "baseline",
"sub_benchmarks": [
"cold_start",
"throughput",
"sanity"
],
"threshold_override": null
},
{
"adapter_key": "bfcl",
"sub_benchmarks": [
"single_turn"
],
"threshold_override": null,
"params": {
"bfcl_preset": "quick"
}
}
],
"tags": [],
"notes": null,
"model": {
"base_name": "qwen3:14b",
"quantization": "unknown",
"format": "gguf",
"source_url": null,
"build_notes": "selbst kompiliertes llmama mit TurboQuant3 für Gewichte",
"checksum": null
}
}
›
Provider
{
"name": "liteLLM",
"type": "litellm-bridge",
"endpoint_url": "http://100.64.0.4:4000/",
"api_key_env_var": null,
"sampling_params": [],
"provider_specific": [],
"telemetry_sample_interval_ms": 1000
}
›
Hardware
[
{
"name": "kim",
"hostname": "100.64.0.4",
"gpu_description": "RTX 5080 16GB",
"cpu": "Ryzen 9800 X3D",
"ram": "64GB DDR5",
"storage": "1TB+4TB SSD",
"network": null,
"notes": null
}
]
›
System
{
"php_version": "8.4.21",
"os": "Linux",
"os_release": "6.8.0-111-generic",
"symfony_version": "7.4.10",
"provider_version_hint": null,
"recorded_at": "2026-05-11T11:28:59+02:00"
}
Log-Verzeichnis
/home/webuser/htdocs/llmbench.mandarin.dev/dev/app/var/logs/runs/45