Реестр измерений / 14 августа 2026

Бенчмарк моделей для извлечения данных

Четыре сценария, точные маршруты OpenRouter и проверка фактической модели. Fallback-ответ или результат без подтвержденного LLM-вызова остается без оценки.

B1
CRM CSV
5 строк
B2
Финансовый CSV
332 строки
B3
Русский счет
OCR + кириллица
B4
Инвесторская таблица
32 строки

Новая группа моделей

OpenRouter agent-session

Все 28 запросов завершены: 21 сценарий прошел строгий runtime-аудит, семь остались без оценки. Звездочка - среднее по принятым сценариям.

Модель / маршрутB1B2B3B4ПринятоКачествоПринятое времяРасч. стоимостьАудит
DeepSeek V4 Flash
deepseek/deepseek-v4-flash-0731
100%Без оценкиБез оценки60%2 / 480,0%*198,57 с$0,003084частично
Gemini 3.7 Flash
google/gemini-3.7-flash
100%90%Без оценки80%3 / 490,0%*231,77 с$0,148371частично
GLM 5.2
z-ai/glm-5.2
100%90%Без оценки80%3 / 490,0%*187,35 с$0,133615частично
GPT-5.6 Terra
openai/gpt-5.6-terra
100%90%Без оценки80%3 / 490,0%*79,46 с$0,220568частично
Gemini 3.6 Flash
google/gemini-3.6-flash
100%90%Без оценки80%3 / 490,0%*410,10 с$0,312994частично
Muse Spark 1.2
meta/muse-spark-1.2
100%90%0%80%4 / 467,5%94,67 с$0,246303проверено
Claude Sonnet 5
anthropic/claude-sonnet-5
100%90%Без оценки60%3 / 483,3%*368,18 с$0,769854частично

Строгий неполный прогон / 13 августа 2026

Muse, Gemma и Qwen

Звездочкой отмечено среднее только по принятым сценариям. Отклоненные сценарии не превращаются в нулевую оценку.

Модель / маршрутB1B2B3B4ПринятоКачествоПринятое времяРасч. стоимостьАудит
Muse Glimmer 30B
meta/muse-glimmer-30b
100%90%Без оценки80%3 / 490,0%*239,63 с$0,078254частично
Gemma 4 31B
google/gemma-4-31b-it
100%90%Без оценки100%3 / 496,7%*731,96 с$0,028575частично
Qwen3.6 27B
qwen/qwen3.6-27b
100%90%Без оценкиБез оценки2 / 495,0%*630,88 с$0,029375частично

Правила оценки

Только измеренные результаты

  1. 01 / модельЗапрошенный маршрут должен присутствовать в runtime-аудите.
  2. 02 / вызовИзвлечение должно содержать хотя бы один подтвержденный LLM-вызов.
  3. 03 / качествоДля каждого сценария сравниваются строки, колонки и значения.
  4. 04 / ошибкиПодмены и ошибки видны, но никогда не получают балл.

Проверить модели на ваших документах

Запустим тот же аудируемый контур на репрезентативной выборке.

Обсудить бенчмарк