几何推理
Geometric Reasoning

原始链接: https://sophontic.ai/

方法论:我们通过翻转率(flip rate)来衡量推理能力,这是一种配对测试,旨在排除大多数模型用于投机取巧通过传统评估的表面特征启发式方法。测量的单位是配对项,而非单项。是推理,而非记忆。查看评估工具包 →

抱歉。
相关文章

原文

Methodology

We measure reasoning by flip rate — a paired-item test that precludes the surface-feature heuristics most models use to game conventional evaluations. The pair is the unit of measurement, not the item. Reasoning, not recall.

Inspect the eval kit
联系我们 contact @ memedata.com