AIME-2025#

概述#

AIME 2025(2025年美国数学邀请赛)是一个基于著名AIME竞赛题目的基准测试。AIME是美国最具挑战性的高中数学竞赛之一,该基准测试旨在评估高级数学推理与问题解决能力。

任务描述#

  • 任务类型:竞赛数学问题求解

  • 输入:AIME级别的数学问题

  • 输出:整数答案(0–999),附带逐步推理过程

  • 难度:高级高中 / 大学低年级水平

主要特点#

  • 题目来自2025年AIME I和AIME II竞赛

  • 答案始终为0到999之间的整数

  • 要求具备创造性的数学推理与解题能力

  • 涉及主题:代数、几何、数论、组合数学、概率

  • 代表顶尖高中数学竞赛的难度水平

评估说明#

  • 默认配置采用 0-shot 评估方式

  • 答案需用 \boxed{} 格式包裹以便正确提取

  • 使用LLM-as-judge进行数学等价性检查

  • 子集:AIME2025-I、AIME2025-II

属性#

属性

基准测试名称

aime25

数据集ID

opencompass/AIME2025

论文

N/A

标签

Math, Reasoning

指标

acc

默认示例数量

0-shot

评估划分

test

数据统计#

指标

总样本数

30

提示词长度(平均)

491.07 字符

提示词长度(最小/最大)

212 / 1119 字符

各子集统计数据:

子集

样本数

提示平均长度

提示最小长度

提示最大长度

AIME2025-I

15

476.07

212

768

AIME2025-II

15

506.07

234

1119

样例示例#

子集: AIME2025-I

{
  "input": [
    {
      "id": "99875e2d",
      "content": "\nSolve the following math problem step by step. Put your answer inside \\boxed{}.\n\nFind the sum of all integer bases $b>9$ for which $17_{b}$ is a divisor of $97_{b}$.\n\nRemember to put your answer inside \\boxed{}."
    }
  ],
  "target": "70",
  "id": 0,
  "group_id": 0
}

提示模板#

提示模板:

Solve the following math problem step by step. Put your answer inside \boxed{{}}.

{question}

Remember to put your answer inside \boxed{{}}.

使用方法#

通过命令行(CLI)#

evalscope eval \
    --model YOUR_MODEL \
    --api-url OPENAI_API_COMPAT_URL \
    --api-key EMPTY_TOKEN \
    --datasets aime25 \
    --limit 10  # 正式评估时请删除此行

通过Python#

from evalscope import run_task
from evalscope.config import TaskConfig

task_cfg = TaskConfig(
    model='YOUR_MODEL',
    api_url='OPENAI_API_COMPAT_URL',
    api_key='EMPTY_TOKEN',
    datasets=['aime25'],
    dataset_args={
        'aime25': {
            # subset_list: ['AIME2025-I', 'AIME2025-II']  # 可选,用于评估特定子集
        }
    },
    limit=10,  # 正式评估时请删除此行
)

run_task(task_cfg=task_cfg)