Skip to content

客观题套卷出题与导入指南 ​

在 AI 领域的能力测评与竞赛(如 IOAI 笔试、LMCC 理论认证)中,概念辨析、模型架构原理、量化微调技术与工程常识等理论知识主要通过客观题型考查。

Neuro OJ 支持高效的客观题套卷体系(is_objective = true)。客观题由服务端内核执行内存级即时判定,不启动 Docker 双容器沙箱,具有并发吞吐量极高、毫秒级判分的特性。出题人可以通过 Web 可视化编辑器 或 ZIP 题目包自动化导入 两种方式制作套卷。


试卷结构与支持题型 ​

套卷由一组按序排列的小题组成,系统原生支持以下三种题型:

题型标识说明标准答案格式判分规则
single单项选择题单个选项键名,如 "A"提交值与答案完全一致得分,否则 0 分
multiple多项选择题选项键名列表,如 ["A", "C"]集合严格全等判定。必须完全命中所有正确项且不含任何多选或漏选(无部分分)
judge判断题布尔值 true 或 false与预设布尔真值一致得分,否则 0 分

满分归一化计分 ​

整套试卷满分固定归一化为 100 分:

$$\text{卷面最终得分} = \left\lfloor \frac{\text{正确作答小题数}}{\text{试题总数}} \times 100 \right\rfloor$$

系统存储为精准整数分,避免由于浮点精度造成的跨环境比分偏差。


方式一:统一题目包 (ZIP) 批量导入(推荐) ​

对于题量较大、需版本控制或协同审校的套卷,推荐使用 ZIP 题目包离线维护并导入。

1. 题目包目录结构 ​

客观题题目包极其精简,无需准备 evaluator/ 代码或 runtime_config:

text
my-objective-exam.zip
├── problem.json        # 题目元数据与题型声明
├── statement.md        # 试卷总说明与考试规则
└── questions.json      # 试卷小题阵列定义(核心)

2. problem.json 声明 ​

在题目元数据中将 is_objective 设为 true:

json
{
  "title": "大模型理论与微调工程模拟测评",
  "type": "U",
  "is_objective": true
}

简化配置

当 is_objective: true 时,系统将自动忽略 time_limit、memory_limit 等沙箱资源参数,上传校验器也不会要求提供 evaluator 评测镜像。

3. statement.md 题面说明 ​

用于呈现整套试卷的顶层说明,支持标准 Markdown 与 LaTeX,例如:

markdown
# 大模型理论与微调工程模拟测评

本试卷共 20 题,涵盖 Transformer 结构、注意力机制计算、LoRA 原理与分布式训练。

- 考试时间:60 分钟
- 计分方式:每题均等分,满分 100 分
- 注意事项:多选题漏选或错选均不得分

4. questions.json 题库阵列规范 ​

questions.json 是一个 JSON 数组,每一项代表一个小题。题干和选项均原生支持 Markdown 格式与 LaTeX 科学公式:

json
[
  {
    "key": "q1",
    "type": "single",
    "title": "在标准 Transformer 架构中,自注意力机制(Self-Attention)的计算复杂度关于序列长度 $N$ 是:",
    "options": {
      "A": "$\\mathcal{O}(N)$",
      "B": "$\\mathcal{O}(N \\log N)$",
      "C": "$\\mathcal{O}(N^2)$",
      "D": "$\\mathcal{O}(N^3)$"
    },
    "answer": "C",
    "explanation": "标准 Dot-Product Attention 需要计算长度为 $N \\times N$ 的注意力矩阵,因此复杂度为二次方 $\\mathcal{O}(N^2)$。"
  },
  {
    "key": "q2",
    "type": "multiple",
    "title": "下列微调技术中,属于参数高效微调(PEFT)范畴的是:",
    "options": {
      "A": "LoRA (Low-Rank Adaptation)",
      "B": "全量参数微调 (Full Parameter Fine-Tuning)",
      "C": "Prefix-Tuning",
      "D": "QLoRA"
    },
    "answer": ["A", "C", "D"],
    "explanation": "全量参数微调更新所有模型权重,不属于参数高效微调(PEFT);A、C、D 均为经典 PEFT 方法。"
  },
  {
    "key": "q3",
    "type": "judge",
    "title": "FlashAttention 主要通过利用 GPU SRAM 的高速局部性与重计算,减少了对 HBM 的显存读写访问。",
    "answer": true,
    "explanation": "FlashAttention 核心优化是将注意力计算分块置于片上 SRAM 中,避免在昂贵的 HBM 间来回搬运中间注意力图。"
  }
]

字段约定说明 ​

  • key:题目的唯一英文标识符(字符串),用于客户端与判分引擎定位作答;
  • type:小题类型,严格限定为 "single"、"multiple" 或 "judge";
  • title:小题题干,支持富文本排版与公式;
  • options:选项字典(仅 single 与 multiple 必需),键名推荐大写字母 "A", "B", "C", "D";
  • answer:标准答案:
    • 单选:字符串(如 "A");
    • 多选:字符串数组(如 ["A", "C"],内部无序存储);
    • 判断:布尔值(true 或 false);
  • explanation(可选):试题详解,在符合揭榜条件时向作答者展示。

方式二:Web 题目编辑器可视化录入 ​

若不希望手动编写 JSON 文件,可直接在平台 Web 后台中可视化录入:

  1. 登录拥有出题权限的账号,进入后台「出题与题目管理」;
  2. 点击「创建题目」,在基础配置中勾选「客观题套卷」;
  3. 系统将自动隐藏沙箱环境与资源限制设置,展示客观题编辑卡片;
  4. 点击「添加小题」,选择题型后在表单中填写题干、选项与正确答案;题干、选项与解析 均支持 Markdown(含表格)与 LaTeX 公式(行内 $...$、独立行 $$...$$),表单下方会 实时显示与答题页一致的渲染预览;输入框随内容自动增高,⌘/Ctrl + Enter 保存, 「保存并继续添加」可连续录入;
    • 小题列表直接展示渲染后的题面,正确答案以绿色高亮,解析可折叠查看;
    • 点击某题的「编辑」会在该题原位置展开表单,有未保存修改时切换或离开页面会先确认;
    • 删除选项后其余选项自动按 A / B / C… 重新编号,已勾选的答案同步迁移;
  5. 点击页面底部「保存并发布」。

命题规范与质量红线 ​

强制红线:禁止关联算法标签

客观题考查的是知识体系与工程常识,系统强制校验并禁止为客观题绑定算法与数据结构标签(例如禁止打上 动态规划、二分查找、最短路、树状数组 等代码题标签)。

合规做法:为客观题关联通用领域与概念标签,例如 大模型理论、Transformer、PEFT、Prompt 工程、AI 伦理 等。

出题质量自查清单 ​

  • [ ] 选项唯一性:单选题确保只有一个无可争议的正确答案;多选题不存在歧义选项。
  • [ ] 选项数量规范:选择题建议统一设置 4 个选项(A/B/C/D),避免过多或过少。
  • [ ] 公式语法校验:在 Markdown 题干中使用的 LaTeX 公式语法正确,在前端能够正常被 KaTeX 渲染。
  • [ ] 解析完整性:建议为每道小题补充详尽的 explanation,帮助作答选手在复盘时巩固知识点。

防作弊机制:平时练习 vs 竞赛模式 ​

出题人在将客观题用于正式竞赛时,无需担忧答案泄露:

  • 平时练习模式:选手提交后立即获得分数、逐题对错与答案解析;
  • 正式竞赛模式:选手提交后,系统静默判定,回执中分数字段直接置为 null,绝不下发标准答案与解析;直到比赛时间完全截止,成绩与试题详解才会统一向选手开放。

详细机制与选手作答体验请参阅 客观题套卷功能指南。

Neuro OJ 是一个独立社区项目,与 CCF、LMCC、IOAI 及 NOAI 无官方关系。