还记得那天接到一个朋友的请求：
“能不能在 3 天内搞个口语评测 API？要用在成人自考口语考试的客服系统里。”
听完我直接愣住了。72 小时？评测口语？还得能抗并发？——这基本等于一场「硬核黑客马拉松」。
不过作为一个独立开发者，挑战才是最好的驱动力。于是我立刻搭起了项目框架，下面是我的完整踩坑日记。
1. 需求拆解：指标先行
客户的核心要求很清晰：
- 字错率 < 5%
- 延迟 < 800ms
- 命中率接近人工考官（96%）
光看这几条，就知道闭源 API 不现实。价格高不说，调优周期也卡死。于是我选择了 GPT-OSS 开源权重，完全可控，而且能自己调。
2. 数据准备：手动搬砖
数据集不多，只有 1000 条自考口语录音，还得配上人工标注。
为了保证准确率，我做了：
- 去噪 & 音频裁剪
- 拼接成标准训练集
- 切分成训练 / 验证集
那一晚，我和语音波形图形影不离。
3. 模型微调：LoRA + Adapter
直接调大模型效率太低，于是上 LoRA。
写了个微调脚本，大概像这样：
from peft import LoraConfig, get_peft_model
config = LoraConfig(
r=8,
lora_alpha=32,
target_modules=["q_proj", "v_proj"],
lora_dropout=0.1,
bias="none",
)
model = get_peft_model(base_model, config)
几轮跑下来，loss 曲线肉眼可见地下滑。
4. API 部署：FastAPI + uvicorn
部署时我踩过一个大坑：并发量上来以后，延迟突然飙升。
最后我加了：
- 多进程 worker
- 缓存短时结果
- 异步调用优化
效果不错，延迟稳定在 600–700ms。
5. 压测 & 调优
用 locust 压了几轮，1k 并发下依然能 hold 住。日志里记录了错配案例，进一步调优权重。
6. 成果展示
- 72 小时完成上线
- 口语评分稳定输出
- 命中率达到 96%
- 成本：几乎为 0（开源权重 + 自己服务器）
当我看到第一条真实考生的录音结果被秒级评分出来时，那一刻真的有点小激动。
7. 一点思考
做完这个项目，我更确信了一件事：
独立开发者完全可以用开源方案快速解决实际需求。
关键在于：拆解需求 → 找准工具 → 快速验证。
结语
这次踩坑日记我整理了完整代码和部署脚本，都放在我的官网里了 👉 点这里直达
如果你也在做教育相关的 AI 项目，或想用 GPT-OSS 搭建自己的 API，欢迎去看看，或在评论区一起讨论。
