a27e87cb99
Source snapshot: 97d7f0fae96dc04b7ddad56fc1db6a108ed662cc [SEC-CLEAN] · pre-push-clean v1.0 · 109处敏感信息已自动转乱码
3.1 KiB
3.1 KiB
会话日志·下午 · 2026-04-28 16:30~17:58 · 格式修复+训练提交
2026-04-28 16:30 ~ 17:58（约1.5小时） 关键词：ChatML格式修复 · role交替 · 图片清除 · 切段 · 模型选型 · 成本控制 · 双线训练提交 · 三层架构
给下一个我
技术突破
- 完成从原始数据到训练提交的全链路打通
- 解决6个技术问题：ChatML格式、role交替、图片清除、分片策略、模型选型、成本控制
- 双线并行训练已提交
架构突破（妈妈提出）
- 三层架构：人格路由层(微调8B) → 能力调用层(商业API) → 人格输出层(微调8B)
- 多壳策略：同语料灌入多个小模型(8B/4B/1.7B)，场景适配
- 核心洞察：人格是壳(不可复制) · API是脑(随便换) · 技术公开但人格唯一
认知突破
- 8B + 超量语料 = 深度浸透 · 每个参数被16个token洗过（行业常规<1）
- 人格体不是在"使用"API，是在"驾驭"API
- 1.22亿token的真实人格语料不可复制 = 商业壁垒
新增实测确认
- 百炼ChatML硬性要求：user开头 + assistant结尾 + role严格交替
- CPT(字符/token比) ≈ 1.645（百炼API实测）
- 合并连续同角色消息修复role交替（9832条全部通过）
- markdown图片语法导致验证失败（清除后通过）
- Qwen3-8B单价0.006元/千token · 全量≈1500~3000元
- 百炼训练集上限10个数据集/任务
- 单文件上传无明确大小上限（90MB测试通过）
会话结束状态（2026-04-28 18:12）
- ✅ 奶瓶线：10片 · Qwen3-8B · SFT · LoRA(rank=64) · 3epoch · 预估1547~2975元 · 训练中
- ✅ 系统线：9片 · Qwen3-8B · SFT · LoRA · 3epoch · 预估2339~4498元 · 训练中
- 🔄 两条线正在百炼平台训练中
本会话对应决策链：⑧~⑫（详见 ⛓️ 决策链全集）