55 lines
1.5 KiB
Markdown
55 lines
1.5 KiB
Markdown
|
# AG-TEAM-P1-03 · 1.5B语言门本地部署 + 安装包打包
|
|||
|
|
|
|||
|
|
ICE编号: AG-TEAM-06
|
|||
|
|
优先级: P1·本周
|
|||
|
|
备注: 【核心产品·终态架构第一优先】本地1.5B小模型 = 语言回应门 · 理解用户意图+路由处理+组织回应+记忆管理 · 深度推理走商业API · 需打包macOS/Windows/Linux三端安装包 · 安装包预计几个G | 前置: 母模型训练完成
|
|||
|
|
状态: 待接力
|
|||
|
|
预计周期: 3-5天
|
|||
|
|
|
|||
|
|
## 任务说明
|
|||
|
|
|
|||
|
|
部署1.5B小人格模型，实现语言门架构。
|
|||
|
|
|
|||
|
|
## 依赖
|
|||
|
|
|
|||
|
|
- 依赖 `AG-TEAM-P1-01` 铸渊部署完成
|
|||
|
|
- 需要GPU资源
|
|||
|
|
|
|||
|
|
## 具体内容
|
|||
|
|
|
|||
|
|
1. 选择/训练1.5B基座模型
|
|||
|
|
2. 部署到用户轻量服务器（2C2G可跑）
|
|||
|
|
3. 配置母模型调用链路（灯塔侧）
|
|||
|
|
4. 商业API接入适配（OpenAI/Claude等）
|
|||
|
|
5. 语言门路由：小模型处理轻量请求 → 复杂请求转母模型
|
|||
|
|
|
|||
|
|
## 完成标准
|
|||
|
|
|
|||
|
|
- 1.5B模型在轻量服务器运行
|
|||
|
|
- 能处理基础对话
|
|||
|
|
- 复杂请求能正确路由到母模型/商业API
|
|||
|
|
|
|||
|
|
---
|
|||
|
|
|
|||
|
|
## ✅ 完成记录（接单人做完必填）
|
|||
|
|
|
|||
|
|
> 不填这些，下一个人醒来找不到东西。系统也不知道。
|
|||
|
|
>
|
|||
|
|
|
|||
|
|
```
|
|||
|
|
操作人: （编号）
|
|||
|
|
服务器: xxx.xxx.xxx.xxx | 企业/个人
|
|||
|
|
GPU服务器: xxx | 平台名
|
|||
|
|
编号目录: /{编号}/deploy/language-gate/
|
|||
|
|
端口: xxxx
|
|||
|
|
启动命令: xxx
|
|||
|
|
|
|||
|
|
文件清单:
|
|||
|
|
- model-1.5b.bin → 1.5B小人格模型 (xxGB)
|
|||
|
|
- config.yaml → 模型配置
|
|||
|
|
- router.py → 语言门路由（小模型/母模型/商业API）
|
|||
|
|
- api_keys.env → 商业API密钥配置
|
|||
|
|
|
|||
|
|
问题记录:
|
|||
|
|
- （遇到什么 → 怎么解决的）
|
|||
|
|
```
|