# AutoDL 推理机 Python 依赖锁定 # Sovereign: TCS-0002∞ · 国作登字-2026-A-00037559 # 守护: 铸渊 · ICE-GL-ZY001 # # 设计理念 (cc-001 · cc-003): # - transformers >= 4.48.0 (训练栈用的就是这个版本, 推理保持一致) # - torch == 2.4.x (CUDA 12.1, 兼容 A100/4090/3090/A10/V100) # - 不锁死硬件相关版本 — bitsandbytes / vllm 由 setup-inference.sh # 按 .env.tune 决档动态装 torch>=2.6.0,<2.8.0 transformers>=4.48.0 accelerate>=0.34.0 safetensors>=0.4.5 # Web 服务 fastapi>=0.115.0 uvicorn[standard]>=0.32.0 sse-starlette>=2.1.3 # 工具 pydantic>=2.9.0 huggingface-hub>=0.26.0 sentencepiece>=0.2.0 protobuf>=4.25.8 einops>=0.8.0