容器启动必须显式设置MODEL_ID和EFFORT；API路径改为/v1/messages；健康检查需调用/v1/messages；须关闭本地缓存；MAX_CONTEXT_LENGTH需按显存调整。
☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜
容器启动时必须显式设置 MODEL_ID 和 EFFORT
不设 MODEL_ID 会导致容器启动后默认加载旧模型（如 claude-3-5-sonnet-20241022），哪怕镜像里打包的是 Fable 5.1。官方镜像不硬编码模型 ID，它依赖运行时注入。你得在 docker run 命令或 docker-compose.yml 中明确传入：MODEL_ID=claude-fable-5-1。
EFFORT 同样不能省——Fable 5.1 的 effort 参数关不掉，但默认值是 high，本地部署时容易把 GPU 显存打满、响应变慢。建议根据硬件能力设为 medium 或 low，尤其在 24GB 以下显存的卡上。这个值会直接影响推理 token 生成量和延迟，不是纯开关。
- 显存 ≤ 16GB：强制设
EFFORT=low，否则可能 OOM - 显存 24–32GB：
EFFORT=medium是较稳的平衡点 - 不设
EFFORT环境变量 → 容器日志里会报effort not specified, using default high，但不会中断启动
API 端点路径和健康检查要适配 Fable 5.1 的网关行为
Fable 5.1 容器默认暴露的 HTTP 路径不是 /v1/chat/completions，而是 /v1/messages。这是 Anthropic 官方 API 协议变更后的标准路径，旧版客户端直连会返回 404。如果你用 Nginx 反向代理或 Istio 流量管理，必须更新路由规则，否则所有请求都进不了业务层。
健康检查端点也变了：/health 返回的是容器存活状态，而真正的模型就绪检测要调 /v1/messages 发一个最小 payload（比如 {"model":"claude-fable-5-1","max_tokens":1}）并等待 200 响应。很多 K8s 的 livenessProbe 还在用旧路径，结果就是 Pod 一直 restart。
该技能指导用户根据设计灵感创建视觉情绪板。它提供分步说明，用于提取颜色、排版和UI模式，并将其组织成文档化的设计方向。工作流程包括根据用户反馈进行迭代优化，最终形成可供实施的设计系统。
- 错误写法：
curl http://localhost:8000/health→ 返回 200 不代表模型已加载 - 正确验证：
curl -X POST http://localhost:8000/v1/messages -H "Content-Type: application/json" -d '{"model":"claude-fable-5-1","max_tokens":1}' - K8s 中若用 readinessProbe，必须加
initialDelaySeconds: 120，因为 Fable 5.1 加载 1M 上下文权重需要更长预热时间
缓存配置必须关闭或显式降级，否则与 TaoToken / 自建网关冲突
Fable 5.1 容器内置了本地缓存模块，默认启用且 TTL 设为 300 秒（5 分钟）。但它和 TaoToken 或你自建的网关缓存是两套独立系统。如果同时开启，会出现「同一请求被缓存两次、计费翻倍」的问题——TaoToken 按 cache_read $0.25/MTok 计费，容器本地缓存又扣一次内存带宽，账单对不上。
官方推荐做法是：容器侧关本地缓存，由网关统一做缓存策略。关的方法是在启动参数里加 --disable-cache，或设环境变量 CACHE_ENABLED=false。注意不是删掉配置文件里的 cache section，Fable 5.1 的容器镜像会 fallback 到默认开启。
- 没关本地缓存 → 日志里高频出现
cache hit: key=xxx, size=yyy，但 TaoToken 控制台看不到对应缓存读取记录 - 关了之后，所有缓存逻辑交由 TaoToken 或你自己的 Redis 层处理，成本可准确归因
- 若坚持用本地缓存，请确保
CACHE_TTL_SECONDS≤ 60，避免和网关缓存 TTL 错位导致 stale read
GPU 显存分配和上下文长度必须联动调整
Fable 5.1 支持 1M token 上下文，但容器不会自动按需分配显存。它启动时就按最大理论值预占——如果你没限制，它会尝试申请接近 40GB 显存（即使只喂入 8K 输入）。这在多模型共用 GPU 的场景下极易引发资源争抢。
解决方法是通过 MAX_CONTEXT_LENGTH 环境变量显式约束。设成 MAX_CONTEXT_LENGTH=524288（512K），显存占用能降约 35%；设成 262144（256K），可压到 24GB 显存以内。这个值不是软限制，它会直接参与 KV Cache 的 buffer 预分配计算。
- 不设
MAX_CONTEXT_LENGTH→ 容器启动日志显示allocating KV cache for 1048576 tokens，显存爆满 - 设了但值 > 实际需求 → 浪费显存，无性能增益
- 设了但值 400 context_length_exceeded
MAX_CONTEXT_LENGTH 和 EFFORT 的组合效应：前者管显存底线，后者管 token 生成上限，两个一起飘，监控指标就全乱了。 
