团队引入开源模型前,先过一张「许可 × 硬件 × 数据」清单
开源模型的 demo 很容易跑,真正拖慢落地的是三件不太性感的事:许可、硬件和数据。许可要看的不只是「是不是 Apache 2.0」,还要看权重、tokenizer、训练数据说明和商用限制;有的模型代码开源但权重是自定义许可,有的多语种小模型是 CC BY-NC,商用要单独确认。硬件要把「模型文件大小」和「实际显存」分开算:BF16 参数、KV cache、并发 batch、上下文长度都会叠加,33B 模型在长上下文下可能比标称多出几十 GB。数据要确认三件事:推理时数据是否出内网、日志是否会被厂商回收、微调数据里有没有客户隐私。把这三列写成一张表,每项给出「已确认 / 待确认 / 不满足」,比只看跑分更能决定能不能上线。