5 万亿参数意味着什么
8月6日消息,字节跳动正在讨论训练参数规模超 5 万亿的 AI 大模型,这刷新了国内已知的模型参数上限。作为对比,当前主流大模型的参数通常在千亿级别(如 GPT-4 约 1.8 万亿),5 万亿参数意味着模型规模将提升一个数量级。
张一鸣的内部定调
字节跳动创始人张一鸣在内部会议表态,反对靠蒸馏他人模型换取短期榜单排名,愿为长期目标牺牲部分短期收益。Seed 团队已通过 API 检测等手段严禁蒸馏开源模型。
内部文件显示,公司高层反对依赖模型蒸馏技术,希望从更底层维度构建 AGI 壁垒。Seed 团队正在取消内部赛马机制,收拢研发资源。新模型由 Seed Foundation 负责人项亮主导,计划处于早期阶段。
行业背景
过去几个月,中国大模型领域出现「八周五连发」的密集输出:阿里 Qwen3.8-Max、月之暗面 Kimi K3、DeepSeek-V4-Flash、智谱 GLM-5.2、字节 Seedance 2.5 五款重磅模型接连亮相。但字节显然不满足于当前的竞争位置,选择押注更大规模的底层模型。