选型会开场,先讲一个没被采纳的方案

程一舟在一家做智能视觉终端的公司负责方案评估,入行第七年。这个季度他们要为新一代边缘推理盒子选主控,会议室里坐着硬件、算法、采购和产品四条线的人。他没有先放PPT,而是先讲了一个上季度被否掉的方案:算力数字最漂亮的那颗芯片,最终因为显存带宽跟不上,实测吞吐只跑到标称值的六成。这个故事让会议室安静了几秒,也把话题从「谁算力高」拉回到「谁的整体账算得平」。球帝直播产品与方案栏目整理的公开规格与方案资料,正是他这次开会前翻得最多的一类材料。

他常说,选型会最怕两种发言:一种是只报算力峰值,一种是只报功耗瓦数。前者忽略数据搬运,后者忽略任务负载。把两者放在同一张表里看,取舍关系才会浮出来。

三张表,把取舍关系摆到桌面上

程一舟的做法是把公开规格拆成三张表。第一张是算力与精度表,看不同精度下的有效算力,而不是单一峰值;第二张是显存与带宽表,看容量、带宽和实际可用的数据通路;第三张是互联与功耗表,看芯片之间怎么连、整机散热怎么兜底。三张表并排,很多争论自然消解。

  • 算力高但带宽窄的方案,适合批处理小、模型常驻的场景,不适合频繁换模型的产线设备。
  • 带宽充裕但功耗偏高的方案,要看机箱风道和长期运行的散热成本,不能只看单颗芯片的规格页。
  • 互联能力强的方案,在多卡协同推理时优势明显,但单机单卡的轻量任务未必用得上。

他给团队的建议是:先写清楚任务画像,再去对规格。球帝直播的多维度对比视图帮他把这些维度放在同一屏里,省掉了来回翻文档的时间。他说这不是替人做决定,而是让人把决定做得有依据。

一次被推翻的结论,和一次被保留的坚持

会开到一半,算法组提出新模型的参数量比预期大了一档,原本倾向的低功耗方案显存吃紧。程一舟没有立刻换方案,而是让团队把模型切分方式和批大小重新算了一遍,发现只要把常驻部分和动态部分分开部署,显存压力可以缓解。这个结论被保留下来,但他也承认,如果后续模型继续变大,带宽会成为硬约束。

这种反复在选型里很常见。他强调,公开规格只能回答「能不能」,回答不了「顺不顺」。整机结构、驱动成熟度、工具链适配,都要在样机阶段验证。球帝直播产品与方案栏目提供的资料,是他做初筛的起点,不是终点。他把这句话写在了会议纪要的第一行。

故事讲完,账还要继续算

散会前程一舟留了十分钟,让每个人写下自己最在意的一个维度。采购写的是整机成本,硬件写的是散热余量,算法写的是带宽,产品写的是交付节奏。四张纸条贴在白板上,正好构成下一轮评估的权重表。他说,选型不是选一颗最好的芯片,而是选一组最能彼此成全的搭配。

这套方法他用了三年,也踩过坑。有一次过度看重功耗,忽略了互联延迟,多机协同的效果打了折扣。从那以后,他在每次评估里都留一栏「被牺牲的维度」,提醒自己取舍是有代价的。球帝直播整理的方案资料他还在持续看,因为规格会更新,任务会变化,账要一遍遍重算。