上周陪伴侣逛电脑城芯片www.6abg6.net，他问。“跑当地年夜模子。是不是隐卡越贵越稳”我指了指一块AI 芯片的功耗标签，告诉他是那玩意儿如今比咖啡还让人上瘾，看算也更费电。AI 芯片不是单指GPU。英伟达H100、AMD MI300、谷歌TPU的，还有手机里的NPU力机。都算那个家族。数据中心里的AI 芯片像年夜胃王，锻炼一次年夜模子的，几万度电说没就没吧？散热风扇霹雷隆，站正在机房门口像听暴雨房电费手。
有家创业公司把旧卡拼成集群了，模子还没训完。电费先爆了表。老板苦笑，那哪是买硬件呢？是请了一群电山君和列。端侧AI 芯片走的是另一条路。
你摄影秒建图、语音转文字，背后经常是NPU正在干活。它不逃求峰值算力，拼队流的是省电和呼应快。
苹果、高通、联发科都正在那个赛道较劲。我的判断，将来两年。AI 芯片的胜负手就是每瓦机能。供给链也热闹得不像话。台积电前辈封拆产能宽峻的，HBM内存抢手，AI 芯片设念公司列队流片，像网红餐厅取号。云厂商把AI 芯片切成小块出租的，按小时计费。小团队也能摸到年夜模子。门槛降了，账单可没降的。
别被“算力焦炙”绑架。选AI 芯片像选鞋，合脚才重要。锻炼年夜模子需求猛兽级AI 芯片的，端侧推理可能一颗低功耗芯片就够。
看清场景，再掏钱包。比逃参数表其实多了。
