一文讲透模型量化(大白话版)
昨天讲的MoE,可以让模型每次只用一小部分参数,算得更少、更快。但它省不了内存,所有参数还是得一直装着待命。量化,就是专门用来省内存的办法。
AIAI基础知识AI模型GPU谷歌
围绕 AI 工作流、Agent 设计和内容系统的每日更新。
昨天讲的MoE,可以让模型每次只用一小部分参数,算得更少、更快。但它省不了内存,所有参数还是得一直装着待命。量化,就是专门用来省内存的办法。
去年 3 月,日课聊过 MoE,也就是专家混合架构。一年多过去,很多人还是不太清楚它到底是怎么回事,今天换个角度,重新讲一遍。
今年WAIC有1100多家企业、3000多项展品、300多款全球首发。数量确实很大,但我更想提醒大家盯住四个变化,它们更能说明AI产业正在往哪里走。
淘金热里最稳赚的人不是淘金的,是卖铲子的。这句老话在2026年又应验了一次。但这次卖铲子的主角换了——从英伟达变成了存储,甚至更上游。