⁣
📰 创业江苏│6瓦，让大模型走下云端，走进普通人的“口袋”_中国江苏网

南京迈特芯科技在第十四届“创业江苏”科技创业大赛晋级，展示了其在端侧大模型领域的关键创新。公司通过将存储模块层叠在芯片之上，将数据搬运距离从厘米级缩短到微米级，显著降低功耗至约6瓦，并提升生成速度，达到每秒80-100个词。该方案解决了云端算力向终端迁移中的“功耗墙”和数据带宽瓶颈问题，使得大模型能够在手机、平板、可穿戴设备等端侧设备上高效运行。这背后源自创始人余浩在三维集成电路方向的长期研究及对端侧大模型需求的洞察。迈特芯自主掌握核心环节，研发重点放在三维芯片验证、试产及国产化应用场景，致力于为社会普惠的AI服务提供硬件基础。未来计划包含年底样片、量产及迭代升级，目标是在平板、电脑、具身机器人等终端实现100%国产化的AI+终端生态，推动AI成为公共设施。该项目的意义不仅在商业，更在于探索AI为谁服务、如何让顶级智能成为普及的公共资源。

🏷️ #端侧AI #三维芯片 #低功耗 #国产化 #大模型

🔗 原文链接