⁣
📰 讨论AI安全之前，先说清楚你相信什么样的AI

作者认为 AI 安全讨论的根本往往来自对 AI 本身认知的差异，而不是表面的技术细节。他把 AI 发展分为光谱两端：乐观者若相信 AGI/ASI 将在近期实现，应该放松并等待；悲观者若认为 AI 今日已经遇到瓶颈，应该抓紧创业。现实介于两端，关键在于个人所处的“光谱位置”以及讨论的具体对象。作者区分了两大世界：atom（物理世界）与 bit（数字世界）。他对 LLM 的判断是：基于 Transformer 的大语言模型不太可能直接达到 AGI，但在表示世界里具备强大能力，足以改变大量数字行业，尤其在代码、文档、知识管理等领域表现突出；物理世界的能力提升需要新的范式与跨越。数字世界的任务会先被高表示化的模型覆盖，企业部署则取决于成本、稳定性、私有化和可追溯性。安全领域的扩散呈分层特征：前沿能力集中在少数高能力主体，日常运营则由成熟、低成本的小模型覆盖。最终，未来 AI 安全治理应聚焦于具体任务的“够用线”何时跨越以及扩散速度，而不是单纯追求最强模型的潜力。

🏷️ #AI 安全 #LLM #AGI #数字世界 #物理世界

🔗 原文链接