📰 当AI成为“数字同事”，企业如何给它立规矩？ 温州业界研讨智能体应用安全
随着AI在企业中的应用日益深入，AI不再局限于回答问题，而是能够代员工发邮件、调取数据、执行任务，甚至操作业务系统。这也带来新的风险与责任问题：AI若看到超出授权的数据、执行错误任务，谁来承担责任？研讨会聚焦如何既让AI高效工作，又确保安全合规。专家指出，核心在于明确AI身份、限定数据与操作权限、留存完整可追溯记录，并在涉及付款、合同、客户隐私等重要环节保留人工确认，避免将决定权完全交给机器。讨论还涉及数据保护、操作留痕、外部服务风险及在效率与安全之间的平衡。总体共识是权限要足够、关键操作需人工确认、执行过程可追溯，异常情况应能及时停止。温州AI协会将整理会议共识，形成本地化的AI应用安全要点，帮助企业从尝试使用走向规范使用。未来企业在订单、客服、财务、生产等环节管理AI，需像管理员工一样进行边界设定与可控释放，以实现可持续的AI应用。
🏷️ #AI安全 #权限治理 #数据保护 #可追溯 #企业应用
🔗 原文链接
📰 当AI成为“数字同事”，企业如何给它立规矩？ 温州业界研讨智能体应用安全
随着AI在企业中的应用日益深入，AI不再局限于回答问题，而是能够代员工发邮件、调取数据、执行任务，甚至操作业务系统。这也带来新的风险与责任问题：AI若看到超出授权的数据、执行错误任务，谁来承担责任？研讨会聚焦如何既让AI高效工作，又确保安全合规。专家指出，核心在于明确AI身份、限定数据与操作权限、留存完整可追溯记录，并在涉及付款、合同、客户隐私等重要环节保留人工确认，避免将决定权完全交给机器。讨论还涉及数据保护、操作留痕、外部服务风险及在效率与安全之间的平衡。总体共识是权限要足够、关键操作需人工确认、执行过程可追溯，异常情况应能及时停止。温州AI协会将整理会议共识，形成本地化的AI应用安全要点，帮助企业从尝试使用走向规范使用。未来企业在订单、客服、财务、生产等环节管理AI，需像管理员工一样进行边界设定与可控释放，以实现可持续的AI应用。
🏷️ #AI安全 #权限治理 #数据保护 #可追溯 #企业应用
🔗 原文链接
