📰 信息化观察网 - 引领行业变革
本次大会以“数智新范式政务新生态”为主题，聚焦AI赋能政务治理与行业数智化转型，分享了交通政务场景中大模型应用面临的非传统安全隐忧。黄莉莉指出，AI正以深度和广度渗透交通领域，逐步从“参考信息”向“决策参考”演进，但随之而来的内容与认知风险、数据滥用、模型可控性等问题，成为传统防护体系的盲区。大模型输出的真实性、海量数据的合规性、以及黑箱性导致的可控性挑战，均可能引发误导、决策失误甚至社会认知混乱。为提升治理能力，她提出“12345安全治理体系”，强调数据治理、模型治理、应用治理三位一体：通过干净、合规的数据源头治理；让模型“能说话，也会闭嘴”的对齐与约束；以及在具体应用中实行分级场景、人机协同与输出校验，形成AI辅助决策、最终由人类拍板的安全模式。尽管大模型赋能交通政务是大势，只有正视并系统治理非传统安全隐忧，才能确保AI在数字政府与智慧交通中的安全、可靠应用。
🏷️ #数字政府 #AI安全 #大模型 #交通政务 #治理体系
🔗 原文链接
📰 信息化观察网 - 引领行业变革
本次大会以“数智新范式政务新生态”为主题，聚焦AI赋能政务治理与行业数智化转型，分享了交通政务场景中大模型应用面临的非传统安全隐忧。黄莉莉指出，AI正以深度和广度渗透交通领域，逐步从“参考信息”向“决策参考”演进，但随之而来的内容与认知风险、数据滥用、模型可控性等问题，成为传统防护体系的盲区。大模型输出的真实性、海量数据的合规性、以及黑箱性导致的可控性挑战，均可能引发误导、决策失误甚至社会认知混乱。为提升治理能力，她提出“12345安全治理体系”，强调数据治理、模型治理、应用治理三位一体：通过干净、合规的数据源头治理；让模型“能说话，也会闭嘴”的对齐与约束；以及在具体应用中实行分级场景、人机协同与输出校验，形成AI辅助决策、最终由人类拍板的安全模式。尽管大模型赋能交通政务是大势，只有正视并系统治理非传统安全隐忧，才能确保AI在数字政府与智慧交通中的安全、可靠应用。
🏷️ #数字政府 #AI安全 #大模型 #交通政务 #治理体系
🔗 原文链接
