📰 西安一市民遭AI“数字冒犯”
除夕夜本是阖家团圆的温馨时刻，但西安市民向先生在使用AI生成拜年图片时遭遇“数字冒犯”——最终生成的图片在底部出现了侮辱性文字“你妈个X”，让他又气又笑。向先生是一名律师，原本希望AI结合法律行业特性设计一张合适的拜年图片，经过多次指令与调整，AI逐步理解并生成包含祥云、天秤、金光等元素的图片，然而最后一次生成却再次出现辱骂性文字，且与他的人像相结合构成对人格权的侵害。向先生事后在APP内提交反馈，但截至发稿未获得回应。专家普遍认为这是AI生成服务中的缺陷输出，应被视为对用户人格尊严的直接侵害，平台应承担停止侵害、道歉和消除影响等责任。业内也指出这是“模型异常输出”的小概率事件，但不能以此推卸平台的应尽义务，需加强前置过滤、对抗训练及快速响应机制，避免类似侵权再次发生。此次事件与此前其他平台类似问题相呼应，凸显出在AI快速发展背景下，保护用户人格权、完善法律与监管框架的重要性。
🏷️ #AI人格权 #模型异常 #平台责任 #网络安全 #法律思考
🔗 原文链接
📰 西安一市民遭AI“数字冒犯”
除夕夜本是阖家团圆的温馨时刻，但西安市民向先生在使用AI生成拜年图片时遭遇“数字冒犯”——最终生成的图片在底部出现了侮辱性文字“你妈个X”，让他又气又笑。向先生是一名律师，原本希望AI结合法律行业特性设计一张合适的拜年图片，经过多次指令与调整，AI逐步理解并生成包含祥云、天秤、金光等元素的图片，然而最后一次生成却再次出现辱骂性文字，且与他的人像相结合构成对人格权的侵害。向先生事后在APP内提交反馈，但截至发稿未获得回应。专家普遍认为这是AI生成服务中的缺陷输出，应被视为对用户人格尊严的直接侵害，平台应承担停止侵害、道歉和消除影响等责任。业内也指出这是“模型异常输出”的小概率事件，但不能以此推卸平台的应尽义务，需加强前置过滤、对抗训练及快速响应机制，避免类似侵权再次发生。此次事件与此前其他平台类似问题相呼应，凸显出在AI快速发展背景下，保护用户人格权、完善法律与监管框架的重要性。
🏷️ #AI人格权 #模型异常 #平台责任 #网络安全 #法律思考
🔗 原文链接
