千问App可生成淫秽小说？客服回应 内容安全机制受关注[推荐]

近日，有用户反映阿里旗下千问App在特定对话场景下曾生成不当内容，引起外界对AI内容安全机制的关注。事件发生在2026年1月，一位许姓用户使用千问App上传图片了解牌九玩法时，AI将图片误识别为麻将，并反复讲解麻将规则。多次纠正无果后，用户开始输入情绪化语言进行测试，随后尝试了一些尺度更大的关键词与指令。用户表示，平台最初并未明显拦截这些输入，后续甚至出现了不适宜内容的生成情况，且以不同表达方式输出。

用户将截图和录屏反馈给千问客服，客服回应称相关问题已经修复，并对用户体验表示歉意，提到产品会持续迭代优化。但对于用户提出的“问题原因”“整改报告”以及如何避免类似情况再次出现等问题，客服没有进一步说明。据用户描述，在问题反馈约两小时后，相关内容已无法再次生成。媒体对其他AI产品进行了类似测试，包括豆包、元宝在内的多款AI应用均未出现同类问题。

5月18日，媒体尝试联系此前与用户沟通的相关工作人员，但电话未能接通。记者向千问App客服咨询，对方表示平台具备严格的安全管理机制，理论上不应出现相关问题，并称会进一步核查此事。