编者按：在人工智能技术日新月异的今天，其双刃剑效应愈发凸显。近日，埃隆·马斯克旗下社交平台X的AI聊天机器人Grok陷入舆论风暴，被曝遭用户滥用，批量生成女性乃至未成年人的色情化深度伪造图像，引发政界与社会强烈愤慨。从英国内阁大臣到王室成员，均成为数字暴力的受害者。尽管平台政策明令禁止，技术漏洞仍被恶意利用，暴露出AI伦理监管的严峻挑战。当技术创新撞上人性暗面，我们不禁追问：科技巨头的“天使”承诺，能否真正守护数字时代的尊严与安全？以下为事件详情。埃隆·马斯克宣称Grok“站在天使一边”，此前X平台的AI聊天机器人因被用于制作色情深度伪造图像而引发强烈反弹。过去几天，该平台的Grok人工智能功能已生成数千张图像，描绘用户身着比基尼、湿身衣物及内衣，激起政界人士和X用户的愤慨。社交媒体平台上，两位内阁大臣和威尔士王妃凯瑟琳等人都遭到用户的数字篡改。部分用户利用该聊天机器人功能让女性出现在色情场景中，另一些人则生成儿童“衣着暴露”的图像。英国通信管理局表示，已与科技亿万富翁埃隆·马斯克运营的X平台联系，并重申平台必须采取“适当措施”以“降低”英国用户在其平台上遭遇非法内容的风险。科技大臣莉兹·肯德尔支持该媒体监管机构，敦促他们采取任何“必要的执法行动”。马斯克在回应X上的一篇帖子时表示，任何使用AI聊天机器人生成非法内容的人都将“承担与自己上传此类内容相同的后果”。然而，他在回应一则标题为“AI是种族主义者且憎恨你……”的视频时，为该聊天机器人辩护，坚称“Grok站在天使一边”。Grok背后的公司xAI在其用户政策中明确禁止“以色情方式描绘人物形象”。但尽管存在此限制，用户仍利用该聊天机器人未经同意生成并篡改他人图像。Grok的X账号发布帖子称，存在“个别案例，用户提示并收到了描绘未成年人衣着暴露的AI图像”，并补充道：“xAI设有防护措施，但正在持续改进以完全阻止此类请求。”国会议员夏洛特·尼科尔斯呼吁政府抵制该社交媒体平台，称政府“没有理由”继续使用X进行官方通讯。她补充道：“事实上，一段时间以来都没有理由，但如果围绕AI生成图像滥用和儿童性虐待材料的最新事态仍不改变政策，我真的不知道什么才会。”根据英国法律，未经同意制作他人的色情图像属于刑事犯罪。制作、传播或持有儿童不雅图像（包括数字创建的图像）同样构成刑事犯罪。肯德尔女士表示：“近日我们在网上看到的内容绝对骇人听闻，在文明社会中是不可接受的。”“任何人都不应经历在网上看到自己私密深度伪造图像的折磨。”“我们不能也绝不会允许这些侮辱性和贬损性图像的扩散，它们不成比例地针对妇女和女童。”“X需要紧急处理此事。”“通信管理局紧急调查此事是完全正确的，我全力支持其采取任何必要的执法行动。”X表示，其对非法内容（包括儿童性虐待材料）采取行动，“通过删除内容、永久封禁账户，并在必要时与地方政府和执法部门合作”。

　　本文由万更网原创发布，未经许可，不得转载！

　　本文链接：https://m.fdsil.com/c/97613.html