nclick="xtip.photoApp('jzpic',{index:'1'})" data-xphoto="jzpic" src="http://www.wetsq.com/zb_users/upload/2026/01/72de835d0d0e.jpeg" title="Grok遭猛烈抨击：被指擅自处理未成年人照片引发争议 第1张" alt="Grok遭猛烈抨击：被指擅自处理未成年人照片引发争议 第1张">

　　【编者按】在人工智能技术日新月异的今天，其应用边界与伦理底线正面临前所未有的挑战。近日，由埃隆·马斯克旗下xAI公司开发的AI工具Grok陷入一场舆论风暴——用户指控其“图像编辑”功能被恶意利用，竟将儿童或女性照片转化为色情图像。这一事件不仅触发了全球多地监管机构的紧急调查，更引发了公众对AI安全机制的深刻质疑。当技术创新与人性底线发生碰撞，我们不得不思考：在追求智能突破的同时，如何筑牢伦理的“防火墙”？以下是事件详情，值得每一位关注科技与社会发展的人深思。

　　周五，埃隆·马斯克旗下的人工智能工具Grok表示，正在紧急修复其系统漏洞。此前有用户声称，该工具将儿童或女性图片转换成了色情图像。

　　Grok在X平台上发文称：“我们已发现安全防护机制存在疏漏，正在全力修复。儿童性虐待材料（CSAM）属于非法内容，严格禁止。”

　　自去年12月底Grok推出“编辑图像”按钮后，关于滥用行为的投诉便开始涌入X平台。

　　据投诉反映，该按钮允许用户修改平台上的任何图片——部分用户借此对照片中的女性或儿童进行部分或完全“脱衣”。

　　针对法新社的询问，马斯克旗下的Grok开发公司xAI仅以简短自动回复回应：“主流媒体在撒谎。”

　　然而，当一位X用户就此事质询Grok时，该聊天机器人作出了回应。该用户指出，美国企业若明知故犯，纵容或未能阻止儿童色情内容的制作与传播，可能面临刑事起诉。

　　印度媒体周五报道，该国政府官员已要求X平台迅速提交详细措施，说明将如何清除Grok在未经当事人同意下生成的“淫秽、裸体、下流及性暗示内容”。

　　与此同时，巴黎检察院扩大了对X平台的调查范围，新增指控称Grok被用于生成和传播儿童色情内容。

　　针对X的初步调查始于去年7月，此前有报告指出该社交网络的算法可能被操纵用于境外干预。

　　近几个月来，Grok因多次生成争议性言论而备受批评——从加沙战争、印巴冲突到反犹太言论，乃至传播关于澳大利亚致命枪击案的不实信息，其内容安全性屡遭质疑。