2026-04-29 06:55来源:本站

编者按:在人工智能浪潮席卷全球的当下,内容生成的边界与监管正成为科技巨头们必须直面的核心议题。埃隆·马斯克旗下xAI的Grok服务,因其近乎“无审核”的“辛辣模式”而迅速吸引用户,却也因涉性内容、深度伪造及潜在儿童安全风险,在全球范围内接连触发监管警报,从东南亚到欧美,多国已采取访问限制或启动调查。这一系列事件,如同一面镜子,清晰地映照出AI在“开放”与“安全”之间的艰难平衡。此刻,压力也传导至行业领头羊OpenAI身上,其酝酿已久的ChatGPT“成人模式”发布计划正陷入前所未有的谨慎与 Dilemma之中。一方面,用户对更自由、更少限制的AI体验存在需求;另一方面,全球日益收紧的监管网络、对未成年人保护的严苛要求,以及企业客户对品牌风险的考量,都构成了重重枷锁。当主要竞争对手选择保守策略时,OpenAI的每一步抉择,不仅关乎产品功能,更可能重塑市场竞争格局与行业伦理标准。这场关于“尺度”的博弈,才刚刚开始。
由埃隆·马斯克领导的xAI公司旗下人工智能服务“Grok”,正因生成性图像引发的争议面临全球多国的监管压力,这也凸显了OpenAI计划发布ChatGPT“成人模式”所面临的困境。凭借近乎无审核的方式快速积累用户的Grok,正面临国家层面访问禁令和制裁的风险,这迫使OpenAI在决定允许的成人内容范围时也不得不格外谨慎。
据业内消息人士14日透露,针对Grok的全球监管压力自年初以来显著加剧。马来西亚和印度尼西亚以未经同意的深度伪造图像和儿童性虐待材料生成风险为由,临时屏蔽了Grok的访问。在英国,监管机构Ofcom援引《在线安全法》启动了正式调查。欧盟也已进入事实上的惩罚程序,包括以可能生成儿童性虐待材料为由,要求保留相关数据。在美国,民主党议员正带头呼吁将该应用从应用商店下架。
围绕Grok的争议并非突然出现。去年8月,xAI在发布其图像和视频生成模型时,引入了一种所谓“辛辣模式”,该模式极大减少了对性表达的限制。自此,人们持续担忧该模式可能被间接用于生成名人深度伪造或未成年人图像。尽管xAI解释称其“正在修补安全措施的漏洞”,但监管机构正强烈追究其内容管理失责的责任。马斯克批评英国政府,称其行为是“为审查找借口”,但监管势头反而在扩散。
Grok的处境不可避免地影响着OpenAI发布成人模式的决策。OpenAI于去年12月将成人模式的发布时间重新调整至今年第一季度,并此前已宣布计划加强其年龄验证系统。然而,随着Grok今年在全球监管环境中受到审视,分析人士指出,OpenAI不仅可能在发布时间上,更会在实际运营过程中,设定更严格的安全措施和内容允许标准。
OpenAI于去年10月首次披露了在成人验证前提下允许性内容的政策。当时,首席执行官萨姆·奥特曼暗示可能在同年12月推出该功能,引发了期待,但实际功能并未发布。随后,在关于GPT-5.2的官方简报中,OpenAI正式将成人模式的发布时间设定为今年第一季度。OpenAI应用部门首席执行官菲吉·西莫解释说:“这不是简单的复选框方式;我们正在应用年龄预测模型,并且需要验证以满足各国法律法规。”
OpenAI的谨慎做法也受到了未成年人保护争议的影响。去年12月,OpenAI引入了一个年龄判定系统,通过分析对话模式和使用时间来估算用户的年龄。如果年龄不明确,则强制应用“18岁以下”环境。成年人必须通过自拍视频或政府颁发的身份证件进行认证才能解除此限制。随着青少年在与ChatGPT对话后做出极端选择的案例不断出现,OpenAI已面临诉讼和批评。
相比之下,谷歌的Gemini和Anthropic的Claude等竞争服务尚未正式宣布允许性内容的计划。这是因为对广告收入和企业级市场依赖度较高的大型科技公司,往往考虑到品牌风险和监管负担而保持保守政策。值得注意的是,谷歌Gemini在过去一年中将其市场份额提升至20%左右,而ChatGPT则从80%左右降至60%左右,面临追赶。这一趋势对OpenAI而言也是一种负担。在主要竞争对手优先考虑安全性和合规性的情况下,如果OpenAI扩大成人模式,可能会面临企业客户和市场更加集中的审视。
一位行业内部人士表示:“成人模式本身与其说是一项技术上的新功能,不如说更接近于解除现有限制的问题。”他补充道,关键问题是“以何种标准和系统来管理它,以及年龄验证和内容控制框架能够被设计和运营得多么精密。”