游戏生成式AI合规:警惕“双备案”陷阱
中国国家互联网信息办公室(网信办)对面向公众的生成式人工智能服务设置了两道独立的准入手续:算法备案与大模型备案。
西方开发者目前趋势是直接调用OpenAI、Gemini、Claude等API来实现智能NPC,但在中国,直接调用境外未备案的大语言模型(LLM)属于违规行为,会受到监管处罚。
监管机制
中国法律将AI交互视为具有舆论属性的内容发布行为。合规必须跨越两道独立的门槛。
第一道门槛:大模型备案
《生成式人工智能服务管理暂行办法》规定,向公众提供服务的基座模型必须通过网信办安全评估。只有进入备案白名单的模型方可合法使用。OpenAI、Google Gemini、Claude、Midjourney均未备案,且由于数据主权与内容合规要求,境外模型通过备案的可能性极低。
第二道门槛:算法备案
《互联网信息服务算法推荐管理规定》适用于利用算法生成、推送内容的服务。游戏若通过LLM决定玩家看到的剧情、任务或对话,即构成算法推荐服务。服务提供者须披露算法基本原理、逻辑框架及训练数据概要。注意:底层模型未获备案,上层的算法备案申请将直接被拒。
注意: 两项程序并行,互不替代。缺少任意一项备案,接入了AI服务的游戏均可能面临下架风险。
一旦游戏内设“输入文本‑生成文本”、“图像生成”乃至“智能NPC”功能,开发者在法律上即被认定为“AI服务提供者”,须独立承担内容安全责任。
监管红线
使用ChatGPT、Claude或Gemini,或Midjourney等API直接服务中国境内用户,可能会导致应用下架与行政处罚。
通过反向代理、IP伪装等技术手段在中国境内中转境外未备案模型的API请求,同样也无法规避法律责任。
《暂行办法》第20条明确禁止向中国境内公众提供未备案的境外生成式人工智能服务。法律要求服务所用模型必须物理部署于中国大陆境内的服务器,且模型提供者持有有效的网信办备案号。
若中国玩家诱导NPC讨论敏感历史、政治或其他高危话题,而NPC基于GPT、Gemini等境外模型训练数据进行违规回复,游戏运营方将承担传播违法信息的直接责任。事后声称“不知情”或“技术中立”在法律上不构成抗辩。
违规后果包括:
- 立即下架: 网信办可责令暂停服务。安卓各渠道及苹果App Store China通常在24小时内执行下架指令。
- 行政罚款: 单位最高可处五十万元罚款。
- 吊销牌照: 情节严重者将被吊销网络出版服务许可证(ISBN)及增值电信业务经营许可证(ICP证),甚至阻断境外域名访问。
- 刑事责任: 屡犯者或造成恶劣社会影响者,企业法定代表人、直接责任人可被追究刑事责任。
运营冲击:《星之低语》的现实难题
以《星之低语》(Whispers from the Star)为例。该作由蔡浩宇(米哈游联合创始人)的大模型初创企业Anuttacon开发,已具备完整的AI NPC对话与动态剧情生成能力,技术水准对标海外一流产品。
尽管主创背景深厚,但该游戏在中国上线仍面临一些困难:
-
研发主体在新加坡,其接入的自研模型属于“海外模型”,不能直接使用API等方式,把用户的聊天数据上传到位于新加坡的推理服务器;
-
如要发行中国本土版本,除了UI、语音(当然也应该也是TTS模型)等需要本地化外,其用于生成对话的LLM也需要部署在中国本土,且要进行备案后才可能发行。
合规行动清单
- 强制实名认证: 所有与AI生成内容互动的用户必须完成实名验证。这是大模型备案的前置条件,没有任何例外空间。
- 采用白名单模型: 若采用第三方大模型,仅可从网信办公开清单中选择已备案模型,或自行备案模型。签署数据处理协议时,须明确要求服务商提供备案证明。
- 双重过滤机制: 法律强制要求建立“人机协同”的干预机制。在Prompt发送给LLM之前建立本地关键词黑名单,并在LLM生成内容返回给玩家之前进行二次文本过滤。
- 预留审批周期: 若必须使用自研模型,应聘请律师协助准备”评估材料。技术团队需提前开发符合国标的内容过滤接口。建议预留六至九个月的时间成本。