意大利数据保护机构因数据保护与未成年人使用防护问题，对 Character.AI 运营方 Character Technologies 处以 15.8 万欧元罚款。事件提示生成式 AI 企业在年龄核验、默认隐私设置、数据保护评估和本地合规代表等方面需要更精细的治理机制。
今日技术观察 IT之家 7 月 10 日消息，意大利数据保护局当地时间 9 日宣布对运营生成式人工智能服务 Character.AI 的美国企业 Character Technologies 处以 15.8 万欧元（IT之家注：现汇率约合 122.8 万元人民币）的罚款。用户在 Character.AI 上可通过聊天利用 AI 创建虚拟角色并与之互动。而在去年末之前，Character Technologies 并未阻止未成年人使用开放式聊天功能。▲ 01 背景速览 背景速览：据公开报道，意大利数据保护局当地时间 7 月 9 日宣布，对运营生成式人工智能聊天服务 Character.AI 的美国企业 Character Technologies 处以 15.8 万欧元罚款。Character.AI 允许用户创建虚拟角色并进行开放式聊天互动。监管方指出，在去年末之前，该公司未能阻止未成年人使用开放式聊天功能，并在信息告知、数据保护影响评估、欧盟代表指定等方面存在问题。 02 趋势影响 趋势影响：随着生成式 AI 产品从工具型应用扩展到陪伴、娱乐、教育等更高互动场景，平台处理的数据类型、用户停留时长和潜在影响都在增加。尤其是面向未成年人或可能被未成年人使用的产品，监管关注点已不只停留在数据收集本身，还延伸到年龄识别、功能限制、账号封禁后的再次注册防控、默认隐私保护等具体机制。 03 企业应用启发 企业应用启发：对于正在建设 AI 助手、智能客服、虚拟人、数字员工或社区互动产品的企业而言，合规设计应尽早进入产品研发流程。例如，在用户注册、权限分级、内容交互、日志留存、模型调用和数据删除等环节设置清晰规则；同时，对可能涉及未成年人的场景，应考虑默认更严格的隐私设置，并通过产品设计降低不适当互动风险。 04 合规观察 合规风险提醒：该事件说明，生成式 AI 企业如果面向跨境市场提供服务，需要关注不同司法辖区的数据保护要求。企业不宜仅在上线后被动补充合规文件，而应提前开展数据保护影响评估，明确用户告知内容，建立本地监管沟通机制，并验证年龄核验、封禁拦截、隐私默认值等技术措施是否真正有效运行。 05 开放讨论 开放讨论问题：在企业开发 AI 互动产品时，年龄核验应做到什么程度才兼顾体验与合规？面向未成年人用户，哪些功能应默认关闭或限制？如果 AI 产品并非专门面向未成年人，但存在未成年人使用可能，企业应承担哪些预防义务？欢迎结合产品、技术、安全和法务视角展开讨论。 公开来源参考 Character.AI 因数据和未成年人保护问题在意大利被罚 15.8 万欧元