合成数据风险的分层检视及法律治理

黎娟、詹凯漫

《中南大学学报(社会科学版)》2026年第5期

摘要

作为一种新兴数据资源，合成数据能够突破人类数据瓶颈，纾解生成式人工智能发展面临的“数据枯竭”困境。尽管合成数据被定义为“假数据”，却能在场景中催生一系列“真风险”。相较于传统数据风险，这些风险复杂、隐蔽且易于传导。精准锁定风险来源，须穿透数据合成中的技术嵌套，系统检视风险生成链条。与传统数据治理模式相比，合成数据法律治理应以全生命周期治理为核心理念，具备动态适应性，通过构建“事前预防、事中控制、事后应急”的闭环治理框架，为合成数据安全筑牢新防线。

关键词：合成数据；个人信息权益；数据安全；全生命周期治理

一、问题的提出

合成数据，亦称虚拟数据，是通过模拟现实数据的统计特性和结构特征，或者依据现有模型和专业知识生成的数据。自20世纪90年代以来，合成数据技术从数据增强技术发展为生成对抗网络技术，引发了数据生成方式的“合成化”革命。这种演进推动了数据生产范式的根本变革，使数据供给模式从物理采集转向数字制造，数据训练成本从人力标注转向算力消耗。随着生成式人工智能的发展，全球高质量语料资源稀缺的问题凸显。合成数据以其独特的技术优势，成为解决数据之困的良方。合成数据可以根据模型公司的具体需求进行定制，生成涵盖罕见病例和极端天气等的稀缺数据类型，从而突破人类数据的限制。同时，合成数据还可以借助先进的匿名化技术，切断真实数据与个人身份之间的直接联系，从而强化个人隐私保护。凭借这些显著优势，全球科技巨头正加速布局合成数据商业生态。2025年，英伟达公司斥资九位数美元收购合成数据初创企业Gretel，并将其约80名核心技术人员纳入英伟达研发团队。这标志着合成数据在商业领域获得突破。

随着合成数据热度的持续攀升，AI领域出现了过度炒作技术而选择性忽略潜在风险的“非理性”现象。一些技术乐观派将合成数据奉为驱动AI新一轮发展的“万能钥匙”，试图通过夸大其优势，掩盖背后的技术伦理困境与风险。这种倾向在产业界也有体现。合成数据市场的爆发性增长诱发了资本对短期收益的追逐，数据技术被资本驱动的叙事被过度美化。然而，合成数据并非“万能药”。作为一种新型数据形态，合成数据具有衍生性和虚拟性的双重法律属性，也在利用和规制层面引发了难题。一方面，合成数据衍生于真实数据，是企业利用数据挖掘与算法技术对真实数据进行深度加工和重构后生成的具有商业价值和功能性的数据集。然而，这一过程可能将原始数据固有的质量缺陷、算法歧视或权利瑕疵嵌入合成结果，却因“加工”外观而被忽视或者掩盖，导致风险链条的隐蔽延伸。另一方面，合成数据是由算法与模型叠加生成的非直接记录性数据，并不对应真实的个体或事件。

这一“虚拟性”特性易被某些主体利用，作为规避合规审查、掩盖数据来源合法性的理由，甚至在发生损害时以“非真实数据”为由主张免责，从而削弱法律归责的确定性并可能侵害他人合法权益。

当前，我国法律在规制合成数据所引发的风险上仍存在诸多不足。一方面，合成数据的风险贯穿数据合成的各个环节，从真实数据收集到合成数据开发，再到下游模型应用，每一个环节都可能潜藏风险，这要求法律对合成数据的全流程进行穿透性风险规制。但现行法尚未建立起具有穿透性的规则体系，难以精准把控合成数据风险。另一方面，合成数据技术更新迭代迅速、应用场景广泛，这客观上要求法律治理具备动态适应性，然而，现行法尚未构建出与之相适应的治理框架，导致法律规制明显滞后。合成数据的生成与应用涉及个人数据、企业数据和公共数据的大规模供给、流通和使用。当数据泄露、数据权益侵犯等情形屡屡发生时，合成数据治理便不再仅仅是技术伦理问题，更是关涉数字社会公平正义的风险治理问题。如何从法律与技术融合的角度出发，系统检视合成数据所带来的衍生性风险？如何在全面、深入认识合成数据技术优势的基础上，构建技术利用与风险防范双向适配的治理框架？这是本文试图解决的问题。

二、合成数据风险的成因、类型与特征

(一) 合成数据的应用价值与内生性局限

作为全新的技术工具，合成数据凭借其低成本、可定制、强化隐私保护等特性，正在重塑数据生态。第一，合成数据成本低。相比于传统的数据采集与标注工作，合成数据的生成降低了采集环节的投入，并且减少了人工标注成本。以法律领域为例，数据采集与标注是构建法律智能系统的关键。采用传统的数据采集和标注方法，模型构建会面临诸多限制。一方面，在数据采集上，法律数据通常包含大量敏感信息和个人隐私，如案件当事人的个人信息和商业秘密等，这就为数据的采集和使用设置了障碍。另一方面，在数据标注上，法律领域的专业性要求数据标注由具备法律背景的专业人士来操作，这一数据标注过程需要耗费大量的人力、物力和时间。相较而言，合成数据借助算法对法律场景进行模拟，能够规模化地生成大量虚拟案例，降低数据采集难度并减少采集成本。此外，合成数据还能够借助算法与模型生成带有标注信息的数据，从而突破传统人工依赖型数据采集模式的局限，为法律智能系统的发展持续赋能。

第二，合成数据可定制。可定制性源于合成数据技术的高度灵活性，指的是依据具体需求或特定应用场景，有针对性地生成符合一定标准和要求的模拟数据。合成数据技术允许利用参数化的生成规则对数据生成进行精确控制，通过对数据分布、特征关联以及格式进行精准设定，以契合不同行业、不同场景下的多样化数据需求。尤为特别的是，合成数据可以利用对抗训练机制这一类似于定制化数据生成的“引擎”，定向生成现实中难以采集的极端场景数据。例如，医疗研究中往往存在数据分布不均的情形，某些罕见病或特殊病症的数据稀缺，而常见病数据相对富余。合成数据能够根据已有罕见病案例特征，定向生成大量虚拟的罕见病病例数据，包括患者症状、检查结果、治疗过程等多维信息，并依据模型训练反馈，实时调整数据特征，以平衡罕见病与常见疾病之间数据量的差距，使医疗研究具有更全面、更均衡的数据基础。

第三，合成数据可强化隐私保护。在数据驱动的时代，隐私合规已成为数据科技企业的法定义务。根据《中华人民共和国个人信息保护法》(以下简称《个人信息保护法》)的规定，企业获取用户信息用于合成数据生成时，必须遵循知情同意规则。然而，这种传统的隐私合规模式有着高昂的时间、人力和经济成本，尤其在涉及海量用户数据的场景下，这种成本往往成为企业发展的沉重负担。合成数据技术的出现，为突破隐私合规的困境提供了解决方案。通过模拟真实用户数据的特征，如用户的浏览习惯、消费偏好等关键信息，合成数据能够生成大量与真实数据高度相似但剥离个人识别信息的样本。这些样本不仅保留了数据的统计和结构特性，还切断了与真实数据的直接关联性。该技术路径使得企业在训练诸如精准广告投放模型时，无须依赖真实用户数据，从而摆脱了获取用户同意的高昂成本和复杂流程，从根本上规避了隐私合规的“枷锁”。

合成数据以其低复制成本、高场景适配性以及隐私保护能力，为AI模型训练注入了新的活力。但是，在实际应用中，合成数据也暴露出一系列不容忽视的缺陷，诸如数据质量欠佳、数据来源合法性存疑、数据平衡性不足等，从而引发算法不公、用户隐私泄露、数据权益侵犯等风险。

一是数据质量问题。Nature最新研究表明，同质化的合成数据是引发模型崩溃的根本原因。所谓同质化数据，是指在内容、特征、结构等方面高度相似，但缺乏多样性和差异性的数据。合成数据出现同质化现象，主要源于生成模型自身的倾向性和合成数据对训练数据的依赖。一方面，生成合成数据的模型往往倾向于捕捉和生成常见模式及高概率事件。对模型来说，常见模式在数据中出现的频率越高，特征越明显，学习和模仿这些内容就越容易。然而，当合成数据集多围绕单一议题且表述方式趋同，缺乏与多元观点、文体及语言风格的有机融合时，会造成数据多样性的缺失。另一方面，合成数据对训练数据的依赖也会造成同质化问题。尤其是当原始训练数据存在数据采集范围窄、样本类型单一等问题时，合成数据会不可避免地继承这些特征，导致数据的同质化。

二是数据来源的合法性问题。合成数据的生成涉及多重环节、多个步骤，而收集与处理真实数据是第一步。当数据来源涉及未经授权的个人信息、违反开源数据集使用许可协议的数据，甚至是通过非法手段获取的数据集时，合成数据就会面临数据来源的合法性问题。为此，不少国家对训练数据来源的合法性作出了相应规定。例如，我国《生成式人工智能服务管理暂行办法》(以下简称《暂行办法》)第七条明确规定，生成式人工智能服务提供者应当依法开展预训练、优化训练等训练数据处理活动，使用具有合法来源的数据和基础模型。然而，在合成数据生成过程中，数据生成的复杂性和不透明性给法律的有效实施带来了阻碍。一方面，合成数据生成过程的复杂性往往成为非法数据的“避风港”，使数据来源合法性问题极易被数据“合成”过程所掩盖。另一方面，数据企业可能利用合成数据生成过程的不透明性，突破法律为数据来源设置的合法性屏障。例如，企业可能在合成数据生成环节，故意混用合法与非法的数据来源。由于合成数据生成过程的技术复杂性和信息不对称性，监管者在缺乏额外信息的情况下，往往难以穿透技术黑箱，判断数据来源的合法与否，也难以对企业的混淆行为进行有效审查和监管。

三是数据集的平衡性问题。数据集的平衡性，指的是各类数据在不同类别、特征或者群体之间的分布比例处于一个相对均衡的状态。数据代表性强调特定群体的代表数据“是否存在”，往往可以通过定制化生成方式予以解决；数据平衡性则偏重数据结构的“比例适当与否”，需要在数据“存在”的基础上进一步调校。然而在现实中，数据的平衡性问题常常被忽视。以微软公司创建的Face Synthetics合成数据集为例，尽管微软公司声称该数据集是基于511个真实人脸特征的扫描而构建的，但从样本结构看，黑人男性样本仅占全部样本的5.9%，显著低于白人男性样本，其他少数族裔男性样本的占比更低。可以预见，在数据平衡性不足的情况下，倘若真实数据中存在无意识歧视，那么这种歧视一旦嵌入合成数据，就可能在系统性层面加剧不平等，并固化人们对特定群体的歧视。

(二) 合成数据风险的类型化分析

在常规场景中，合成数据的内在缺陷通常仅引发传统数据风险，例如，同质化数据可能导致模型性能崩溃，非法数据来源可能引发合规问题。然而，当合成数据进入个人信息应用场景时，其引发风险的性质会发生明显的变化。合成数据需要模拟和重现真实个人信息的数据特征与分布，这一过程可能引发一系列科技伦理风险，包括个人信息泄露、个人信息再识别以及个人信息权益的侵犯等。值得注意的是，这种风险并非传统数据风险的简单延续，而是技术发展与伦理规范交织、碰撞所催生的新型挑战。尽管合成数据在本质上被定义为“假数据”，但在个人信息应用场景中，其引发的“真风险”不仅会对个体权利造成持续性损害，还可能危及人类在数字世界中作为主体应享有的基本权益。

首先，合成数据存在放大算法不公的风险。真实数据是生成合成数据的基石，缺少真实数据的参与，合成数据难以具备与真实数据相似的统计特性，也就无法在后续的分析、建模等环节中替代真实数据发挥作用。而合成数据在拓展真实数据价值的同时，可能继承真实数据中存在的社会偏见等问题。例如，真实数据中可能包含了根植于特定历史时期以及特定社会结构中的性别歧视、种族偏见问题，这些歧视和偏见首先会通过数据标注、特征选择等环节传递到生成的合成数据中。另外，当基于人类真实数据构建模型时，合成算法还可能延续并放大这些历史偏见，使结构性不平等问题沿着“真实数据—合成数据生成模型—输出合成数据”这一链路不断传导。例如，在个人信息应用的简历筛选场景中，矿山企业会为提高招聘效率而采用基于合成数据的自动化招聘系统。从原始招聘数据来看，男性在矿山企业的录用比例明显高于女性。这些真实数据不仅包含了求职者的学历、专业、工作经验等外显特征，还潜藏着录用决策过程中的性别歧视因素。当运用此类带有歧视性的真实数据生成合成数据时，合成算法会重构生成“数据影子”。也就是说，合成数据不仅会保留真实数据中诸如学历、专业等显性特征，其算法在学习真实数据模式的过程中，也可能无意识地将男性更易被录用这一性别歧视因素融入其中。即便数据集本身并未明确标注性别信息，但模型在运算过程中仍会偏向为具有类似男性求职者特征组合的数据赋更高分。这就表明，基于合成个人数据的自动化招聘系统可能因显性特征掩盖隐性歧视，使岗位性别歧视的现象被进一步放大，从而导致女性在求职过程中面临不公平竞争。这种形式中立而实质不公的算法差别对待，直接侵害了《中华人民共和国民法典》(以下简称《民法典》)所保护的人格尊严与精神权益，构成对数据人格法益的实质性侵害。在社会法益层面，算法不公的规模化复制会削弱公众对劳动力市场公正性的信任，破坏社会公正秩序的根基。

其次，合成数据存在再识别风险。匿名化特征是合成数据应用中的一项突出优势，也被视为防止个人信息再识别的一道关键防线。匿名化技术通过删除直接标识符或采用去识别技术，使数据难以与特定自然人产生直接关联，以降低个人信息泄露的风险。然而，匿名化技术始终与再识别风险相伴而生。原因在于，经过匿名化处理的合成数据仍存在着诸多间接关联个人信息的风险，从而使个人信息再识别成为可能。例如，数据控制者或第三方可能留存有可关联数据与识别特定主体的辅助信息，如身份映射表，这些信息如同潜在的“密钥”，为重新识别个人信息提供了可能。另外，基于现有数据，攻击者也可以运用技术手段实施去匿名化操作。例如，作为一种开源的分布式匿名通信网络，“洋葱路由器”(Tor, The Onion Router)主要通过多层加密技术，对用户在线活动信息做匿名化处理，以防止用户的在线活动被追踪或监控。然而，德国执法部门在调查案件时，利用时序分析攻击技术，成功突破了这一匿名保护机制，实现了对目标用户真实身份的定位与识别。可见，即使数据经过了匿名化处理，无论是利用保留的辅助信息还是通过去匿名化技术，都可能使合成数据被重新识别为特定自然人信息。这种再识别风险可能导致个人信息在违背个人自主意愿的情况下被不当处理，从而破坏信息利用的自主决定权。

最后，商业化利用合成数据存在侵害个人信息经济利益的风险。在合成数据商业利用模式中，普遍存在数据处理者运用算法和模型处理后的个人信息生成合成数据用于替代传统训练数据的做法，此举目的在于降低成本并创造可观的经济利益。不过，这一商业模式往往导致数据财产权益分配严重失衡，即数据处理者几乎独占所有经济利益，而个人却未得到合理补偿。数据处理者主张独占全部经济利益的理由主要有两个：一是以“用户条款”为由，认为获取了数据主体对数据收集和处理的同意，就等于数据主体许可将信息利用价值让渡给数据处理者；二是以数据处理者的投入为由，宣称个人主体经济价值低，需要由数据处理者投入大量技术、资金和人力，才能完成对个人信息的商业化利用，因而应独占利益。显然，第一个理由混淆了“个人同意”与“个人许可”在法律性质和效果方面的界限。正如程啸教授所指出的，个人同意属于单方行为，是个人数据处理的合法性基础之一，仅产生排除处理行为非法性的效果。另外，个人同意侧重于对个人信息精神权益的保护，不形成具有持续约束力的债权债务关系。比较而言，个人许可则属于双方民事法律行为，它通过个人与处理者协商一致订立许可使用合同，明确双方权利义务(如处理方式、期限、对价等)，以产生具有法律约束力的债权债务关系，从而持续保护个人信息承载的经济利益。显然，部分企业将“个人同意”与“个人许可”混同，其目的在于实现对个人信息的商业化利用，同时规避履行获取个人许可的义务。就第二个理由而言，法律对权利的保护不以经济价值高低或经济投入为前提。《民法典》第九百九十三条赋予自然人许可他人使用姓名、肖像等人格要素的权利。这意味着，人格要素的商业化利用权是自然人固有的法益，法律对其保护不以“经济价值高低”或“他人投入多少”为前提。无论是公众人物的高价值人格要素，还是普通人的一般个人信息，其承载的财产性利益均受法律平等保护，不得因初始价值较低而被任意剥夺。同样地，合成个人数据所承载的经济利益亦不得因个人信息初始价值低微而被剥夺。个人信息数据具有真实性、连贯性以及规模性等特征，对提升合成数据的效用具有不可替代的价值。在合成个人数据的应用场景中，自然人应从个人信息商业化利用中获得相应补偿，如支付金钱对价、获得免费服务等。

(三) 合成数据风险的特征

合成个人数据与个人信息深度关联。传统个人数据多是对个人信息的直接记录或收集，其风险往往源于个人信息泄露、滥用等直接侵害行为，因此更容易被识别。相比之下，生成合成个人数据的复杂技术环境以及 AI 模型固有的“技术黑箱”特性，为数据企业提供了规避合规要求的可操作空间，进而在多元应用场景中引发了复杂、隐蔽和可传导的风险。

第一，风险的复杂性。合成数据生成过程中的技术因素与非技术因素相互交织，共同造就了风险的复杂性特征。首先，就技术因素而言，合成数据可以经多元路径生成，如深度学习模型、生成对抗网络、预设数学模型等，但不同的生成路径可能潜藏不同的风险。具体而言，深度学习模型依赖高质量的真实数据，若真实数据存在偏差或不完整，合成数据易继承歧视性特征或错误信息，进而引发决策失误。生成对抗网络技术虽能生成逼真的数据，但容易产生同质化数据问题，引发下游模型崩溃。预设数学模型则因灵活性差，难以适配复杂现实场景的多元需求。值得注意的是，这些由技术衍生的风险并非孤立存在，而会在数据生成过程中交叉叠加，形成“风险传导链”。例如，真实数据的偏差可能通过深度学习模型放大，再经生成对抗网络技术强化局部特征偏差，最后经由模型输出偏差。其次，非技术因素如市场需求、社会认知、制度设计也会引发风险。具体而言，在市场需求上，当社会对数据的需求过于急切，盲目追求快速产出大量合成数据时，数据生成者可能会为了满足短期利益而忽视数据质量把控和风险评估环节，从而引发数据质量风险。在社会认知上，认知偏见会放大数据风险。例如，在涉及人物属性分析的合成数据生成场景中，数据标注人员所持有的性别或种族偏见，会传导至他们所标注的训练数据中。这些偏见一旦被嵌入合成数据模型，就会在后续的应用场景中进一步扩大，从而导致歧视和偏见的加剧。在制度设计上，由于政策法规的缺失，数据生成过程中存在的侵权行为未能得到有效规制。而法律监管的不足可能助长部分市场主体的冒险行为，使其在追求利益最大化的过程中忽视潜在的伦理和法律风险。

第二，风险的隐蔽性。算法黑箱和相关主体的认知差距，导致合成数据风险“隐匿”，难以被及时察觉。首先，算法处理的高度复杂性使得合成数据的属性和来源变得难以辨认。例如，当个人信息的收集未能获得数据主体的明确同意或者同意的对象不够明确时，合成数据的生成将进一步混淆同意的界限。这种混淆可能掩盖合成数据实际存在的侵权风险，使数据主体难以察觉其个人信息被不当使用的风险。其次，公众和技术方之间存在的认知不对称可能被恶意利用，以使风险“不可见”。例如，企业和用户之间往往存在技术认知的不对称。当普通用户因缺乏对数据处理技术的了解而误认为合成数据没有风险时，企业可能利用这一认知差异，通过在数据处理中采取不当手段，使用户在毫无察觉的状态下遭受个人信息侵犯。

第三，风险的传导性。数据作为数字时代的重要生产要素，具有“网络”属性，这使得风险易于传导。首先，从跨场景传导的角度来看，合成个人数据在多元应用场景中的交叉使用，可能为风险传导埋下隐患。以医疗与保险场景为例，若合成的患者健康数据存在疾病诊断偏差，如漏标特定症状、错判病情严重程度等，这些偏差经与保险理赔系统的核赔模型对接，会被算法放大为“患病概率误判”或“治疗费用估算失真”，从而导致保险核赔环节出现“不合理拒赔”或“超额理赔”。这说明，医疗数据的质量风险可能通过数据关联链条精准传导至保险场景，引发跨行业的信任危机。其次，从跨主体传导的视角来看，数据共享生态中权责失衡的问题可能导致风险的扩散。以社交平台为例，若其因技术漏洞或合规疏漏而造成用户合成数据泄露，第三方广告商基于这些数据开展精准营销时，可能会利用数据中隐含的特定信息(如特定时段的高频访问记录、唯一设备识别符等)间接识别出用户的真实身份。由此，原本仅局限于社交平台内部的数据保护不足风险，便会随着数据的流动而扩散，演变为广告商业务中的隐私侵权风险。可以预见，合成数据风险的传导和扩散会不断侵蚀用户对整个数据共享链条的信任基础，进而阻滞数据共享生态的可持续发展。

三、合成数据风险来源的分层检视

合成数据的风险并非孤立存在，而是深嵌于算法的多层技术架构之中。要准确锁定风险来源，必须对合成数据的生成过程实施穿透式检视。合成数据的生成涉及原始数据输入、算法模型设计、生成数据应用等多个环节，并可根据处理流程和核心任务进一步划分为数据层、开发层和应用层。各层所潜藏的风险被复杂的技术包装所掩盖，且经由层间交互可能产生叠加效应，使风险呈倍数放大。然而，传统治理手段通常仅针对单一环节进行合规性审查，难以突破技术嵌套的壁垒，因而无法触及合成数据风险的真正源头。穿透式方法通过逐层拆解技术架构，系统剖析各层风险的生成机制，可为合成数据治理提供真实、可验证的决策信息。

(一) 数据层中的语料来源风险

数据层主要涉及处理合成数据生成所需的真实数据，包括数据预处理、数据标注以及数据集构建等。我国《生成式人工智能服务安全基本要求》(以下简称《基本要求》)第五条第一款规定，数据层应当满足来源合法性、多样性和可追溯性三项核心标准，以确保数据层中训练数据的来源安全。然而，在合成数据生成环节，训练数据的来源无法完全满足法律规定的三项要求，从而引发数据偏见和侵权等诸多风险，具体表现在三个方面。

第一，数据来源的合法性不足。知情同意规则作为保障个人信息权益、规范数据处理活动的核心机制，其有效落实构成了数据来源合法性的基石。然而，在合成数据的生成过程中，数据来源合法性不足可能导致知情同意规则被架空，主要体现在两个方面：程序违法和范围违法。首先是程序违法。依据《个人信息保护法》的规定，企业收集个人信息时，必须依法取得个人的明确同意；若涉及敏感个人信息，还需获得个人的单独同意。然而，部分企业在收集公开的个人信息用于生成合成数据时，存在对法律规定的误读，认为只要将个人信息匿名化处理，就可以免除获取个人单独同意的程序。这种做法不仅与法律的要求背道而驰，还可能损害个人的知情权与自主决定权。正如前文所述，即使数据经过匿名化处理，其与个人的关联性依然存在，因而个人仍应有权知晓其数据的使用方式和目的。其次是范围违法。企业收集公开个人信息时，应遵循目的限制原则，即数据的收集和使用必须与其明确告知的目的相符。然而，部分企业在未充分履行告知义务的情况下，直接收集公开的个人信息用于合成数据的生成。这一行为因超出合理的收集范围而违背了目的限制原则，导致个人无法按照自己的意愿决定公开个人信息的用途。这不仅削弱了个人对其信息的控制权，还进一步架空了知情同意规则，使个人在不知情的情况下面临潜在风险。

第二，数据来源的多样性缺失。在数据层中，数据来源的多样性不足主要表现为生成合成数据所依赖的个人信息仅取自单一或有限的群体，难以涵盖社会人群的多元特征，包括种族、性别、年龄、地域、社会阶层等。单一化的数据来源使得合成数据无法全面反映社会的真实多样性，为数据偏见的产生埋下隐患。在合成个人数据场景中，数据来源多样性的缺失主要源于技术企业对合成数据规模化和多样性的错误认知，甚至是恶意利用。例如，部分企业过度依赖合成数据的规模性和可定制性，认为通过定制大规模的个人数据集，使合成数据具备多样性的特征。然而，这种观点忽视了合成数据的同质化问题。如前文所述，在合成数据生成的迭代训练过程中，合成数据会逐渐趋向同质化，进而丧失其应有的多样性。这种同质化不仅削弱了合成数据的代表性和可靠性，还可能导致在特定应用场景中出现系统性偏差，影响决策的公正性和准确性。

第三，数据来源的可追溯性缺失。这是合成数据管理中的一个重要问题，主要体现在合成数据企业在管理不同语料来源时缺乏完善且规范的管理制度和明确的记录。企业使用的语料来源类型包括开源语料、自采语料和商业语料等。首先，在使用开源语料时，企业必须确保已获得该语料来源的开源许可协议或相关授权文件。这些文件不仅明确了企业使用语料的权利和义务，还为语料的合法使用提供了法律依据。然而，部分企业为了追求便利或降低成本而忽视这一关键环节，擅自使用开源语料而未获取有效授权。这种行为隐藏着侵犯知识产权的风险。一旦版权方质疑或企业卷入法律纠纷，由于无法追溯到有效的授权文件，企业将难以证明自身使用行为的合法性，从而可能被判定承担侵犯知识产权的法律责任。其次，在自采语料方面，企业有责任建立完整且准确的采集记录，并且不得采集他人已明确禁止采集的语料。实践中，企业在缺少规范采集记录的情况下，采集网络上的公开个人信息用于生成合成个人数据，这与原公开目的不符，违背了公开个人信息合理使用制度的初衷，可能侵害个人的信息权益。在缺乏明确的可追溯采集路径的前提下，一旦发生数据泄露、数据权益侵犯等事件，执法机关难以准确判定相关主体应承担的责任，导致责任分配陷入模糊不清的状态。最后，在使用商业语料时，企业必须与交易方或合作方签订具有法律效力的协议，明确双方的权利与义务。同时，要严格审核对方提供的语料、承诺及相关材料，确保语料来源清晰、安全可靠。正如前文所述，个人信息语料的商业化利用过程中常常存在未取得个人同意或许可的非法语料。若企业与合作方的协议无法追溯，交易方提供的非法语料可能使企业面临侵犯个人信息权益的指控。

(二) 开发层中的语料内容风险

开发层涉及合成数据生成模型的技术开发，主要围绕模型设计、模型训练以及模型测试等步骤展开。个人信息训练语料的内容是模型开发阶段的关键资源。然而，在合成数据开发阶段，个人信息训练语料内容风险可能源自开发者对法律规定的双重同意规则的违反，以及对漏洞披露的不及时等。第一，未遵循法律规定的双重同意规则。《基本要求》第五条第二款明确规定，处理个人信息应当取得个人同意，处理敏感个人信息应当取得个人单独同意。在合成个人数据这一特殊场景下，双重同意规则具体表现为，开发者对个人信息的处理行为需获得个人第二次同意，对于敏感个人信息的处理还需要获得单独同意。首先，从个人同意的角度来看，收集个人信息和处理个人信息是两种性质不同的行为，分别对应个人信息语料的来源安全和内容安全。因此，开发者在数据层收集个人信息时，必须取得个人的第一次同意，以确保训练数据来源合法、安全；在开发层处理个人信息时，需取得个人的第二次同意，以保障训练语料的内容符合安全要求。其次，就单独同意而言，一旦合成的个人数据中涉及敏感个人信息的处理，应当取得个人的单独同意。根据《个人数据保护法》的相关规定，身份识别信息、医疗健康信息、行踪轨迹记录等敏感个人数据会对个人人身和财产利益产生重大影响，开发者必须取得个人的单独同意。如果开发者未能严格遵循法律所规定的双重同意规则，不仅可能危及数据安全，还可能对个人信息权益造成严重损害。

第二，缺乏透明的漏洞披露政策。在开发阶段，个人信息数据通常在实验室环境中完成存储、处理及利用等一系列操作流程。然而，这一过程往往存在透明性缺失的问题，导致个人用户难以知晓实验室是否使用了其个人信息数据，以及对个人信息的处理行为是否超出了其同意的范围。例如，在合成数据开发阶段，开发者往往未能充分履行漏洞披露义务，从而引发用户权益被侵犯等诸多问题。一方面，由于开发者未及时履行告知义务，用户在对漏洞一无所知的情况下，无法采取针对性的防范措施，从而使个人数据安全遭受威胁。另一方面，由于漏洞信息的缺失，开发者无法第一时间掌握漏洞出现的具体环节、根源及影响程度，导致在制订修复方案时因缺乏关键依据而影响修复工作的进展。与此同时，非法攻击者则利用漏洞信息的不透明性，拥有更多时间发动攻击，极大地影响了漏洞修复工作的及时性与有效性。

(三) 应用层中的模型输出内容风险

应用层作为实际部署环节，是将合成数据作为全新的训练数据应用于训练新模型的实践过程，其任务目标在于完成应用程序的开发并向公众发布包含合成数据模型的程序。《基本要求》第六条明确规定，应用层中模型输出内容应当满足可靠性和准确性的标准，然而，合成数据模型常常因自身存在的安全漏洞和缺少常态化监测手段而无法满足相关标准。

模型输出的内容可能泄露个人信息，引发用户信任危机。例如，有报道披露字节跳动旗下的AI产品豆包在用户输入真实姓名及就读学校等信息后，竟输出该用户的微信账号，且经验证该账号信息准确无误。针对此事件，豆包工作人员声称所展示的信息为公开个人信息，无须承担泄露个人信息的法律责任。然而，这一事件背后潜藏诸多深层次问题。首先，在收集环节将公开个人信息用于模型训练时，未取得当事人明确且有效的同意，这严重损害了个人知情权与决定权。其次，在使用环节将公开个人信息用于模型训练时，未采取匿名化处理措施，使得个人信息在整个训练流程以及最终输出环节都面临着极高的泄露风险。最后，在输出环节，模型输出内容已然出现个人信息泄露问题后，豆包并未及时制定并实施有效的应对举措，以阻止个人隐私内容再次输出。

模型输出内容的准确性缺失可能侵害人格权。应用层作为模型与实际场景交互的关键环节，对模型输出内容准确性的把控起着至关重要的作用。然而，不少企业出于节省成本、加快产品上线速度的考虑，或者受限于技术能力，仅在模型开发完成后进行简单的测试，便将其投入使用，缺乏对模型在实际运行过程中的持续监控和评估。随着时间推移、数据更新、用户行为模式改变以及应用场景拓展，模型可能无法及时适应这些变化，导致其输出结果偏离真实情况。以社交媒体和网络信息传播为例，基于合成数据训练的模型已被广泛应用于内容生成和推荐。而模型输出内容的准确性不足，可能会生成虚假新闻、不实评价等信息。这些错误信息一旦通过网络传播，将误导公众的认知，进而损害个人的名誉。例如，一条关于某公众人物的虚假负面新闻经模型生成并传播后，不明真相的公众可能会对该人物产生负面印象，使其形象大打折扣，进而影响其在公众心目中的地位和社会声誉。除了名誉权，隐私权也可能因模型输出内容准确性缺失而受到侵害。在一些涉及个人隐私信息处理的应用场景中，如医疗健康数据管理、金融风险评估等，模型可能会因错误处理和数据输出而意外泄露个人敏感信息。例如，疾病诊断结果、财务状况等隐私信息的泄露，会给个人带来极大的困扰和精神压力，严重侵犯个人的隐私权。

四、合成数据风险的全生命周期治理

合成数据的风险生成机制显示，数据风险随技术交互与场景变化而持续演变，呈现出高度的不确定性。这一特征决定了合成数据治理应当具备动态适应性，即必须根据风险发生的不同阶段，匹配精准、可迭代的法律规制工具，最终形成“事前预防、事中控制、事后应急”的闭环治理框架。与传统数据治理模式相比，合成数据的法律治理以全过程、全生命周期治理为核心理念，强调治理手段的全面覆盖、治理方式的灵活调整以及规制阶段的有效衔接，从而在最大程度上消解风险不确定性带来的治理盲区，实现技术创新与风险防控的有效平衡。

(一) 事前强化对个人信息语料来源安全的评估与核验

事前阶段合成数据保护的重点在于确保数据层的语料来源安全。《基本要求》针对语料来源的管理提出了一套双重安全保障机制，即“先评估、后核验”。该机制要求企业在采集特定语料之前，必须对数据质量进行详尽的安全评估，以识别潜在风险。采集完成后，还需进行严格的二次核验，以从根本上阻断不良语料进入数据训练流程。同样地，合成数据的语料来源管理也应遵循“评估—核验”机制，以保障合成数据训练语料来源的安全性。根据《基本要求》第五条第一款所确立的标准，合成数据语料来源安全应满足合法性、多样性和可追溯性三项要求。

第一，语料来源的合法性。合法的语料来源是构建“评估—核验”制度的基石。根据《暂行办法》第十四条的规定，当生成式人工智能服务提供者发现违法内容时，必须立即停止生成与传输相关数据，同时积极采取删除违法内容等有效措施进行整改，并及时向有关主管部门报告情况。基于上述法律规范与治理要求，语料来源合法性的评估与核验体系的构建应以企业是否遵循“双重同意”规则为核心。一方面，在语料来源合法性的评估环节，需严格审查数据收集行为是否全面落实《个人信息保护法》规定的同意规则与单独同意规则，确保数据主体充分知晓数据收集的目的、方式与范围，并作出明确授权。对涉及生物识别、宗教信仰等敏感个人信息，更需遵循单独同意的特殊要求。另一方面，针对收集公开个人信息用于合成数据生成的企业，应实施第二次合法性核验。即便相关信息已处于公开状态，企业仍须在将其用于合成数据生成前，再次取得个人明确同意，以此保障数据主体对个人信息使用的最终决定权，有效防范因信息不当使用引发的隐私风险与法律争议。

第二，语料来源的多样性。多样性指的是合成数据应包含不同群体的信息，避免对特定群体的偏见和歧视。为满足语料来源的多样性，应评估核验个人数据语料来源是否涵盖年龄、性别、地域、社会经济背景等多方面的数据。例如，在构建合成数据的语料库时，不仅要包含不同年龄段人群的语言表达数据，还要纳入不同方言区域人群的语言习惯数据。值得注意的是，语料来源的多样性标准通常能够从数量上确保语料来源的表面多样性，而不足以保障语料来源的实质多样性。平衡性标准通过强调代表各群体的数据在语料库中的分布，使合成个人数据公平地反映各群体特征，从而能够保障不同群体在数据应用中的公平性，即实质多样性。满足语料来源的平衡性标准，应评估各类语料来源是否在数量和特征分布上保持均衡。例如，为确保不同年龄层的数据量均衡，应避免某一年龄段的数据占主导，而其他年龄段的数据过于稀缺。在性别方面，应保证男性和女性相关数据的比例合理，反映出真实社会中的性别特征。在社会经济背景方面，对于高、中、低收入群体的数据以及不同职业群体的数据，都应进行合比例的采集。

第三，语料来源的可追溯性。语料来源的可追溯性在保障数据安全与合规方面发挥着不可替代的作用。一旦出现数据安全问题或合规性争议，语料来源的可追溯性能够迅速且精准地定位到语料的最初源头，明确问题的出处，精准锁定责任主体，进而为后续开展有针对性的整改工作以及责任追究提供依据。满足语料来源可追溯性标准，首先应建立智能化的语料来源管理系统。智能化系统强大的搜索和分析功能，能够根据数据的特征和标识，快速回溯数据的采集、处理、存储和使用轨迹。其次，应定期开展针对可追溯性管理系统的功能审查。企业应定期评估现有数据来源管理系统是否在语料采集、存储和使用各环节进行了详细记录，现有功能是否足以实现语料的可溯源性。最后，可通过引入第三方专业机构进行独立评估与核验的方式来提升语料来源的可追溯性。第三方机构凭借其专业的技术实力和客观公正的立场，深入检查可追溯性指标的执行情况，发现潜在问题并提出切实可行的改进建议，能够为企业提供强大的外部约束力。

(二) 事中构建内部测试制度，确保训练语料和模型输出的内容安全

事中阶段是合成数据治理的核心，涵盖合成数据生成与应用的开发层与应用层。事中阶段须着重对合成数据的语料内容安全予以严格把控，确保合成数据生成算法和算法输出内容的合规性。欧盟《网络弹性法案》规定，凡是具备数据元素的人工智能产品，在其设计、开发以及生产的全流程中，均应当遵循严格的安全标准。根据该法案的要求，开发者必须在人工智能产品的开发和应用的关键环节实施风险评估，并基于评估结果作出防护措施，以确保产品能够有效抵御已知和潜在的威胁。借鉴该法案，我国合成数据治理的事中阶段宜构建一套科学、完善的企业内部测试制度，要求企业通过构建覆盖合成数据模型开发与应用阶段的内部测试措施，提前在实验室环境中对模型训练语料的合规性和输出内容的安全性实施多维度验证，以确保合成数据模型训练语料和模型输出的内容安全。

第一，针对开发层中个人信息语料的内容安全性进行内部测试。个人信息语料的内容安全性，指在使用个人信息语料时，应维护信息的完整性、保密性和可用性，避免个人信息泄露、篡改、滥用及侵害个人信息主体权益。《个人信息保护法》规定企业处理个人信息时应遵循合法、正当、必要与诚信原则，且要充分保障信息主体的知情权与决定权。基于此，内部测试应根据现行法律围绕个人信息语料使用的合法性展开审查。一方面，若在测试中察觉到潜藏的个人信息泄露风险，应优先从技术层面入手，及时解决模型的潜在问题。倘若技术手段难以消除此类泄露风险，应删除涉及风险的个人信息语料内容，以避免风险进一步扩散。另一方面，一旦发现个人信息发生泄露，企业应及时向相关主体披露相关信息。为了切实保障用户权益，企业在内部测试过程中发现模型的安全漏洞、潜在风险以及对用户权益可能产生的影响后，应通过产品官网公告、精准推送通知以及发送详细邮件等渠道，及时、准确地向用户披露相关信息。

第二，针对应用层中输出合成个人数据的内容安全性进行内部测试。《暂行办法》第四条第五项明确规定，企业应基于服务类型特点，采取有效措施，以提高生成内容的准确性和可靠性。这说明，应用层的内部测试应紧密围绕模型输出合成个人数据的准确性与可靠性来开展。基于此，首先可建立“企业内部测试沙盒”，用于降低合成数据模型投放市场后的输出内容风险。欧盟《人工智能法》第五十七条规定，国家主管机关应建立至少一个“监管沙盒”，用于为测试和验证人工智能系统提供一个受控的环境，以确保该系统符合相关法律和标准。企业可仿照“监管沙盒”制度建立“内部测试沙盒”。在模型上市之前，要通过模拟包含不同网络环境、设备类型以及用户行为习惯等多元真实场景，对合成数据模型进行持续监测，评估其在长时间复杂运行情况下输出内容的准确性和可靠性，提前排查模型投放市场后可能出现的输出错误或个人信息泄露风险。其次，构建全面的内容审核与用户反馈机制。在内部测试阶段，模拟用户使用场景，对合成个人数据进行多轮审核，检查数据是否包含侵害个人信息权益、违法或违背公序良俗的内容。再次，建立专门的用户反馈渠道，鼓励用户对合成数据的准确性和可靠性进行监督和反馈。一旦收到反馈信息，及时进行处理和改进，将内容审核与模型优化有机结合。最后，应明确内部测试中各参与方的法律责任，对因测试不力导致个人信息泄露或其他安全问题的相关人员和部门依法依规追究责任，形成有效的法律约束机制。

(三) 事后借助应急响应制度提升数据风险应对能力

事后阶段的治理，应聚焦于合成数据应用遭遇突发安全事件时的应急响应措施。采取应急响应措施既是法律规定，又是实践要求，对于提升企业数据风险应对能力至关重要。从法律上看，企业在事后阶段的应急处理义务包括两个方面：一是采取补救措施，如《数据安全法》第二十九条规定，开展数据处理活动应当加强风险监测，发现数据安全缺陷、漏洞时应当立即采取补救措施。二是履行通知和报告义务，如《信息安全技术—个人信息安全规范(GB/T 35273—2020)》规定，发现安全风险、发生安全事件后，网络平台应及时通知权利主体，并将事件的相关情况、已采取的处置措施和个人可以采取的措施建议一并告知。从治理实践来看，由于合成数据风险具有隐蔽性、突发性和复杂性，即便事前与事中采取严格的预防和控制措施，仍难以完全杜绝安全事件的发生。一旦出现数据泄露、模型篡改、内容违规等事件，企业若能够迅速且高效地作出响应，则有利于最大程度地降低对数据主体合法权益的损害。

第一，应急响应预案须以分类分级为原则。基于人工智能模型的分类分级治理原则已为国内外立法实践所认可，该原则对于应急响应预案的制定具有指导意义。具体而言，应针对不同类别(如生成内容异常、模型篡改、数据泄露等)以及不同级别(一级至四级)的安全事件，分类分级制定详尽的应急响应预案。针对不同级别的安全事件，也应明确不同的响应级别和资源投入标准。一级事件为最严重的情况，如大规模数据泄露且涉及大量敏感信息，需要投入全方位、高强度的应急资源，包括立即停止相关服务，防止危害进一步扩大，同时启动最高级别的调查和修复工作，力求在最短时间内恢复服务并消除安全隐患；四级事件相对危害较轻，例如个别用户数据出现轻微异常，但仍须采取针对性的局部调整和优化措施，及时解决问题，避免事件升级。这种差异化响应策略，能够确保在发生合成数据安全事件时，精准匹配应急资源与安全事件需求，提升处置效率。

第二，应急响应预案还须配套漏洞修复技术作为支撑。在合成数据服务的实际运行过程中，恶意输入攻击为影响系统稳定性与数据安全的重大威胁。因此，在制定应急响应预案时，需对相关恶意攻击进行监测，并建立匹配的漏洞修复机制。一方面，针对恶意攻击模型漏洞进而窃取数据、破坏服务的风险，企业须构建一个覆盖数据采集、传输、处理全流程的实时监测网络，借助自然语言处理、行为模式分析等技术，精准识别异常请求与恶意代码。一旦监测到攻击行为，漏洞修复机制即刻启动，利用数据备份与恢复技术保障信息的完整性。另一方面，通过运用智能算法，快速定位系统漏洞并及时实施补丁更新，使服务能够迅速恢复运行。比如，当检测到结构化查询语言(Structured Query Language，SQL)注入攻击时，系统可自动拦截恶意请求，并同步更新防火墙规则。漏洞修复机制与分级响应预案相互配合，形成“监测—响应—修复”的有效响应机制，不仅能够显著降低攻击造成的直接损失，更能通过快速恢复服务，重塑用户信任。同时，该机制能够为事后治理提供坚实的技术保障，确保合成数据生态在遭遇安全事件后，能够迅速恢复稳定状态。

五、结语

在生成式人工智能时代，数据要素成为国家间科技竞争的新焦点。在此背景下，合成数据治理的研究具有重要的理论价值和实践意义。强化合成数据治理，应以保护数字人权为基本遵循，通过分层检视合成数据模型中的风险来源，构建覆盖合成数据生成与应用全生命周期的治理体系，推动技术发展与数据安全的协同演进。展望未来，随着合成数据技术的不断突破以及应用场景的持续拓展，围绕“语料安全”“内容安全”“模型安全”等核心议题的讨论将更为深入。这将催生合成数据治理领域更加丰富的治理实践和制度创新成果。这一发展进程需要产学研用各方协同合作，在理论探索与实践创新的道路上携手并进，共同开创人工智能数据技术发展与治理的新局面。