人工智能文生视频大模型的社会风险及法律规制
——以SeeDance2.0为例
戴春燕 付腾飞
摘要：以SeeDance2.0为代表的人工智能文生视频大模型，不仅为影视行业带来了新的机会，也将重塑艺术创作的方式，为文化产业注入创新动力。同时也带来了数据安全、深度伪造虚假视频传播、著作权侵权等社会风险。笔者认为人工智能文生视频大模型作为人类精神产品创作的工具，其生成的内容可以构成作品。基于人工智能文生视频大模型的技术特点，其引发的社会风险应从建立健全全流程数据安全监管机制、严格规制虚假视频传播、著作权风险系统化治理等方面加以防控，进一步推动AI文生视频大模型的合规、高效与可持续发展。
关键词：SeeDance2.0，著作权，社会风险，法律规制
一、SeeDance2.0引领AI文生视频大模型的发展
人工智能技术已从文生文到文生视频的大发展，能够将文字描述转化为视听内容，生成式的工具属性正在持续强化，且已渗透至广告营销、影视制作等领域，内容创作的门槛也在不断降低，SeeDance2.0 作为国内AI文生视频大模型的标杆产品，引发了内容产业的剧烈震动。
（一）SeeDance2.0的技术特性
以 SeeDance2.0为代表的AI文生视频技术，突破了传统 “先生成视频、后匹配音频” 的模式，实现了视频与音频的联合生成，同时支持多模态参考输入与自动分镜运镜，解决了可控性差、生成效率低、音画脱节等核心痛点。SeeDance2.0给用户最直观的感受就是具有了较高水平的导演和剪辑思维，支持文字、图片、视频等多类素材的混合输入、反复调教、精准控制，生成的人物动作流畅度与真实感极高，口型匹配达到毫秒级精准，音效与画面节奏完全同步，模型可自动完成分镜设计与运镜规划，具有明显的“导演意识”。
（二）SeeDance2.0带来的产业冲击
SeeDance2.0 的技术进步适配了多元化的产业需求，应用场景覆盖电商广告、短剧、影视、社交娱乐等多领域，推动大幅压缩成本、提高制作效率、降低创作门槛。15秒视频成本降至10元左右，用户无需掌握专业设备、拍摄、剪辑、特效技能，一人短时间可完成一个剧组耗时数天制作的视频，且画面在清晰度、色彩还原、景深与动态模糊等方面已完全贴合商用级创作标准，实现了海量内容供给、工业化批量输出。例如，中文在线已通过接入SeeDance2.0技术，在春节档上线 10 部 AI 短剧，累计播放量突破5亿。
SeeDance2.0 引发的短视频、短剧、广告内容“产能爆炸”，也将推动相关产业岗位供给体系的深刻变化，摄影师、剪辑师、分镜师、特效师、灯光师等技术性岗位将大量减少，视频制作“创意”类岗位进一步增长，内容产业从 “劳动力密集型” 向 “创意 + AI驱动 ” 全面转型。
（三）AI文生视频大模型现有法律规制
我国《民法典》、《个人信息保护法》、《数据安全法》、《网络安全法》、《网络音视频信息服务管理规定》《互联网信息服务深度合成管理规定》、《生成式人工智能服务管理暂行办法》、《人工智能生成合成内容标识办法》等法律法规及规范性文件，均涉及AI文生视频规制相关规定。其中，《生成式人工智能服务管理暂行办法》作为专门针对生成式AI的部门规章，明确规定生成式AI的技术发展与治理、服务规范、监督检查和法律责任等规则。根据《生成式人工智能服务管理暂行办法》第4条规定，提供和使用生成式人工智能服务，不得侵害他人肖像权、名誉权、荣誉权、隐私权和个人信息权益，第7条规定，生成式人工智能服务提供者应当依法开展预训练、优化训练等训练数据处理活动。
二、AI文生视频大模型生成内容的认定
AI文生视频是否受《著作权法》保护，需要认定其是否满足作品的构成要件，作品包含四个构成要件：属于文学、艺术和科学领域内；具有独创性；具有一定的表现形式；属于智力成果。AI文生视频属于文学、艺术和科学领域内，具有一定的表现形式，主要争议点在于是否属于智力成果、具有独创新两方面。
（一）AI文生视频智力成果属性认定
AI文生视频智力成果属性认定主要在于人工智能是否具备智力，智力的表现特征为学习记忆、逻辑推理、抽象思维等能力，生成式人工智能具有与人类智力相似的能力，其具备自然语言处理能力，能够准确理解人类的表达，同时还可以通过大量数据自我学习持续优化性能，并模拟人类创作活动。以SeeDance2.0 为例，其根据用户的要求调整视频内容，为生成视频模型自主抓取最优数据，表现了很强的自主性，具备智力化特征。人类在AI开发的每一环节的深度参与，使得AI生成内容本质上是人类智慧的延伸，属于智力成果。①
（二）AI文生视频独创性认定
现阶段所有AI文生视频的“创作”不能仅仅依靠人工智能自己完成，虽然AI通过深度学习算法、大规模数据训练，展现出强大创作能力，但AI仍处于辅助地位，必须严格按照用户的创作意图进行创作，所以AI文生视频是否具有独创性，取决于生成式人工智能的用户对生成内容作出的独创性贡献，而用户贡献独创性判断的类型化标准只能通过司法个案判断，相关法律法规无法“一概而论”，应通过判例提供具体的指引。目前，司法实践中众多法院判例明确AI生成内容可以具有独创性，2023年的Stable Diffusion 案中，北京互联网法院判决涉案人工智能生成内容，体现了用户贡献的独创性，可以构成作品。综上所述，AI文生视频是否属于作品，关键在于用户对生成内容的独创性贡献。
三、AI文生视频应用的社会风险
SeeDance2.0上线仅仅几天，真假视频、侵犯隐私等问题随之暴露，平台紧急暂停上传真人素材，这进一步反应出AI文生视频发展的同时，也带来了一系列社会风险。
（一）数据安全风险
人脸、声音等生物识别信息是“个人敏感信息”，未经他人同意不得使用，AI文生视频收集数据信息如果包含隐私信息，且未经当事人同意，生成的视频就存在侵犯他人隐私风险。若AI文生视频模型未经用户同意，使用用户隐私数据训练大模型，这也是侵犯他人隐私风险的重要来源，用户可能输入大量涉及个人隐私数据的文字、视频等信息，如果这些信息进入大模型数据库，可能造成个人隐私信息泄露风险。即使收集的用户数据经过权利人同意，之后权利人也基本无力控制其隐私数据用途，引发数据安全问题。②
（二）深度伪造虚假视频传播风险
AI时代常会出现真实世界与虚拟景象难以区分的现象，许多虚假的文生视频足以“以假乱真”。用户利用AI生成的深度伪造视频，如虚假广告、虚假言论、虚假新闻等，可能被广泛传播，甚至被用于实施侮辱与诽谤，侵害他人权益，造成不良社会影响。AI文生视频技术的进步，让虚假信息的识别难度进一步增加、传播频次更高、覆盖面更广。深度伪造虚假视频的产生，一方面，可能是AI大模型在根据用户提示词生成视频过程中，自主随机抓取到虚假信息，被动生成了虚假视频，这是AI主动输出型虚假信息。另一方面，可能是被动输出型虚假信息，大模型根据用户提示词生成虚假视频，被用户广泛传播用于非法目的，例如，北京市海淀区市场监管局查处的首例滥用AI技术发布虚假广告案，该公司通过AI伪造央视主持人形象售卖糖果食品。
（三）著作权侵权风险
SeeDance2.0爆火后不久，迪士尼就向字节跳动发出SeeDance2.0项目停止侵权通知函，认为字节跳动将其SeeDance2.0服务预置了包含迪士尼旗下《漫威》、《星球大战》及其他系列版权角色的盗版素材库，复制、传播及创作延伸作品。AI文生视频未经许可使用他人享有著作权的作品，在不构成合理使用或法定许可等法定免责事由的情形下，可能产生著作权侵权风险。一方面，根据用户文本指令生成的视频可能引用电影、电视剧中情节、IP、场景等，可能侵犯该作品著作权，例如，“腾讯诉盈讯案”、“菲林诉百度案”被告均未经许可使用原告享有著作权的美术或文字作品，被认定为侵权。③另一方面，AI文生视频可能根据用户指令，将小说等作品进行整理改编或将视频作品片段编排生成，侵犯该作品作者改编权或汇编权，如果进一步并将该作品在网络上进行传播，将侵犯该作品作者的信息网络传播权。
四、AI文生视频大模型社会风险的法律规制路径
AI文生视频大模型暴露的社会风险，虽然《生成式人工智能服务管理暂行办法》规定了相关治理措施，但是，笔者认为不够全面、深入，还需构建全过程、多主体的风险防控体系。
（一）建立健全全流程数据安全监管机制
一方面，要细化完善AI文生视频使用隐私数据的规则，强化个人隐私数据保护，明确大模型对个人隐私数据使用必须经过权利人同意，同时在AI文生视频大模型采集个人数据方面加强监控，包括对已授权隐私数据使用情况的深度监管。另一方面，行政机关加强AI领域数据安全执法，进一步充实执法队伍中AI领域的“行家里手”，对相关企业大模型训练数据使用、视频生成数据抓取、用户数据保存使用等全流程监管、加强执法。在深化事中检查的同时，也要坚持包容审慎的监管理念，加强事前预防与事后应对，积极鼓励支持AI文生视频产业蓬勃发展。④
（二）严格规制虚假视频的传播
《人工智能生成合成内容标识办法》明确要求，AI服务提供者添加显式标识和隐式标识，应用商店上架AI软件时必须检查其标识功能。一方面，要强化AI文生视频平台的内部治理，平台作为内容生成的手段，应该承担更高的注意义务，在加强对AI标识功能的管控外，也要严格审核 AI生成的深度伪造视频和完全虚假视频，例如，SeeDance2.0在内测后2天就暂停了真人素材参考功能，但是平台应该进一步建立相关授权机制，在获得被拍摄者同意等合规前提下允许上传真人素材，从而推动AI文生视频大模型更好发展。另一方面，要加强传播平台的内容审核，对于短视频传播平台，需进一步强化审核机制，更多融入技术检测技术，借助AI大模型解析视频素材、判断是否违规，提升对违规内容发现的能力，并进一步搭建公众举报渠道，对违规内容及时核查，防止虚假视频扩散传播造成更大负面影响。
（三）著作权风险的系统治理
1.AI文生视频著作权法律规则的完善。如果对著作权保护在AI领域范围过宽，则会阻碍AI文生视频大模型的发展，但也要激励民众创作更多创新作品，对大模型著作权保护做出更精细化的规则完善。大模型在学习训练阶段，需要使用大量的作品，持续提升生成能力与视频质量，针对学习训练使用的自然人创作作品，我们应建立法定许可规范，允许大模型可不经自然人许可使用在先作品，但应向著作权人支付相应报酬。由于AI文生视频模型的价值在于用户使用，过宽的著作权保护会影响生成视频的社会传播、技术进步及产业发展，因此，著作权法定许可应完善包含AI大模型学习训练合理范围使用。
2.AI文生视频大模型的著作权监管。用户借助大模型生成的视频未经许可使用他人享有著作权的作品，构成著作权侵权。在著作权侵权行为发生过程中，由于网络用户众多及大模型算法黑箱问题，导致监管部门很难从外观上识别和判断是否存在侵权行为，因此，监管主体应与大模型开发人员、著作权人合作，围绕视频的使用、生成，借助“以技治技”方式，用对抗性方法建立方便追踪、可及时干预的识别方法，实现动态跟踪并识别漏洞，在发现漏洞后及时约谈相关主体，及时调整系统参数及架构，避免造成著作权侵权。⑤
3.AI文生视频大模型的行业自治。执法司法在解决AI领域著作权问题上成本较高且不利于产业发展，应更多通过行业自治方式更加高效化解矛盾。AI文生视频大模型的著作权问题本质上是权利来源问题，要从根本上提高来源合法性，推动AI大模型公司与著作权人广泛建立合作共赢生态圈，大模型公司可以通过集体管理组织授权或签约创作者等方式建立正版数据库，同时不同大模型公司对享有著作权的作品可以相互授权使用。⑥AI文生视频大模型与传播平台也应建立互通机制，权利人主张视频侵犯著作权的，允许权利人可以选择同意使用并收取合理报酬，如果权利人不同意使用，AI文生视频大模型或视频平台删除视频。
① 王迁：《再论人工智能生成的内容在著作权法中的定性》，载《政法论坛》2023年第4期。
② 逯达：《文生视频类人工智能的数据风险及其法律规制》，载《河南社会科学》2024年第10期。
③ 朱嘉珺：《生成式人工智能虚假有害信息规制的挑战与应对》，载《比较法研究》2023年第5期。
④ 钭晓东：《风险与控制：论生成式人工智能应用的个人信息保护》，载《政法论丛》2023年第4期。
⑤ 高阳：《通用人工智能提供者内容审查注意义务的证成》，载《东方法学》2024年第1期。
⑥ 丛立先、李泳霖： 《人工智能文生视频大模型的作品风险、著作权归属及有效治理》，载《新疆师范大学学报》2024年第6期。
（作者：戴春燕，女，北京市怀柔区人民检察院，办公室副主任；付腾飞，男，北京市怀柔区人民检察院，检察官助理。）
来源：产新网
