即梦回应紧急下架真人素材生成 AI视频引发信任危机[推荐]

近日，字节跳动上线了Seedance 2.0视频生成模型并进行内测，这一举动在行业内引发了热议。该模型支持文字、图片、视频、音频等多种素材输入，生成视频时在自运镜和分运镜、全方位多模态思考、音画同步生成及多镜头叙事能力等方面实现了突破。

有网友表示，看了Seedance 2.0生成的视频后，普通人很快将难以分辨AI生成的内容与真实拍摄的区别。甚至有人感叹，AI视频已经进入了分辨不出真假的时代。

《黑神话悟空》的制作人冯骥也对Seedance 2.0给予了高度评价，称其为“领先、全能、低门槛且产能爆炸”，他认为这标志着AIGC的童年时代结束。同时，他也表达了对于假视频泛滥可能导致的信任危机以及知识产权问题的担忧，并建议大家提醒家人特别是不熟悉AI技术的人士，未来一切缺乏官方权威渠道背书的视频内容都可能是伪造的，需要通过多种渠道交叉验证以避免受骗。

此外，知名科技博主Tim（本名潘天鸿）在测试过程中发现了一个令人惊讶的现象：即使只提供自己的照片而未提供声音或视频等其他素材，Seedance 2.0也能生成带有他个人音色的声音。更让他感到震惊的是，当他上传办公楼的一面照片时，系统能够生成几乎完全相同的另一面。他认为这种情况意味着AI可能未经许可就使用了他的公司数据进行训练。

鉴于这些讨论，即梦方面紧急暂停了真人素材作为主体参考的功能。运营人员解释说，为了保障创作环境健康可持续发展，他们正在根据用户反馈进行优化调整。目前暂时不支持将真人照片作为生成视频的主要参考对象。