字节跳动（ByteDance）的研究人员展示了新一代人工智能系统"OmniHuman-1"，该系统可以生成迄今为止最逼真的深度伪造视频。与现有技术相比，OmniHuman-1生成的内容几乎完全突破了"恐怖谷"效应的限制。
OmniHuman-1系统仅需一张参考图片和语音素材即可生成高质量视频。该系统具有以下特点：
尽管该系统在处理低质量参考图片和特定姿势时仍存在局限，但其整体表现远超现有深度伪造技术。虽然字节跳动尚未公开发布该系统，但AI社区可能很快就能复制类似技术。
在政治领域，深度伪造技术已经造成严重影响：
在金融领域，深度伪造技术导致大量诈骗案件：
2月，数百名AI领域专家联名呼吁严格监管深度伪造技术。美国已有超过十个州制定相关法规，其中加利福尼亚州法案将赋予法官删除深度伪造内容的权力。
根据身份验证公司Jumio在2024年5月的调查显示：
