OpenAI最近推出了一款深度伪造（deepfake）探测器，专门用于识别其图像生成器DALL-E生成的内容。最初，该工具将提供给一组经过挑选的虚假信息研究人员进行测试。
在动态的网络安全领域，人工智能驱动的深度伪造检测、实时监控和高级数据分析等变革性技术正在彻底改变数字安全和真实性。领先的数据和分析公司GlobalData表示，这些初创企业主导的创新正在加强对被操纵内容的检测，并实现更安全的数字环境。
GlobalData颠覆性技术项目经理Vaibhav Gundre评论道:“人工智能生成的深度造假已经变得越来越复杂，对个人、企业和社会构成了重大风险。然而，由机器学习(ML)驱动的尖端检测方法正在越来越准确地识别和标记被操纵的内容。从分析生物信号到利用强大的算法，这些工具正在加强防御，防止滥用深度伪造的错误信息、欺诈或利用。”
GlobalData的“破坏者智能中心”(Disruptor Intelligence Center)的“创新探索者”(Innovation Explorer)数据库突出了几家在深度伪造检测领域率先创新的创业公司。
Sensity AI：使用专有的API来检测深度伪造的媒体，如图像、视频和合成身份。检测算法经过微调，可以识别人工智能生成图像的独特伪像和高频信号，以及通常在自然图像中不存在的信号。
DeepMedia：人工智能的深度伪造检测工具DeepID使用像素级修改、图像伪影和其他图像操作迹象进行图像完整性分析。对于音频，它使用音高、音调和频谱模式等特征来确保真实性。对于视频，它使用逐帧分析视觉特征，如面部表情、身体动作和其他视觉元素。
Attestiv：于2024年1月更新了其在线平台，以检测人工智能生成的伪造内容并验证媒体，为视频、图像和文档中的复杂深度伪造提供实时安全保障。它使用先进的机器学习来分析像素级的图像，在图像上可视化地覆盖热图，展示图像可能被操纵的方式和位置。
Gundre总结道：“深度伪造检测的这些进步正在将网络安全转变为确保数字内容的真实性。然而，随着这项技术的发展，我们必须严格审查围绕隐私、授权和广泛采用其意想不到的后果的道德考虑。在保护和道德使用之间取得适当的平衡，对于通过人工智能创造的合成内容可以安全地用于合法应用的未来至关重要。”
