AI内容监管迎新举措!马斯克宣布Grok将识别AI生成视频并追踪来源

XM外汇官网APP获悉，内容埃隆・马斯克近日透露，监管举措其人工智能公司xAI正在开发的迎新聊天机器人Grok，将很快具备识别AI生成视频和追踪其网络来源的克宣能力，以应对日益严重的布G并追深度伪造内容问题。Grok即将推出的识别生成视频新功能能够直接分析视频比特流中的人工智能特征，从而识别出在压缩或生成过程中留下的踪源微小痕迹，这些特征虽肉眼不可见，内容但却能揭示内容的监管举措真伪。

近几个月，迎新随着OpenAI的克宣Sora App的崛起，AI视频生成技术正在改变互联网生态。布G并追Sora 2具备自然光影一致性、识别生成视频音画同步和多人物逻辑连贯性，踪源使得AI合成视频几乎难以与真实视频进行区分。内容然而，这项技术的广泛应用也引发了社会的不安：从名人形象被篡改到政治操控，AI伪造视频的传播速度已经超过了事实核查的能力。批评者称这种泛滥的虚假内容为“AI残渣”，即未经验证的大量AI生成影像充斥网络。

一名X平台用户在帖子中表达了对此现象的担忧，指出“在未来一两年内——甚至可能更早——任何讨厌你的人都能够生成你进行恶劣言行的虚假视频，而这些视频与真实录像几乎无法区分，导致你很难证明其伪造性。目前尚未采取任何措施来防止这种情况。”对此，马斯克回应称，Grok的新功能将能分析视频比特流中的AI特征，并进一步搜索互联网以评估视频的来源。