【编者按】
当AI学会制造新闻，真实与虚构的边界正在崩塌。最近，美国加州出现了一批以假乱真的"电视新闻报道"——主播神情激动地播报着事故受害者获得天价赔偿的新闻，CNN台标赫然在目，受害者手持巨额支票的画面极具冲击力。然而这竟是律所利用AI技术精心设计的广告陷阱！随着Sora、Vibes等AI视频工具横空出世，只需几秒钟就能生成专业级播报画面，让营销信息披上新闻外衣长驱直入。更可怕的是，这些AI生成的"新闻"正在社交平台形成定制化信息流，如同量身打造的成瘾性内容。当虚假信息以假乱真，当诈骗广告冠冕堂皇，我们该如何守护认知的防线？这场技术狂欢背后，正在酝酿怎样的信任危机？
某短视频里，一位网红正对加州电视新闻报道表现得情绪激动。她身后的播报画面看起来真实可信——主播号召观众采取行动，受害者现身说法，甚至连CNN台标都一应俱全。
"加州事故受害者正在获得疯狂赔偿！"横幅上打着"突发新闻"字样，主播的声音铿锵有力。
但这看似网红热议社会新闻的场面，实则是法律服务机构的广告陷阱，其中大部分内容都由人工智能生成。
近月来，随着大批AI视频工具及新型传播方式涌现，新闻播报与商业广告的界限正在变得模糊不清。
人身伤害律师向来以夸张广告闻名。他们运用各种最新手段——广播、电视、免费热线、广告牌、公交站台长椅乃至电视购物节目——将品牌烙印在消费者意识中。这些广告刻意采用重复、出位、抓耳的设计，确保观众遭遇事故时能立即想起求助对象。
如今他们正运用AI制造更具说服力、更引人入胜、更接地气的新一代广告。
"商品和服务类线上广告正在使用AI生成虚拟人物及网红复制品进行推广，却未告知这些人物的合成属性。"康奈尔理工大学信任与安全总监亚历克西奥斯·曼扎里斯指出，"这种趋势对广告真实性追求而言绝非好事。"
被AI复制的远不止电视新闻。人们资讯流中那些骇人听闻的标题，正越来越多地由AI代广告主生成。
某网络债务清偿广告中，男子手持报纸，头条宣称负债2万美元的加州居民可获得援助。画面显示借款人正排队领取救济。专家表示，该男子、他手中的《福布斯》报纸乃至排队人龙全由AI生成。
尽管被称为"AI垃圾"的内容备受争议，企业仍在持续推出更强大的拟真视频生成工具，使得制作精良的假新闻和播报易如反掌。
meta近期推出Vibes应用，专攻AI短视频创作与分享。数日后，OpenAI发布Sora应用，配备升级版音视频生成模型。
Sora的"Cameo"功能允许用户将本人或朋友形象插入以假乱真的AI短视频，制作过程仅需数秒。
上线以来，Sora迅速登顶应用商店下载榜。OpenAI正鼓励企业开发者运用其工具开展产品研发推广。
"我们希望借助Sora 2视频API，开发者能在产品内直接生成同等高品质视频，配备逼真同步音效，开拓全新创作维度。"OpenAI首席执行官萨姆·奥尔特曼本月向开发者宣告。
由此催生出新型合成社交媒体平台，用户可在定制化信息流中创作、分享、发掘AI内容，全程贴合个人喜好。
试想持续推送如TikTok般令人上瘾的病毒视频，但其中真伪难辨。
专家警告，这些几乎人人可负担的强大工具潜藏危机。某些国家已有官方背景组织利用AI生成新闻进行虚假宣传。
网络安全专家指出，AI批量产出的存疑报道、宣传内容和广告正在某些场景中淹没人类创作，恶化信息生态。
YouTube被迫下架数百条使用泰勒·斯威夫特等明星形象的AI视频，这些内容涉嫌推广医保诈骗。Spotify移除了数百万首AI生成曲目。据FBI统计，自2020年以来美国人因深度伪造诈骗损失高达500亿美元。
在素来游走灰色地带的法律服务广告领域，有人担忧快速进化的AI将使规避监管更为容易。虽然法律允许广告适当戏剧化，但严禁承诺结果或赔偿金额。
谢泼德穆林律师事务所助理塞缪尔·海厄姆-米勒德指出，那些呈现AI受害者手持AI巨额支票的AI新闻播报正在试探全新领域。
"观众可能信以为真，认为某人确实获得了赔偿，以为这是真实新闻，但事实未必如此。这无疑是个隐患。"
