防堵AI深伪诈骗！谷歌搜索结果将标注由AI生成的图像

发布时间：2025-02-19 17:38:45 来源:AI工具屋

谷歌周二表示，计划对谷歌搜索进行调整，使用户更清楚地知道搜索结果中，哪些图像是由AI生成或由AI工具编辑的。

该公司表示，在接下来的几个月中，谷歌将在搜索、Google Lens和Android上的Circle to Search功能的“关于此图像”窗口中标记AI生成和编辑的图像，类似的提示可能会出现在YouTube等其他谷歌的其他平台上。谷歌表示，将在今年晚些时候分享更多相关信息。

值得注意的是，只有包含“C2PA元数据”的图像才会在搜索中被标记为AI处理过的。C2PA（内容来源与真实性联盟）是一群致力于制定技术标准的组织，旨在追踪图像的历史，包括捕获和/或创建图像的设备和软件。

目前，包括谷歌、亚马逊、微软、OpenAI和Adobe在内的公司都支持C2PA。然而，该联盟的标准尚未得到广泛采用。此前有媒体报道，C2PA在推广和互操作性方面面临诸多挑战，目前只有少数生成式AI工具和徕卡、索尼的相机支持该组织的规范。

此外，与任何元数据一样，C2PA元数据可以被删除、擦除或损坏到无法读取的程度。而一些流行的生成式AI工具（如xAI的Grok聊天机器人用于图像生成的Flux）生成的图像不含C2PA元数据，部分原因是它们的开发者尚未同意支持该标准。

但分析认为，尽管如此，有措施总比没有好，尤其是在AI深度伪造（deepfakes）迅速传播的情况下。调查显示，大多数人都担心被深度伪造欺骗，以及AI可能会助长虚假宣传的传播。根据一项估计，涉及AI生成内容的骗局在2023年到2024年之间增长了245%。德勤预计，与深度伪造相关的损失将从2023年的123亿美元飙升至2027年的400亿美元。