AI生成图像上传Facebook、Instagram，Meta将显示标记

世界各地选举纷纷到来，Meta表示将在未来几个月开始对用户上传至Facebook、Instagram、Threads的AI生成图像加以标记，甚至对未披露AI生成视频和音频的用户进行惩罚。

Meta已经将“Imagined with AI”浮水印嵌入自家AI功能所产生的逼真图像，也计划开始对使用OpenAI、微软、Google、Adobe、Midjourney、Shutterstock等工具制作的AI生成图像进行相同处置，未来将对用户上传至Facebook、Instagram、Threads的AI生成图像加以标记。

Meta全球事务总裁克莱格（Nick Clegg）接受外媒采访表示，随着AI生成内容越来越难以辨别真伪，Meta正在创建标准工具检测合成内容，提出新措施希望“激励”科技同业跟进。

克莱格表示，整个产业在制定识别AI生成视频和音频的标准落后实务现况，尽管Meta对这一类内容如何滥用、欺骗人们保持高度警惕，但一家公司无法独自捕获所有资讯来分辨真伪。

Meta一直与Partnership on AI等组织合作，以现有的内容真实性计划为基础。与此同时，Adobe最近推出内容凭证系统，将内容来源资讯放入图像的metadata。Google在发布图片测试版后，将SynthID浮水印扩大涵盖音频文件。

克莱格更表示，Meta很快将会开始要求用户披露何时使用AI制作视频或音频贴文。如果贴文不符规定，Meta将采取一系列惩罚措施，从警告开始，最终甚至删除违规贴文。

AI热潮下，人们越来越担心泛滥的Deepfake图片以及其他AI生成内容，在选举期间误导选民做出不准确的选择，尤其Meta总部所在的美国正在进行总统候选人提名初选，预计年底产生大选结果，让Meta对此更为谨慎，提出具体措施以防范不实资讯滥传。