FPPC线上谈AI识别新挑战 「 真实性须监管」

作为加州领先的政治监察机构，加州公平政治实践委员会（FPPC）于22日（周二）举办了线上座谈会。此次座谈会由FPPC的公共外展与科技委员会主办，邀请来自新兴技术和公共政策领域的专家，共同探讨人工智慧（AI）技术的运用与监管，并讨论如何通过有效的政策措施强化执法、提升政府透明度，维护民众对政府的信任。

来自柏克莱加大（UC Berkeley）的电脑系教授James F. O'Brien博士在会中发表了关于AI影像生成技术的精彩分享。他指出，尽管人工智慧在影像生成领域取得了显著突破，并在创意、电影制作等方面带来了积极的应用，然而，这项技术也带来了识别真假内容的新挑战。O'Brien特别提到，AI生成的影像和修改后的照片可能难以区分真伪，这对政治广告、商业推广等领域可能造成误导，进而损害公共信任。他强调，AI技术的快速发展意味著未来识别AI生成影像的痕迹将愈加困难，这需要更为高效的工具来标注和识别影像，确保在公开使用时保持透明度，避免对选民判断产生不良影响。

Hive AI的首席执行官Kevin Guo也在座谈会中分享了他对AI影像生成技术的看法。他表示，尽管目前AI能够生成极为真实的影像，但其本质上仍是基于既定模式进行模拟的引擎，并未达到人类般的创造能力。Guo强调，虽然AI影像变得越来越精致，但每个AI生成器依然存在独特的“模板”，这为识别和检测AI生成影像提供了技术支持。他同时指出，AI技术不仅在商业领域具有应用价值，也在公共安全和政府机构中发挥著日益重要的作用，并已经在美国国防部等机构中取得了显著的成功。Hive AI的首席执行官Kevin Guo分享了他对AI技术发展的见解。（线上会议截屏）

Adobe的产品经理Andrew Kaback在座谈会中介绍Adobe在推动AI技术透明应用方面的努力。她表示，随著AI技术的普及，确认数位内容的真实性变得越来越困难。为了应对这一挑战，Adobe开发了「内容凭证」技术，这项技术能够让用户在影像、音频和视频中附加真实性标注，显示创作者的身份和内容修改历史，从而提升数位内容的透明度。Kaback强调，这项技术的开放性和可扩展性，使其能够在各行各业中推广应用，并帮助社会大众了解数位内容的来源和背景。