“特朗普被捕”假相片大举传达 AI图画生成技能惹争议

liukang20242个月前 (05-11)在线吃瓜1202

参考音讯网3月24日报导美国前总统特朗普上周末在他的“实在交际”网站上写道，他估计将在3月21日被捕，并让支持者预备看他被捕时的相片。没想到，实际中这一幕还未产生，在交际媒体顶用人工智能（AI）组成的“特朗普被捕”假相片却大举传达起来。

据美国《华盛顿邮报》网站23日报导，艾略特·希金斯是开源查询媒体响铃猫网站的创始人，本周当他看到有关特朗普或许被捕的音讯时，他决议将其可视化。

他用了一个AI艺术生成器，为其供给简略的提示，例如“特朗普在被捕时摔倒了”。他在推特上共享了组成的成果——前总统被差人围住的相片，差人的徽章做了含糊处理。“在等候特朗普被捕时制作特朗普被捕的相片，”他写道。

“我只是在闹着玩，”希金斯在承受采访时说，“我想或许有5个人会转发它。”但是，两天后，他描绘这件从未产生过的事情的帖子被阅读了近500万次。

报导称，这供给了一个事例研讨，即人工智能生成的图画日益杂乱化，发布起来具有便利性，并或许在紊乱的新闻环境中形成混杂。当希金斯开端传达这张特朗普的组成相片时，他清晰标明是假的。但假相片能够在互联网上传达的一连串视觉效果标明，“很多制作虚伪但看似可信的图画的才能已经有了巨大进步，”人权安排“见证”安排的履行主任萨姆·格雷戈里说，“并且很简单看出这能够与诈骗的意图和谐进行。”

该技能正在快速开展。希金斯说，他运用米德朱尼实验室（Midjourney）艺术生成器的5.0版别创建了关于特朗普被捕的图画。他说，他每月付出30美元的这一最新版别比之前的版别杂乱得多，极大地改进了他创造的一组美国总统变成教皇的图片视觉效果。他说：“该东西好像学习了更多关于图画连贯性的常识。”

报导称，最近几周，组成媒体产品被很多用来在网上传达虚伪信息，有时来源不明，有时资料的创造者对此乐祸幸灾。

2019年，时任美国众议院议长南希·佩洛西的一段失真视频在交际媒体上敏捷传达后，首要科技公司加强了冲击“深度假造”的方针。第二年，元世界渠道公司（Meta）制止用户发布高度修正的视频，但仍答应发布旨在仿照或挖苦的修正视频。推特还推出了一项新规则，制止用户共享或许形成损伤的诈骗性和操纵性媒体内容，例如或许导致暴力、广泛内争或要挟个人隐私的推文。

“监督美国媒体安排”主席安杰洛·卡鲁索内说：“从那以后，技能变得愈加杂乱，但更难监测。并且这些互联网巨子都没有在怎么发现这些问题，以及怎么履行针对这些问题的方针方面做出任何严重出资。”

布鲁金斯学会AI和新式技能方案主任梅瑟罗指出，“特朗普被捕”的相片或许无法让人信任，但仍能够挑动大众的心情，假如特朗普的支持者或反对者遭到画面的影响，或许做出激动之举。这一事情再次标明，现在缺少企业规范或政府法规来处理运用人工智能制作和传达谎话的问题。微软创始人比尔·盖茨3月21日发文称，AI是数十年来最重要的技能进步，他一起呼吁政府和业界协作，约束AI带来的危险。卡鲁索内说：“我在这里看到的是冲击虚伪信息新阵线的榜首枪。”（编译/王笛青）

告发/反应