AI生成的虚假图片泛滥亟待监管
近日,美国前总统特朗普被全副武装的纽约防暴警察按倒在地的图片在推特等社交媒体平台泛滥,但这些看似细节丰富的图片却与事实毫不相干,这些图片出自人工智能(AI)驱动的图像生成技术。
专家们警告说,这些图片昭示出一个新现实:在重大新闻事件发生后,虚假图片和视频有可能充斥社交媒体,进一步混淆事实,因此亟须部署相关技术并制订相关政策,对类似技术进行监管。
(相关资料图)
合成图像真假难辨
据美国《财富》杂志网站报道,这些“特朗普被捕”的图片由总部位于荷兰的开源调查媒体“响铃猫”网站的创办人艾略特·希金斯生成。
当希金斯看到有关特朗普可能被捕的消息时,决定将其可视化。为此,他使用最新AI绘画工具Midjourney制作了关于特朗普被捕的图片。他表示,最新工具比之前的版本复杂得多,极大地改进了图像的视觉效果。随后他在推特上分享了合成结果:前总统被警察包围的图片,其中徽章做了模糊处理。据美国《华盛顿邮报》网站报道,仅两天,希金斯发布的这条帖子被浏览了近500万次。
人工智能专家表示,虽然处理并生成虚假图片的技术并不新鲜,但该领域技术的进展速度以及人们对技术的滥用值得关注。数字内容分析公司Truepic的穆尼尔·易卜拉欣指出,“合成内容正在快速发展,真实和虚假内容之间的差距变得越来越难分辨”。
《财富》杂志指出,如今各种AI图像生成工具变得触手可及,它们可在用户发出简单指令后,迅速生成海量栩栩如生的图片。例如,Midjourney这款文本到图像模型现在可生成模仿新闻机构照片风格的图像,如此一来,这些AI生成的图片有望在混乱的新闻环境中“浑水摸鱼”,混淆视听。
关注错误信息传播的华盛顿大学教授杰文·韦斯特说:“这的确会在危机期间增加‘噪音’。”
专业人士强调称,大量制作虚假但看似可信的图像的能力已有了巨大进步,而且很容易用于欺骗目的。很多时候,视觉信息会在没有提供关键背景的情况下被快速转发。事实上,一个关于“特朗普被捕”的虚假图片帖子获得的点赞数超过了7.9万,“就好像这些照片是真的一样”。
技术打击“深度伪造”
希金斯认为,随着合成图像越来越难辨真假,对抗错误视觉信息的最佳方式是提高公众的意识并加强这方面的教育,社交媒体公司可把重点放在开发能够辨别AI生成图像的新技术上,并将这种技术融入自己的平台。
比如,推特出台了相关政策,禁止用户分享可能造成伤害的欺骗性和操纵性媒体内容,例如可能导致暴力、广泛内乱或威胁个人隐私的推文。今年2月,推特推出了“社区笔记”功能,允许用户在推文下方添加注释,并且以长内容的形式进行解释。有观点认为,“社区笔记”或将能够帮助推特成为更可信、让更多人积极发言的平台,并帮助减少假消息、误导性内容的比例,以此吸引更多广告投放。
另据《华盛顿邮报》报道,从2019年开始,主要科技公司加强了打击“深度伪造”的政策。2020年,元宇宙平台公司禁止用户发布高度修改的视频,但仍允许发布旨在模仿或讽刺的修改视频。
不过,有专家表示,技术正在变得更加复杂,也更难监测。况且这些互联网巨头都没有在如何发现这些问题,以及如何执行相关政策方面作出任何重大投资。
政策监管势在必行
“特朗普被捕”虚假图片在互联网泛滥还提供了一个案例研究,表明目前缺乏企业标准或政府法规来解决使用AI制造和传播谎言的问题。
纽约卡内基国际事务伦理委员会的研究人员阿瑟·霍兰·米歇尔说,他担心这个世界还没有准备好迎接即将到来的铺天盖地的虚假信息。
专家们一致认为,特朗普的名气使虚假图片很容易被发现,但识别出普通人相关的虚假图片可能困难重重,而且生成虚假图片的技术一直在进步。从政策角度来看,亟待以立法形式对深度合成技术的应用进行规制。
关键词:
责任编辑:宋璟
-
AI生成的虚假图片泛滥亟待监管
-
天天亮点!港剧女法医JD10集剧情版(06-10集)2
-
要闻:国米门将奥纳纳迎27岁生日,本赛季29次出战有14场完成零封
-
2023中国种子大会暨南繁硅谷分论坛举办 专家企业家共话水稻产业链发展-当前快播
-
天天观热点:第八批国家药品集采有哪些新变化?未来还有哪些突破
-
师徒情深!勇士主场力克马刺 科尔和波波维奇赛后寒暄
-
将于4月3日正式上市 长安欧尚Z6 2.0T车型内饰官图发布|环球今热点
-
湛江经开区免费“两癌”筛查启动-今日要闻
-
观点:国家体育总局党组成员、副局长杜兆才接受纪律审查和监察调查
-
前沿热点:戈贝尔被罚款2.5万,此前抨击联盟帮KD库里詹姆斯进季后赛
-
天天热点!大宗货物直达列车达131列 4月1日起国铁西安局实行新的货物列车运行图
-
清镇市气象台发布大风蓝色预警信号【Ⅳ/一般】【2023-04-01】
-
大众辉腾标志图片_大众辉腾标志
-
每日观察!从华谊到TVB,影视业的尽头也是直播?
-
工信部:坚持以智能制造为主攻方向深化“5G+工业互联网”融合应用
-
《最终幻想:节奏剧场》尼尔系列5首歌曲试听演示! 环球视点
-
沈阳全运会时间地点(沈阳全运会时间)
-
安倍晋三遭枪击现场被开发成马路,纪念碑没立成 世界热头条
-
白头海雕的英语_白头海雕
-
社保账户合并是什么意思 详细解释如下-焦点快报
-
北青:王霜等海外球员将参加中国女足4月份欧洲拉练热身
-
变形金刚:铁堡之盟【34】
-
全球微头条丨洋浦消防安全进校园 “护苗”行动助成长
-
假期复苏文旅新潮流萌宠乐园 今日热闻
-
3月31日云游戏板块涨幅达2%|环球报资讯
-
钟薛高推出3.5元雪糕,“雪糕刺客”从此再见?|焦点热闻
-
焦点资讯:纺城“吹”起田园森系风
-
重生细胞新DLC坏种3月30日上线
-
奥比岛2020年红宝石_奥比岛怎么刷红宝石
-
货币市场基金火爆非美国经济之幸 衰退火种或已被点燃 天天资讯
-
互联网电商板块3月30日跌0.17%,联络互动领跌,主力资金净流出3.05亿元
-
关于企业管理的书籍有哪些_关于企业管理的书籍哪本好
-
安徽建工2022年营收突破800亿元 主要经济指标均创新高 每日信息
-
全球头条:官方认证“全国美食地图”来了,你的家乡美食上榜了吗?
-
恭喜中国女排!官方海报暗示头号球星将驰援,蔡斌终于有王牌了! 环球关注