- 读书 >
- 睡前消息文稿 >
- 2022年(374) >
- 九月(479)
睡前消息488期：重庆山火之后，有图≠真相
2022年9月23日睡前消息文字版第488期
【睡前消息488】重庆山火之后，有图≠真相
大家好，2022年9月23日星期五，欢迎收看第488期睡前消息，请静静介绍话题。
今年八月，重庆曾经有一次大面积森林火灾，当地一部分群众参与了救灾行动。
这次人民自救行动是全国知名的新闻事件，但是在信息传播过程中，最著名的新闻图片并不都是现场摄影。
8月23日，重庆一名独立摄影师小影使用软件，人工合成了一张摩托车骑手“穿越火线”的图片，相信不少观众都看到过。作者发布这张图片时说明了图片是后期制作的，但在后续的传播中，作者的说明被有意无意忽略了，而转发或者直接使用的各家媒体也没有求证图片的原始出处，默认当做现场图片。
除了人工合成之外，还有AI软件生成的图片也被媒体和普通用户大量转发。8月25日晚上，微博用户@石茜的江湖，发布了一系列壮观的消防员与山火图片，并未说明来源。随后图片被许多自媒体当做现场画面，用来证明消防人员和当地群众冒险救火的艰难，还有不少官方机构转发。
督工，你怎么看待虚拟图片对新闻报道的影响？
[图片]
https://weibo.com/1864280172/M2Ib8e6vH?r
https://weibo.com/3806438281/M2NJU3s2o?pagetype=profilefeed
我们先回顾一下图片的传播链条。
媒体后来采访到了“穿越火线”图片的原作者小影。她是重庆的一名独立摄影师。她声明自己制作图片的目的是给“前线”的车友打气。小影的另一个身份是摩托车商业媒体的编辑，她说制作图片的另一个目的，是纪念摩托车在救援中的作用。
8月23日晚上八点半，她在微信朋友圈发布了图片，明确说明图片是自己ps的。
[图片]
但图片离开她的朋友圈之后，就立刻被自媒体转发，成为重庆山火的标志性信息。不到2个小时，原作者小影意识到传播出现了偏差，再次发朋友圈，宣布图片不是现场图，还公布了原始素材，火灾背景来自前几年的云南山火。
[图片]
同时，她在抖音上发表了辟谣声明，但是无法阻止错误信息持续传播，被大量自媒体选做封面。
[图片]
后来作者小影接受采访，对当前媒体生态表示无奈，静静帮我读一下她的解释：
“因为越来越多的平台不经求证在转发，也当作现场照片在进行描述。很多自媒体、博主都在转发，但他们没有对图片进行求证与解释，事态发展越来越严重。作为始发者、媒体工作者，有一定的责任消除这些误会，所以我进行了澄清与致歉。”
https://export.shobserver.com/baijiahao/html/521671.html
[图片]
这种力度的辟谣之后，还是反复有人推荐虚假图片参选“2022年度最佳摄影作品”。
[图片]
另一组AI合成山火照片也制造了类似的问题，先是自媒体传播失控，到了8月26日下午，央视新闻选用其中一张AI作品做了一张宣传海报。海报的右上角谨慎地标注了“非新闻图片”，但下方有类似于实景照片的说明“面前是漫天山火，身后是万家灯火”。
[图片]
https://weibo.com/2656274875/M2P0PsB5A?
另外几条并列的微博宣传画，央视新闻都使用了真实的新闻照片，并且标注了摄影师。
[图片]
[图片]
[图片]
https://weibo.com/2656274875/M2VirB6jk?
https://weibo.com/2656274875/M2QjqeWWD?
无论是有意还是无意，客观上越来越多的媒体没有区分真实图片和AI生成图片，往往是把两种图片混合使用，而且往往把非真实图片放在前面，作为封面图。
[图片]
https://weibo.com/1564834725/M2Z6L0kjV?
这种媒体传播现象引发了争议。反对者认为Ps图片上头条是“消解重庆人民的努力，消费全国人民的情绪，把灾难当景观。”
https://weibo.com/1957491335/M2NZXhuVG?
https://weibo.com/1957491335/M2QvIwxNd?
[图片]
支持者则表示，不在乎图片是不是PS的，只要有正能量就行。有的媒体辟谣，指出“穿越火线”图片是p图，大部分热评表示无所谓，甚至说“女人哪张照片不P图”，公开否认客观事实的存在。
[图片]
[图片]
https://weibo.com/2028810631/M2M6W2pY9?
https://weibo.com/1784473157/M2Nmjoo7K?refer_flag=1001030103_
AI作画事件中，也有很多人支持作者。有的不承认这是AI生成的图片，指责辟谣者别有用心。更多的人声称AI生成图片也没什么，反正现场的确有摩托车手参加救灾。还有人说，观众能分辨AI图片，辟谣是多此一举，打击群众热情。
[图片]
https://weibo.com/1837234894?refer_flag=1001030103_
但是，从最近几年技术发展来看，还是不要对人类的直觉判断力太乐观。如果不追溯图片来源，AI的画以假乱真只是时间问题。
早在2018年，AI创作的肖像画就通过了艺术创作的“图灵测试”，能混在人类作品中通过鉴定。当时，法国艺术团队创作的《爱德蒙·贝拉米（Edmond de Belamy）》在纽约佳士得拍卖行成功出售，价格43.25万美元。
[图片]
外媒报道，作品是一个叫“生成性对抗网络”（Generative Adversarial Network，GAN）的AI模型创造的。程序员让AI学习了14-20世纪的1.5万幅人像画，之后的作品无法辨别是否是人类作品。
[图片]
https://smart.huanqiu.com/article/9CaKrnKe5UK
https://baijiahao.baidu.com/s?id=1609950106791569165&wfr=spider&for=pc
经过几年训练之后，AI学习的深度越来越大，掌握的图片信息越来越多，已经逐步从模仿绘画升级到模仿照片了，这次重庆山火事件就是一个例子。
当然对于有准备的人来说，AI模拟的现场照片还是有漏洞的，这次重庆山火事件，就有很多人宣称摩托车的轮廓、光影的细节有问题，不至于被AI照片骗过去。
[图片]
https://weibo.com/1957491335/M2S1vy201?
但是，更多的人没有成功辨别AI照片。澎湃新闻曾经做了一个网页，把十张山火的真假照片混在一起，让网友投票。从结果来看，每张照片几乎都有一半的人搞错。马前卒工作室的同事也没有能全部答对的。
https://www.thepaper.cn/newsDetail_forward_19694732
[图片]
[图片]
所以，这次AI图片传播事件预示了一种未来，就是普通人可以用几秒钟生成其他人难以辨别真假的照片，同时很多人根本不在乎照片的真假，媒体传播的真相越来越模糊了。
也许有人觉得这不是什么大事，还方便了正能量自媒体制作宣传画，但技术从来不会只服务于一个立场。第480期睡前消息分享过自己这几年的一个经验，这里我再给大家分享一下：
如果想排除先入为主的干扰，理解事实本身，最好的办法是保留事实，改变当事人，做重新评价。比如说，如果是国际问题，可以把事件中的国家换一下，或者干脆把中国换成外国；如果是国内问题，可以把事件中各方面的地域、阶层和职务交换一下。交换之后，如果自己的观点发生了改变，我就要重新考虑自己对事实和逻辑的理解。如果观点不变，我对事实的叙述可能就比较客观了。
具体到重庆山火事件，AI作为一个工具，能生产正能量的虚拟场景，就能用同样的成本制造负能量的图片。设想一下，如果有人用AI创作了和主流立场相反的图片，也被当成实景照片产生了类似的刷屏效果，被辟谣之后恐怕不会这么容易过关，肯定有人要求追究转播者甚至是创作者的责任。想清楚这个问题，就能理解AI图片技术对媒体生态的冲击，乃至对全社会的冲击。
现在人类还能设想用眼睛鉴别AI图片和真实照片的区别，什么时候会丧失分辨能力呢？
不意外的话，几年内人类的肉眼判断力就要输给AI软件，因为AI绘图能力每一天都在进步。国内游戏媒体对比过，时隔两个月，用鱼做关键词，同一个AI软件生成的图片，画风已经从“恐怖”进化到“怪异”，不难想象接下来的发展潜力。
[图片]
图片来源：北邦
现在的情况是，虽然人类还在用生理能力不断对抗AI的技巧，但是往往是上一张图片嘲笑AI的弱点，到下一张图片就发现问题已经被AI自主学习解决了。
8月26日，微博ID @木遥总结了ai的缺点，认为主要弱点是无法做到“内容统一性”，他原话说：
“比如你觉得 AI 某一张人像画的很好，你无法对它说：再画一张同一个人，穿同样的衣服，但让头转过来一点。AI 画画是一张张彼此无关的，你很难让它画成套的作品，比如一个有故事性的有复杂人物关系的连环画。”
https://weibo.com/1644684112/M2MbSbflz
第二天，他就发现Google新发布了一篇论文，解决了AI生成系列图片的问题。输入左边这些图，AI可以在不同的文字指令下输出右边的图片，给同一条虚拟的狗制造了连续剧情。
[图片]
[图片]
https://weibo.com/1644684112/M2VmvCa63?pagetype=profilefeed
八月底，AI绘画工具DALL-E发布了新图像补全工具，可以在现有图片基础上不断延展，制造无限大，而且意义上有关联的画面。比如说给AI看名画《戴珍珠耳环的少女》，就可以提示AI制作同时代的背景，和主要人物完全融合。
[图片]
看了柯立芝名画《玩扑克的狗》之后，AI给这群狗设计了完整的俱乐部场景，甚至还拟人化地构造了人物关系。
[图片]
[图片]
换到《蒙娜丽莎》，或许是达芬奇在当代文化中关联了太多科幻和玄幻元素，负责挑选的人类似乎觉得外星人比较合适。但如果多制造几张图片，再由人类挑选出最自然的一张发表，后代的人类未必能一眼分辨原作和AI图片。
[图片]
蒙娜丽莎的微笑
对比图：https://www.ithome.com/0/639/191.htm（有制作过程动图）
作为媒体行业的边缘成员，马前卒工作室也试用了AI画图软件，看看以后是不是能减少一点配图工作。
这里给大家简单推荐几个AI制图网站，请静静介绍一下：
首先是HuggingFace，生成图片均为照片风格。优点是免费，且支持中文线索词。缺点是生成图片慢，而且用非英文关键词生成的图片质量差。
链接：https://huggingface.co/spaces/stabilityai/stable-diffusion
[图片]
其次是DreamStudio。优点是可调节图片尺寸，可以调节画面与关键词的匹配度，还可以选择将已生成图片作为模板，因此图片质量较高。缺点就是要付费，就算会员每天也只能生成几十张图片。
链接：https://beta.dreamstudio.ai/dream
[图片]
我们用Beauty做关键词，生成了两张图片：
[图片]
[图片]
关键词换成未来都市（future City）生成了几张图片，作为半成品效果不错：
[图片]
[图片]
[图片]
[图片]
[图片]
[图片]
[图片]
接下来推荐Wombo，优点是免费，可以上传图片作为模板，可以选择多种绘画风格。缺点是图片尺寸仅适配手机屏幕。
[图片]
在Wombo上，以乌托邦和未来都市（utopia future city）为关键词，得到的画面更有想象力，有的可以直接作为电影背景：
[图片]
[图片]
[图片]
[图片]
[图片]
[图片]
[图片]
[图片]
[图片]
[图片]
[图片]
[图片]
[图片]
[图片]
[图片]
[图片]
[图片]
[图片]
利用这些AI支持，穆好古同学重新设计了睡前消息LOGO：
[图片]
[图片]
穆好古同学还指导AI创作了三叉戟飞艇，场面震慑人心：
[图片]
[图片]
工作室成员还有一个前IT工程师孙宏宇同学，他把AI图片当成一个技术产品，做了简单的分析。根据他的观点，AI程序现在还只是偶尔有惊艳的作品，一旦多生成几张，就会暴露构图方面的明显套路。而且AI在描绘人类肢体细节的时候总是出错，似乎说明AI并不真正理解三维结构和透视概念。
中国人很早就对美术规律有总结：“画鬼容易画人难”，现在的AI绘图也处于类似阶段。前面举的几个例子说明，AI比较擅长怪诞、幻想类超现实题材，因为大家对这些内容没有标准的预期。关键词越猎奇，越出乎意料，给人带来的惊喜越多。但是，回归到现实话题，尤其是比较复杂的现实话题，AI绘图就几乎没什么用处。比如说，我们节目经常会提到的“社会化抚养”，大多数AI配图就只能体现一个“人多”的粗糙概念。
[图片]
[图片]
总的来说，根据工作室的实践，目前的AI画图程序可以在两方面辅助插图工作。
首先，AI能够在超出人类记忆的海量图库中建立大量随机关联，为人类画师提供启发，发现被固有思维方式忽略的细节。
其次，AI能够快速生成不同风格的完整画面，人工挑选之后，调整部分细节，就能满足一般需求，节约重复劳动。
前面孙宏宇说AI并不“理解”空间结构和画面的关系，但从阿法狗下围棋打败所有人类的例子看，是否能在哲学上“理解”画面也没那么重要，只要能源源不断提供美术半成品，AI工具就有利用价值。我们以后也可能会在节目中使用AI生成图片，但如果图片产生了接近照片的效果，一定会提前说明。各位观众可以为我们的规范行为提前点个赞，投个币。
不是每个人都支持技术进步。最近在美国科罗拉多州博览会举行艺术比赛，数字艺术/数码摄影单元的一等奖颁给了《太空歌剧院》，真实的作者是AI绘图工具Midjourney。
人类艺术比赛让AI获奖，引发了争议。但是作者不打算道歉，主办方也表示之前没有禁止AI参赛，所以照常颁奖。
https://coloradostatefair.com/competitions/general-entry-fine-arts/fine-arts-exhibition/
https://www.jiemian.com/article/8032972.html
https://www.thepaper.cn/newsDetail_forward_19710342
甚至不是每个媒体都能轻松使用新技术。8月9日，美国《大西洋月刊》发表了一篇文章。作者没有在版权图库选图，也用了Midjourney工具生成了一幅亚历克斯·琼斯（Alex Jones）的画像。
[图片]
文章发表后，插画师和摄影师群体表示反对，认为《大西洋月刊》这样的全国性媒体带头使用AI图片，会导致其他同行效仿，未来会影响美术行业的收入。一周后，作者发表道歉声明，承认使用AI图片有道德隐患。
[图片]
督工，你怎么看待这些关于AI的争议？
任何一种新工具出现，都必然有依附于传统工具的熟练工人抗议，这些插画师、摄影师的反对意见，就像当年马车夫对蒸汽机的抗议一样，可以注意，但不一定要在意。倒是版权问题值得讨论一下。
AI软件几乎不能凭空创造美术风格，都要学习大量的现有作品，学习的越多，作品质量就越高，风格就越丰富。所以很多画师认为，AI软件实际上盗用了人类画师的创意，侵犯了版权。最近，日本画师就在抗议AI “mimic”，因为这个AI只需要学习30张插画，就能模拟绘画风格生成新作品，而且图片都会带有mimic的水印。日本众多画师集体抵制mimic，不允许自己的作品成为AI的训练素材。
但是，如果认为AI学习了绘画风格就等于侵犯版权，现有的人类画师也应该向自己临摹的作品交版税。我虽然没什么美术技能，但也知道每个画师的风格都不是凭空出现的，入门的时候会学习经典作品，经历从模仿到原创的过程。一个人类画师模仿了别人的风格，只要画笔握在自己手里，就可以在作品上留自己的名字。现在他们抗议AI作品加水印，看起来还是一种带着恐惧心态的“无能愤怒”。
有的人类实在找不到对抗AI的方法，决定利用过去最看不起的资本力量对抗新技术，他们建议所有反对者都给mimicAI提供大量的迪士尼或任天堂角色图片，然后让西半球和东半球最强的版权法务部去追究带水印的AI作品。如果说这也算反抗，我看AI一定会压倒性胜利。
就在一部分人类画师抗议的同时，已经有游戏团队开始日常使用AI工具了。因为AI创作速度快，可以不知疲倦地提供各种创意，适合在开发初期的概念阶段找灵感。如果只是为了一个场景，策划让美工做几百张概念图，恐怕会有生命危险，但是让AI生成几百张作品就很轻松了。一旦找到了合适的概念，就可以挑选一个，让人类画师深入设计。
[图片]
还有一些简单的平面图案设计，如说普通角色的徽章、旗帜、图标，甚至是相貌，如果和游戏的世界观、情节没有紧密联系，只是为了体现不同角色之间的区别，就可以交给AI批量生产。人类和AI之间的效率差了上千倍。
http://www.chuapp.com/article/288865.html
[图片]
[图片]
https://www.youtube.com/watch?v=dD9vpO2zaJw
从这些现实应用来看，AI绘画的确可能淘汰一些美术行业的职位，就像网购淘汰了杂货店，汽车司机替代了马帮商人。但这些被淘汰的美术职位，本来也谈不上多少创意，更接近于流水线上的机械工作。AI帮这些美工人员认识到自己的真实能力，让他们去其他领域探索自己的天赋，从长期来看可能是好事。如果画师对自己的创意有信心，对自己的美术鉴赏能力有信心，就不会把AI软件看做敌人，而是当做能提高效率的工具。整个美术行业都会因此进步。
但是，这次重庆山火事件提醒我们，在美术行业之外，社会应该重视AI创作工具的扩散问题，而且重视程度应该远远超过少数画师的失业焦虑。因为这些创作工具在特定的环境下能扭曲媒体生态，在普通人和事实之间释放信息烟雾，阻止公民正确理解社会现实。
打个比方，人类发明吗啡和其他麻醉药物，对医学来说是好事，但是在医学领域之外必须严格限制使用。如果中国社会不重视AI图片对新闻媒体行业的冲击，不保护“有图有真相”的社会共识，AI图片对中国社会的危害，可能会比吗啡还厉害。
滥用吗啡或者其他麻醉品会直接侵害大脑，制造严重上瘾，破坏正常生活，为什么说AI绘画的破坏力有可能更强？
因为在特定的社会环境下，用AI定做的虚假事实也能让人上瘾，同时改变整个社会对真相的认识，更重要的是，信息造假行为可以利用上瘾性赚钱，就一定会有人在利益驱动下，像毒贩那样，源源不断地制造更多的上瘾精神产品。
前面我提出过一个问题，如果AI制作的假现场图片不是宣传正能量，而是负面的信息，还会不会有人公开为媒体故意传播假图片的行为开脱？会不会有人公开反对追究责任？我猜是不会的。
但是现在就是有很多人觉得，只要是“正能量”，把AI生成的假图片当成现场照片也没问题。正确的立场比准确的事实更重要。
立场先行，这当然也是一种思考方式。但问题是，正确的立场不是天生的，而是通过接触社会事实逐步形成的。马克思主义基本原理之一就是社会存在决定社会意识，后来我们国家又有一段著名的解释文字，不知道各位读书的时候背诵过没有，这里我要重复一遍：
人的正确思想是从哪里来的？是从天上掉下来的吗？不是。是自己头脑里固有的吗？不是。人的正确思想，只能从社会实践中来，只能从社会的生产斗争、阶级斗争和科学实验这三项实践中来。人们的社会存在，决定人们的思想。而代表先进阶级的正确思想，一旦被群众掌握，就会变成改造社会、改造世界的物质力量。
背景音 https://music.163.com/#/song?id=1960226697
（15秒开始）
这段话再简化一下，就是只有社会实践才能塑造正确立场，没有事实支撑的所谓“正确立场”一文不值。如果有人觉得不要事实也能有正确立场，不要事实也有“天然的正义”，这种想法应该是反面典型，是其他人要带着同情心帮助的幼稚观点。现在类似的说法居然在简体中文互联网上成了主流意见，甚至有人愿意主动给虚假内容当保护伞，说明我们的舆论生态出了问题。
退一步说，就算我们可以确认当前要维护的立场是正确的，放纵正能量虚假内容也必然会消灭“正确”。因为主流立场可以用虚假的内容证明自己，立场必然越来越极端，越来越夸张；而反对意见要接受更严肃的评判，可信性会越来越强。最终导致普通人会把主流立场当成反向指标。报纸时代、电视时代，我们都看过主流媒体栏目逐步丧失公信力的案例，现在不应该在网络时代重复一遍。
我刚上网的时候，或者说20年前，中文互联网上有一句话广泛流传——“无图无真相”，说出口的时候往往带着调侃语气，实际上分量是很重的，因为它说明普通人默认现场照片可以反映真相。
这个共识是一份价值无法估量的信任，也是一套化解矛盾的权威规则。如果社会出现严重分裂，或者出现难以平息的争议，严肃媒体就可以公布现场调查图片，重新给整个社会带来团结，避免对抗情绪持续升温。现在AI制图能上热搜，能成为各家自媒体的头条，能被全国性媒体选做海报，效果就是再也没人相信“有图有真相”。我们可能在不经意间丢掉了整个社会的压舱石，拆掉了整个国家的泄压阀。
不说整个社会的损失，就在媒体行业内部看，AI图片刷屏也是一个重要的历史岔路口。奥运会如果不检查兴奋剂，破了世界纪录也是笑话；媒体行业如果为了正确立场保护虚构信息，等于直接否定了自身的存在价值。如果有了所谓“正确的立场”，就可以不去现场，不描述事实，拿出一份虚构内容就可以赢得影响力，事后也不受惩罚，很快就没人愿意当记者了，也不会再有人耐心核实内容。剩下的媒体人都是什么人，中国观众都能猜到。
网络时代的媒体生态和之前还不太一样。过去的媒体自己投资建印刷厂，建发射塔，才能把消息传递给普通人。如果媒体为了所谓正确立场就放弃真实性，最多是自己的声誉坏掉，市场被其他媒体占领，还不至于影响整个社会。这就像酒厂为了赚钱造假酒，虽然也会造成破坏，但只要顾客发现喝了某个工厂的假酒就要去医院，自然就会抵制产品，让酒厂破产，不会让破坏一直持续下去。
现在是自媒体时代，传播是去中心化的，每个观众都是传播体系的一部分，群众的转发意愿才是最主要的信息扩散渠道。如果有媒体专门迎合群众情绪，抛开事实定制内容，或者把别人的虚构信息说明故意剪裁掉，鼓励观众转发，这就不是造假酒了，而是故意建立贩毒网络，不仅直接破坏生活，还会干扰正常的经济秩序，让正常的商业也做不下去。
在现实的中国经济领域，对应贩毒网络的东西是房地产传销泡沫。高房价不仅给开发商和地方政府带来利益，还绑架了一大批城市人口，开发商降价立刻就有老业主去拼死抗议，结果大家都看到了，经济秩序成了什么样子。
如果在AI图片时代没有法律制裁假信息，如果社会不能强迫造假的人承担修复媒体生态的责任，我们的互联网媒体生态也会有类似下场，全社会都会逐渐丧失获取真实信息的能力，所以我提醒各位观众不要小看重庆山火事件之后的舆论场变化，一定要想办法保护“有图有真相”的社会共识。
488期睡前消息到此结束，文字内容随后会发在睡前消息编辑部公众号，也欢迎各位观众加我们的企业微信，以标准格式和我们交流，优秀内容会以蛋卷俱乐部资讯汇总的方式再发放给观众。我们周日再见！
睡前消息487期：知乎守着印钞机要饭，穷丽水富体育，户外运动消灭近视眼和“超声下乡”，地方房管局和老业主反对降价卖房，兰世立和袁善腊，郑州和济南政府托房价，终身雇佣制，中欧班列，《一场特殊的早餐会》，打破“局部聚居”的格局睡前消息489期：免费教育、福利住房，智利人拒绝新宪法