
牛津词典的编辑选择了“后真理”一词
作为光荣的“
2016年单词” 。 该术语描述了客观事实对于形成公众舆论而言不如诉诸情感和个人信仰重要的情况。
在美国总统大选后,与大量假新闻的传播有关的英语出版物中,使用该词的频率特别高,在此之后,真相本身并没有多大关系。
一些分析人士认为,假诽谤新闻的传播是希拉里·克林顿在选举中失败的原因之一。 算法提要Facebook
已成为虚假新闻的主要来源之一。
在这种背景下,几乎没有注意到来自人工智能领域的开发人员的消息。 我们已经习惯了神经网络绘制图片,根据一个人的言语描述为他创建照片并生成音乐的事实。 他们做的越来越多,每次做的更好。 但是最有趣的是,机器学会了制造假货。
假货的影响

在美国大选期间,社交网络上虚假新闻的转发次数超过了真实消息的转发次数,因为虚假信息更符合预期或更加令人兴奋。 选举后,Facebook聘请了独立的事实检查人员来标记未经验证的消息以提醒用户。
社会政治两极化的加剧和主要阅读标题的趋势相结合,产生了累积效应。 虚假新闻也经常通过虚假新闻站点进行传播,假冒新闻站点的信息经常落入主流媒体中,以吸引用户流量。 没有什么能像吸引人的头条一样吸引交通。
但实际上,假货的影响不仅限于政治领域。 有许多例子说明了虚假新闻对社会的影响。
一家澳大利亚视频制作公司已经发布
了两年的
假病毒视频 ,获得了数亿的观看次数。
在关于斯大林
的深思熟虑的伪造品中 ,据称他的脸出现在莫斯科地铁中,他们甚至于4月1日相信了。
1992年,百万富翁伊利亚·梅德科夫(Ilya Medkov)开始向俄罗斯和独联体的大型新闻社付款(包括RIA Novosti,Interfax,ITAR-TASS)。 ITAR-TASS于1993年1月在列宁格勒国家核电站向媒体发表了
虚假消息 。 结果,斯堪的纳维亚领先公司的股票价格下跌,在媒体进行反驳之前,梅德科夫的代理商购买了瑞典,芬兰和挪威公司中利润最高的股票。

2017年6月26日,第二次以太坊加密货币的资本化率急剧下降-该交易所对网络上出现的关于以太币创始人Vitaliy Buterin不幸去世的谣言做出了反应。 而且,第一个“紧急新闻”出现在匿名的4chan图像板上-坦率地说,此消息来源不是最可靠的。

Wikipedia写道“ Vitalik
是一名俄罗斯程序员”,然后黄色媒体报道了这一消息。 结果,以太坊价格
下跌了13%,从289美元跌至252美元。 在维塔利本人否认这一消息之后,这一过程立即开始发展。
没有证据表明有人故意为加密货币汇率的差额造假以牟利。 毫无疑问,仅凭虚构新闻就不会对人们产生巨大影响。
模仿现实
视频中的法国歌手弗朗索瓦斯·阿迪(Francoise Ardi)将重复美国总统唐纳德·特朗普(Donald Trump)的顾问凯莉·康威(Kellianne Conway)的演讲,他在谈到“另类事实”后成名。 有趣的是Ardi实际上是73岁,在视频中她看起来像是20岁。
Roller Alternative Face v1.1
由德国艺术家行动主义者Mario Klingeman创建。 他接受了Conway的音频采访和Arde的旧音乐视频。 然后,他使用了生成神经网络(GAN),该网络从歌手的不同剪辑的许多帧中制作了独特的视频内容,并在音轨上覆盖了康韦的评论。
在这种情况下,伪造品很容易识别,但是您可以走得更远-对音频文件进行更改。 人们会相信图像和声音记录比文本更愿意。 但是如何伪造人类声音呢?
GAN系统能够研究音频记录的统计特性,然后在精确到毫秒的不同上下文中再现它们。 输入神经网络应该复制的文本就足够了,您将得到一个合理的陈述。
加拿大初创公司Lyrebird已发布了自己的算法,该算法可以根据一分钟长的声音文件模拟任何人的声音。 为了证明这种可能性,该公司
发布了奥巴马,特朗普和克林顿之间
的对话 -所有英雄当然都是假货。
DeepMind,百度深度学习研究所和蒙特利尔算法研究所(MILA)已经在研究高度逼真的文本到语音算法。
结果还不是很完美,您可以快速将重现的声音与原始声音区分开,但感觉到相似之处。 另外,网络中的语音会根据情况改变情绪,增加愤怒或悲伤的情绪。
影像产生

开发人员Christopher Hesse创建了一项
服务 ,该
服务可以在机器学习的帮助下“绘制”由多条线组成的草图来给照片着色。 是的,这是吸引猫的网站。 海豹马马虎虎-很难将它们与真实海豹混淆。
程序员Alexa Jolikier Martino能够
制作出与真实
猫完全一样的
猫 。 为此,他使用了DCGAN-深度卷积生成对抗网络(深度生成卷积竞争网络)。 DCGAN能够通过结合两个相互竞争的深度神经网络来创建独特的逼真的图像。

第一个网络(正在生成)在输入处接收变量的值,并在输出处给出这些变量的函数值,这应“说服”第二个网络(区分或区分)第一个网络的结果与标准没有区别。 作为Joliker-Martino作品的样本,使用了一万只猫科动物肖像的数据库。
使用DCGAN方法,可以创建没有其他神经网络就不能客观地认为是伪造的伪造图像。
内容组合
他们在华盛顿大学
开发了一种算法 ,可让您通过精确的口型同步在人的视频上叠加音频。 该算法在17个小时的巴拉克·奥巴马(Barack Obama)的视频消息中接受了训练。 该神经网络经过训练,可以模拟奥巴马的嘴唇运动,从而通过模仿正确单词的发音来纠正它们的运动。 到目前为止,您只能使用该人真正说过的话来生成视频。
现在看一下算法的操作,该算法可
让您即时将另一个人的面部表情更改为自己的面部表情。 在与特朗普合影的录像带中(仍然有关于布什,普京和奥巴马的示威游行),该人的曲率被施加在演播室中,结果是脾气暴躁的特朗普。 该算法在Face2Face中使用。 所创建的技术在原理上类似于
Smile Vector机器人,该机器人为照片中的人物添加笑容。
因此,现在可以创建一个真实的视频,其中一个名人在说虚构的事实。 可以从以前的语音中剪断语音,以撰写任何消息。 但是在不久的将来,甚至这些技巧也将变得多余-网络将完美地将任何文本准确地放入假字符的嘴中。
后果
从实用的角度来看,所有这些技术都可以使您做很多事情。 例如,如果丢失的帧落在视频流中,则可以通过合成丢失的帧来提高视频会议的质量。 甚至可以合成整个遗漏的单词,在任何信号电平的地方都可以提供出色的通信。
可以完全“数字化”演员并将其逼真的副本添加到电影和游戏中。
但是,新闻将会如何?
在未来几年中,假冒产品很可能会达到新的水平。 有新的战斗方法。 例如,如果将照片与该区域中的已知条件(风速,阴影的倾斜度,光线水平等)相关联,则这些数据将有助于识别假货。

2014年,NVIDIA工程师根据当时的文献证据,尽可能准确地重建了登月场景。 在这种情况下,要考虑物体的所有物理和光学特性,以发现光如何从各种材料反射并实时表现。 结果,他们能够
可靠地验证 NASA照片
的真实性。
NVIDIA证实,通过适当的准备,即使是数十年前创作的最复杂的摄影作品,也可以证明其真实性(或否定性)。
去年,美国高级防御研究与开发局(DARPA)启动了一个为期四年的项目,以创建一个开放的
媒体取证系统,该系统可以识别以某种方式处理或变形的照片。
神经网络不仅能够更改原始内容,而且还能识别最高质量的假货。 谁最终将在这项技术竞赛中获胜将显示时间。