揭露假记者:一个深度造假信息战的案例,提醒您旧有的验证技巧正在过时 - iYouPort

2020-11-26 原文 #iYouPort 的其它文章

揭露假记者:一个”深度造假”信息战的案例,提醒您旧有的验证技巧正在过时

  • 这个假人的专业性比较高,此案例驳斥了很多惯常的真伪判断思考模式,提醒您旧的判断标准正在造假技术的升级中失效。希望您能从中学习到经验

这篇文章来自 Mike Caulfield,他是国数字两极化项目的负责人,该项目是一个旨在改变媒体素养教育的多学校试点项目。文章以第一人称撰写。

您可以通过搜索 “Maisy Kinsley + fake” 找到很多揭露其假身份的报道。

📌 不要错过曾经 揭穿信息战骗子的开源调查演示👇

最近我听说有一位叫 Maisy Kinsley 的 “记者” 在撰写有关做空特斯拉的 报道 ,并正在向相关人士查证消息。

我不想在这里大谈埃隆·马斯克如何与做空他的公司的人作战,您可能也不需要听这个。我想说的是, 人们可以通过各种方法假扮记者,然后去作恶,而 Maisy 就是这么一个例子。

人们都会选择性地向外界释放关于自己的信息。这些信息可真可假,对于刚认识的人来说,我们很难判断对方的可信度; 能做的只是估量一下构建这些信息大概需要花费多少时间或金钱。对骗子来说,编造某些信息是轻而易举的,但另一些就要费点心力了。

📌 下面将鉴别一些常见的身份信息,尤其是,研究一下编造它们究竟需要花费多少心力。

首先来看看推特上的个人简介和头像。这个叫 Maisy 的人使用的头像是一张原创的照片,如果对它进行反向图片搜索,并不会找到其它关于 Maisy 的照片,也不会出现别人的名字,所以这不太可能是盗用的头像。而在个人介绍中,Maisy 自称为彭博的撰稿人。

【注:从头像开始是一个捷径;虽然这个捷径在本案例中不起作用,但它依旧是很多调查必然的开端,比如调查水军账户的案例《 网络水军如何试图影响选举? 一个调查案例,观察对选民的在线心理战 》】

不过这并不足以确认一个人的身份。但追踪由此发现了 Maisy 的个人网站,而且看上去十分专业。

【注:一个博主有自己的网站,在一般意义上这将被视为 “足够可信”;但是,本案例将告诉您,没这么简单】

Maisy 的网站上显示她是一名 “自由撰稿人”。但就像她在推特上的信息一样, 这些都是她自己说的 。不过我们由此找到了她的领英页面,显示 Maisy 有194位联络人,她甚至是我的三度联络人!(我已经有点看烦她的照片了,但让我们再坚持一会。)

根据领英,这个 Maisy 还是斯坦福毕业生!我们不是刚谈到有些虚假个人信息的构建需要花费点心力嘛,看,这可不是随便说说的。

【注:👆上面那个假的五角大楼官员的调查案例,是 “最花心力” 的虚假身份构建 —— 甚至在当权者的庇护之下,此人拥有 “真实的” 假证件】

寻常的判断线索已经变得越来越垃圾

总结以上内容:如您所见,这些信息正变得越来越不可信。在互联网时代,编造这些信息已经非常容易,而这也令信息的可信度在下降。

每个人都可以决定如何在推特上介绍自己;没有哪家公司的页面或者专业名录会刊载这段个人简介;所以, 这样的信息并没有足够的可信度

那么 Maisy 的头像又是怎么回事呢?这完全要归功于机器学习,它们已经能创造出一个根本不存在的人的照片。通过一个网站,您也能在几秒钟内就创造出一张假照片 —— 完全不存在的人的脸。下面是我的示范。

那 Maisy 的网站是怎么回事呢?网站域名很便宜,一年的租金大概只有12美金。而网页就更便宜了。至于页面设计,虽然一个人一半的格调都跟此人的网站看起来多专业有关,所以你需要花钱请设计师  — — 但那只是15年前的事,今天,你能找到大量免费的模板,随手做出就像 Maisy 一样的网站。

也许您想问,那领英的页面呢?那些联系人、在斯坦福读过书 …… 又是怎么回事?

首先,领英页面上的教育信息一点也不比推特更权威。虽然它看起来很官方,但是,其实你想写什么就写什么。你看,我就刚刚让自己上了斯坦福,而且读的是超酷的天体物理学。

至于 Maisy 在领英上的人脉,就要比上面那些信息更有趣一些了。有人曾致电那些人询问是否真的认识 Maisy。 不,没人认识她,他们只是没有拒绝对方发来的联系邀请或者认证请求罢了。

只要 Maisy 向足够多的人发送联系邀请,以及主动为足够多的人进行认可背书,自然就会有人答复他的邀请或者认证她。大功告成。

说一件好玩的事,是真事。一次我在领英上加了一位名叫 Sara Wickham 或类似名字的人做好友。我们聊起在1993年读大学的朋友:

“记得 Russ 吗?”;

“那个背着吉他,总是弹 The Dead 和 Camper Van Beethoven 的家伙吗?”

“你是说 Chris 吗?”

“对,是 Chris!”

“当然记得,他怎么样啊?”

聊了一个多星期之后我才意识到,我们根本不是同学,而且随着越聊越多,我想起那个弹吉的人也根本不叫 Chris。我从来没见过这个和我聊天的人,我们也根本没有共同朋友。

这就是领英,它所显示的所谓人脉关系根本无法说明任何问题。

当您感觉自己发现了什么东西时,请先仔细斟酌一下

那么这个 Maisy 究竟有哪些奇怪的地方?

比如说,Maisy 在领英上的经历显示,她从毕业到成为记者中间有5年的断档期。她在2013年毕业,但却直到最近才成为记者,说不通对吧?

她的相片有某种膨胀感,这正是 AI 处理过的痕迹;而且她在任何地方都是使用的同一张照片,网站上的个人简介看起来就像是瞎扯的。她的工作室叫 “不偏不倚的自由工作者和报道者”,听起来就像 “ 诚实的自助服务 ” 一样,完全是胡编乱造。

但是请注意,指出这些不妥并不会显得您有多聪明。毕竟您已经知道 Maisy 是个骗子,所以自然会注意到各种不合理的地方。而调查的最初,和那些毫无戒心的人,是很难注意到问题的。

必须说,当我们用放大镜来审视生活时,就会发现它总是充满了各种不合理。比如工作出现断档,可能是因为有了孩子;在毕业后的时间与第一份正式工作之前出现断档,是很常见的现象,特别是对于女性来说。如果您觉得这就说明别人是骗子,那么一大群很棒的女记者都会被怀疑为骗子了。

至于照片,有时候人们就是会使用一些比较奇怪的照片,比如,下面这个是在推特上很活跃的 Joshua Benton 使用的头像。

Joshua 在推特的个人简介中称自己是哈佛某个媒体项目的负责人。然后他竟然用了一张这样的头像,看起来像骗子吗?

但事实上他的确在哈佛工作,而且负责一个世界知名的实验室。

那么这个 Maisy 糟糕的简历又怎么解释呢?嗯,难道您没试过写了一个糟糕的简历,然后想着自己过段时间会再修改它吗?我就干过这事。(然后很多会议项目就刊登了这份简历)

至于她的私人工作室的名字,真的就能说明是骗子吗?

讲个好玩的事吧,一群推特用户参与调查了 Maisy 假扮记者事件,也检视了她在领英上的联系人及那些所谓的人脉关系。其中有一位 “牧羊人先生” 似乎一看就是个骗子。他还自称是宠物摄影师和纸制帽子匠人。

这个人姓 Shepard,英文意思是牧羊人。他上传的帽子照片一看就是PS过的,他的自我介绍是 “身处说故事的人及动物管理者之间”。这肯定是骗子。

人们真的打电话去 JB Shepard 先生的 Puptrait 工作室了,然后发现这一切都是真的,他真的就是姓 Shepard。

这就是他的狗,戴着他亲手做的纸帽子

这顶纸帽子也不是PS的,就是 Shepard 为这只小狗量身制作的。

如果您也曾经认为 Shepard 是个伪造的身份,别怪责自己。 当您接触看起来很粗制滥造的信息时,对他们的真实性或者可信度的判断就会受到固有思维的影响。

如果您是男人,就很有可能会觉得工作断档期不可能长达5年;如果您自己不是狗狗摄影师和纸帽子匠人,就会觉得这听起来不像什么正经工作。

我曾在同事和学生身上做过这样的实验:告诉他们某个网站是伪造的,然后询问他们哪些线索可以有助判断这一点。他们常常会很快总结出几十个明显的 “漏洞”:太多广告、奇怪的排版、域名、没有受访者的相片、标题党、没有清晰的 “关于我们” 的页面等等 …… 然后我就会告诉他们这个网站是真实的,而且属于某个世界知名的医学周刊或者知名报刊。

但我现在放弃这个实验了。原因很多,比如人们会生我的气。他们有理由生气,毕竟我捉弄了他们。

不过阻止我做实验的主要原因在于,📌 当人们通过种种迹象判断某个网站是伪造的之后,即使我指出这些网站是真实的,也会难以说服所有人。这就是先入为主的影响,也是 为什么辟谣不起作用 ,尤其是,“ 人格暗杀 ” 这类操作历史悠久且始终高效。

每一条所谓的 “线索” 都会让人们更坚持自己的想法,即使我告知他们这个网站可信度很高,但也没有多大作用。他们会和我争论,认为这不可能是权威的医学期刊。他们会说,我不相信你,你一定是哪里弄错了,你需要再次查证自己的信息!

我们的争论占用了太多的时间,最后我选择改用其它的教学方法,但这段经历令我有点后怕。

究竟哪些信号才能说明问题

📌 大量的低质量的简单信息就会影响您的判断,甚至会让您更加困惑。您越是努力去分辨它们的真伪,往往就越迷惑。

如今这种情况正在变得更加严重。目前我们还能根据一些典型的特征去判断某张图片是否由人工智能生成,但是,这些法子很快将会失效。现在您还要自己去写网站上的个人简介,但机器学习会很快写出看起来非常可信的自我介绍,甚至比您自己写的还要 “真实” 得多。到时候,编造这些信息不仅是容易的,准确说是毫不费力的。

要提高人们在数字时代辨析信息真伪的能力,就要建议您停止那套老的方法,它已经过时了 —— 大量搜集信息,然后在受到固有思维影响的复杂框架中去分析它们已经不管用了,您要做的是学会借助互联网的特性做出快速的判断。

继续以那位假记者为例。她声称自己为彭博社写稿。

这是真的吗?她在哪里发表过文章呢?调查一下,结果:

在谷歌新闻中检索 “Maisy Kinsley”,但完全没有关于她的条目。既没有相关的署名,也没有由她撰写的文章。在彭博的官网上搜索时也同样一无所获。

可以用同样的方式搜索一位最近联络我的 BBC 记者。这是谷歌新闻的搜索结果,首先是一些他为福布斯撰写的文章:在谷歌新闻搜索 Frey Lindsay 时,出现了许多他为福布斯撰写的文章。

再往下翻时,会看见他写的其它文章,中间也包括为 BBC 撰写的:

前往 BBC 官网再次搜索他的名字,会找到更多他写的新闻:

您不需要去管那些琐碎的信息 ,比如说目标人的相片、个人网站、领英页面有没有问题,也不用去管此人的公司名字怪不怪,或者工作断档期是否合理。这些鸡毛蒜皮的信息 Frey 能轻易伪造(如果他真是骗子的话),而我们也很容易在此误读(如果他不是骗子的话)。

您要做的是找到能证明 Frey 是记者的信息 —— 请注意,这些信息必须不是 Frey 自己说的,而是互联网所展示的。真相真的 “就在那里” :就在网络上,您要学习的是利用网络去找到它们。

📌 这要求您懂得 什么信息容易伪造 :比如领英上的联系人、自我简介的页面、相片等等); 什么信息难以伪造 :比如在权威的、明显有专人打理的网站上刊载的文章等等。

要提高人们在数字时代辨识信息的能力是件不容易的事 —— 您可以参见我们的 列表-3 “让它民主” 这个板块是帮助公民调查人员积累经验和获取技术工具的内容汇总,信息真伪验证是其中的主题之一

人们习惯通过某些信息来进行判断,但到了网络世界,这些信息可能难以找到,并且极容易被伪造。

要学会区分哪些信息才是重要的判断依据,依旧是很少有人能掌握的技能。您必须知道谷歌新闻的展示机制,哪些结果是有效的,哪些是无效的。您还要知道人们可以花钱买粉丝,推特上的认证信息只说明 *你说* 自己是谁,但无法证明你说的是事实。

您还需要知道伪造一大串社交媒体使用足迹要比伪造一长串个人简历要容易得多,而且 为了让自己的信息在搜索页面置顶,骗子们还能诱骗您使用他们想要您使用的搜索关键词

人们总是以为接受过良好的教育就能拥有所谓的 “批判性思维”。这个看似无所不能的灵药能让一个人无论在哪都畅通无阻。的确,有些认知能力放之四海而皆准,但是,更多时候在特定情况下才有效,而且需要学习才能掌握。

在多年的数字素养研究生涯中,我仍然坚信:在借助网络辨识信息可信度方面,我们仍然有很长的路要走。⚪️

Network Heuristics


文章版权归原作者所有。
二维码分享本站