追踪网络水军团队：如何识别机器学习制造的假人脸 - 案例 - iYouPort
追踪网络水军团队：如何识别机器学习制造的假人脸 - 案例
- 这是一个很简单的信息战追踪演示案例，但它提出了一个很好用的方法，以识别造假的人脸
【注】 bellingcat 做了一个追踪社交媒体水军网络的演示案例，其中涉及到一个识别造假人脸的技巧，它很有用。希望您可以学到这一技巧。
一个旨在对抗西巴布亚独立运动的新的在线舆论操纵行动已经出现在著名的社交媒体网站上。
虽然这个由100～200个账户组成的新信息战网络到目前为止还没有产生什么巨大的影响，但是，它似乎横跨 Twitter、Facebook、Youtube 和 Instagram，其使用的方法是以前在围绕西巴布亚独立运动的开源情报调查中 没有被记录过的新形式 。
📌 这些方法包括部署使用机器学习工具生成的虚假个人资料图片的账户，以及使用似乎旨在 影响国外辩论 的荷兰语和德语帖子。
尤其是，该网络还采用了以往调查中从未被发现过的做法，如：使用带有被盗个人资料图片的假账户、反独立运动信息图表、和一个自托管的新闻网站，传播支持西巴布亚 “特别自治” 而非完全独立的内容。
【注：您可以将西巴布亚的案例理解为 “香港”，特别自治就类似于现在的香港作为所谓的自治区的形式，以此来拒绝其独立】
荷兰莱顿大学 的单独研究 似乎是第一个发布调查结果的。Bellingcat 之前关于这一主题的调查揭示了2019年10月与西巴布亚有关的大型跨平台政治宣传行动， 并将其归咎于一家名为 InsightID 的雅加达通信公司 。随后，社交媒体平台清除了大部分涉及的内容、页面和账户，InsightID 被关闭并彻底消失。
但现阶段还不清楚谁或什么组织机构是这一新的信息战网络背后的主使者。
街头冲突；在线压迫
关于西巴布亚独立的争论 由来已久 ，而且斗争激烈。
西巴布亚是一个矿产资源丰富的前荷兰殖民地，在 1969年有争议的全民投票 后成为印度尼西亚的一部分。许多西巴布亚人仍然渴望独立，并表示他们经常面临印尼当局的种族主义和歧视。
然而，印度尼西亚继续 坚决反对 西巴布亚独立的前景。
最近的示威活动中，抗议者与印尼军队发生 冲突 ，军队向支持独立的抗议者开火。
但是，这场争论和战斗也同时在网上展开，似乎正在努力操纵对话。
正如下面的研究所发现的那样，使用计算机生成的图像来制作虚假的用户资料，似乎是这场信息战的关键手段之一。
然而这种做法虽然耐人寻味，而且很棘手，难以立即发现，但最终还是帮助调查人员揭开了这个信息战网络。
虚假的个人资料
如今，通过 thispersondoesnotexist 这类网站，创建一个完全不存在的假人脸可以非常容易，只需点击一个按钮就可以完成。
虽然这类工具效果不错，但也并非没有缺陷。
图像可能肉眼看上去很完美，但仔细观察就能发现一些瑕疵，比如一组不匹配的皱纹或不完美的对称性。
这些图像是通过所谓的生成式对抗网络（GAN）创建的。这是一类机器学习框架，它可以从选定的旧的真实世界图像中创建新的虚假图像。
这些信息战行动很可能使用GAN，因为这样做可以防止研究人员使用反向图像搜索工具来识别可能从社交资料中窃取的图片，这种做法以前出现过 。
尽管如此，研究人员依旧从头开始确定分析GAN图像的方法。一个关键的启示是：眼睛的位置。机器学习制作的假人脸的眼睛总是保持在同一个水平位置上，这就使研究人员能够开发技术来发现这种特征。
社交媒体分析公司 Graphika 的 Ben Nimmo 将最近在一个信息战网络中发现的GAN图像进行了 “分层”。从下图可以看出，眼睛在完全相同的水平位置上，这在真实照片中是不会发生的。
在推特追踪信息战网络
通过监测 #WestPapua 和 #PapuanLivesMatter 这两个热门标签，首先在 Twitter 上发现了与西巴布亚独立问题相关的最新信息战网络。
第二个标签是在今年早些时候西巴布亚的抗议活动从美国的BLM运动中获得灵感后被广泛使用的。
没过多久，人们就发现，一些关注者寥寥无几的账号在这些标签上滥发内容，这些内容链接到多个相同的网站。
仔细观察就可以发现，许多垃圾推特账号 都是在 2020年6月、7月和8月创建的。这场宣传战行动的一个明显标志往往是多个账户联动，但每个账户的关注者都很少， 它们大约在同一时间创建，并且都关注单一的问题 。
下面的截图就是这一时期创建的账号之一。
有关账户似乎经常链接到的最重要网站是：papuanlivesmatter.com。
该网站分享的文章一般都支持西巴布亚特别自治而不是独立的想法，支持印尼对西巴布亚的 “良好影响”，并批评任何反对自治的活动家。
本次调查收集了过去两个月内使用上述流行标签并链接到 papuanlivesmatter.com 的账户。在这些账户中，有21个账户被标记为测试，以确定他们是否使用GAN生成的图像。
这只是发布 papuanlivesmatter.com 文章的可疑账户的一个样本，还有更多的账户显示了没有使用人脸类型的个人资料图片，或者似乎是从 Instagram 上 偷来的图片 作为头像。
以下是这21个账号的样本，目的是为了展示他们的个人资料细节：
这是平铺视图中的那些面孔：
您可以看到，在每幅图像中眼睛位置都是保持不变的，您可以据此怀疑它们是由机器学习平台创建的：
进一步挖掘这些图像，还可以看到机器学习合成的人脸的其他明显迹象：
上图中的箭头突出了差异和瑕疵，包括眉毛似乎不匹配、帽子上的标志和遮阳帽周围有不一致的地方，似乎在左手边有明显的多余部分。
这张图片被用作一个讲德语的账号的个人资料，该账号发布了针对寻求独立的团体的反制措施，如下图所示。
在这个信息战网络中还有一些英语帐户，它们使用的是非常简短的个人介绍，例如下面的帐户声称自己是 “澳大利亚记者” [原文如此]。
还有其他帐户使用荷兰语进行交流，其中一些帐户已成功吸引了一定数量的关注者。其中一些追随者似乎是真实的 Twitter 用户。也就是说，它们已经成功骗到了真人。
该信息战网络有一种倾向，即：围绕任何可能给独立运动带来积极影响的事制造假新闻，或者对支持西巴布亚的活动家和追求独立的人所使用的许多论点提出质疑。
这方面的一个例子可以从下面的推文中看到，该推文描述并链接到 papuanlivesmatter.com 网站和一篇关于支持独立的政党据称制造 “骗局” 的虚假的新闻文章。
在 Facebook 跟踪这个信息战网络
这场信息战行动还延伸到了 Facebook 上，采用了与推特上类似的策略。
我们能够用来寻找发布相同内容的账户的一个具体关键字是 “巴布亚特别自治”。通过这些账户上列出的 “朋友”，可以进一步识别出潜在的水军账户。重复搜索发布到 Facebook 的 Twitter 内容，也能发现更多的水军账户。
以下是该搜索的部分结果。
这次调查没有广泛搜索作为这场信息战行动的一部分可能出现在 Facebook 上的所有账户，但它确实确定了至少8个样本，可以提出一种方法用来确定它们是否属于 Twitter 上的同一信息战网络。
根据 “朋友”关系、活动模式、和个人资料图片，评估了这八个账户的有效性。大多数账户没有 “朋友”，而其中三个账户在 Facebook 上最多有10个朋友 —— 其中一些人相互链接，或者更多的账户显示出与该信息战网络其他部分相似的特征。
这8个账户的个人资料图片，似乎也是使用GAN方法人为制作出来的，如下图所示：
正如之前所详述的，怀疑为GAN制作的图像时应该始终评估眼睛的位置，并且还要注意到其他的额外细节。
例如，在下面的图片中，从 Facebook 的一个个人资料中提取，我们可以看到图像未能正确 “融合” 的多个细节。包括眼睛在内的细节通常会成为GAN创建图像的一个弱点。
在上述标记出方框的位置上，您可以看到有多余的线条、缺乏对称性和不自然的曲线，自然拍摄的图像绝不会这样。
在下图中，我们可以看到其中一只耳朵有耳环，而另一只没有。左边的耳朵也是微微外翻。其他几个不一致的地方也存在。
至于这些 Facebook 账户曾经发布过的内容中，似乎没有任何正常的人类活动、爱好或兴趣的细节。 这些账户的存在似乎仅仅是为了发布批评西巴布亚独立运动的内容。
然而，有迹象表明，一些被查明为信息战水军的 Facebook 账户可能是偷来的 —— 它们有 “前主人”。其中一些账户有大量的真实人类用户追随者，一些账户有原始的封面照片 (为保护隐私，这些照片被遮住了)。这可能表明， 这些账户曾被黑客攻击或劫持 。
并且上述账户正在关注👇 另一个虚假账户 —— 这就是为什么称其为 “网络”，它们彼此关注，联合行动：
信息图表似乎是在 Facebook 上放大信息的标准手段。在这里发现的所有水军账户似乎都会在某个阶段发布带有详细说明反独立情绪的信息图的帖子。有时，它们也会链接到常见的URL。以下是其中一个水军账户的图片发布历史的例子：
在这个信息战网络中，我们注意到的一个新特点是，除了英语之外，这些水军还使用荷兰语和德语的帖子来 放大它们传播的内容的覆盖面 。早前发现的信息战网络曾主要使用英语作为交流手段。
这个新的 Facebook 信息战网络还试图给荷兰的城镇打上标签，很可能是希望搭载与这些热门地点相关内容的 “快车”， 以便进入搜索结果列表 。例如，在下面的关于特别自治的帖子中，一些荷兰城镇被作为标签列出：
整个 Facebook 信息战网络都反复使用这种策略。下面是另一个使用相同的荷兰城镇标签的示例：
上述帖子是由一些自称是 “新闻来源” 的 Facebook 页面发布的。这些账户一般也张贴了与该信息战网络中许多其他水军账户相同的信息图，以及关于西巴布亚独立和特别自治问题的信息图。
以下是显示这些信息图表的最新帖子的截图。
在 Instagram 上追踪该信息战网络
Instagram 上该信息战网络再次出现了与 Twitter 和 Facebook 上相同风格的账户。这些水军账户交叉发布与之前在该信息战网络上看到的相同的信息图表，并使用了GAN创建的个人资料图片。
下图显示了7个使用GAN个人资料图片的账号在 Instagram 上的发布活动。看来，这些账号发布的信息图都带有反独立情绪。
通过 Google Chrome 浏览器中的开发人员工具，可以访问完整尺寸的 Instagram 个人资料图片，以进行仔细检查。
以下是从 Instagram 收集到的一些水军账户个人资料图片的平铺展示。同样，您可以看到，眼睛的位置很可疑。
需要说明的是，这次研究还发现了其他可疑的 Instagram 个人资料，发布了详细说明反独立情绪的信息图，这些账户使用了名人、动漫人物、或者从其他地方取得的图片作为资料图。 这些账号极有可能也是假的。
通过 YouTube 追踪信息战网络
还有证据表明，YouTube 可能被用来放大该信息战网络的宣传内容。
papuanlivesmatter 网站链接到相关水军账户使用的各种社交媒体平台。其中一个是该网站的 YouTube 频道。
该频道包含与其他社交平台性质相似的内容，详细说明了为什么西巴布亚作为印度尼西亚的一部分 “会更好”，并声称西巴布亚分离主义者提供 “虚假信息”。
具有讽刺意味的是，这些视频直接针对 Veronika Koman 等特定的著名人权活动家，声称他们 “为个人和团体利益煽动和散布恶作剧”。
另外两个 YouTube 账户(如下) 也上传了类似的内容。他们在个人简介中使用西方名字，上传的内容主要是关于印度尼西亚统治下的西巴布亚、西巴布亚特别自治的好处、以及再次试图诋毁寻求独立者的短视频。
许多视频报告的图文设计特征、风格、字幕和背景与过去以西巴布亚为重点的信息战行动中发布的视频相似。
以下是一系列详细介绍 Bellingcat 去年确定的信息战中使用的视频截屏。
在最近出现的信息战宣传视频中也采用了类似的风格，下面，很多视频都有 “更好的巴布亚社区” 的标签。
其中一些视频还出现在 papuanlivesmatter 网站上，该网站经常被上述虚假的 Twitter 和 Facebook 水军账户转发。
最近发布的一些 YouTube 视频也采取了荷兰语的标题，这与之前在 Twitter 和 Facebook 上发布的帖子有着明显的相似之处。
与调查人员记录到的 Facebook、Twitter 和 Instagram 假账户一样，这些视频似乎影响甚微。有些视频的点击量不到10次。然而，它们确实表明，这些信息战背后的人花费了相当多的时间来加强该水军网络旨在放大影响力的内容。
从网站识别该信息战
从上述社交媒体平台 —— 特别是 Twitter 和 Facebook —— 可以看出，该信息战网络特别链接到一个网站：papuanlivesmatter.com。
根据该站点的注册详细信息显示，它于2020年6月22日创建。
尽管域名注册细节保密，但位置被列在了印度尼西亚日惹。虽然这不是决定性的，但它可能表明网络的起源和位置。
此外，似乎也没有网站本身的联系方式信息，只有一个 “contact” 标签链接到该网站，而不是电子邮件地址或表格。
从上述所有证据中似乎可以清楚地看出，最近几个月，一个以西巴布亚独立运动为针对目标、并带有亲印度尼西亚官方立场的新信息战行动已经在主要社交网络上展开。
虽然到目前为止，该信息战网络的影响还不那么大，但使用虚假的用户个人资料图片、以及使用荷兰语和德语，并在 Facebook 的帖子中标记荷兰城镇，这些做法与以前发现的信息战宣传活动有很大不同。
社交媒体公司是否能够利用后台数据进一步调查，以确定并追究背后的责任人或组织，还有待观察。⚪️
📌 关于公民调查人员如何操作取证的思考方式，不要错过下面的重要指南 ：
- 《 如何获取、挖掘、分析各种来源的调查数据完整指南：解码秘密（1）- 哪些方式可以找到您想要的东西？ 》
- 《 如何获取、挖掘、分析各种来源的调查数据完整指南：解码秘密（2）- 开始收集和处理数据 》
- 《 如何获取、挖掘、分析各种来源的调查数据完整指南：解码秘密（3）- 理解数据和可视化 》
- 《 如何获取、挖掘、分析各种来源的调查数据完整指南：解码秘密（4）- 确保真实和确保道德的技巧 》
West Papua: New Online Influence Operation Attempts to Sway Independence Debate
文章版权归原作者所有。
