西方学术界帮助构建了中国的自动化种族主义 - iYouPort

2020-05-28 原文 #iYouPort 的其它文章

西方学术界帮助构建了中国的自动化种族主义

  • 这件事不是第一次强调了,而且是从多个角度,您肯定记得。仍需要不断强调,因为它始终没有解决

2018年夏天,一家备受推崇的美国数据挖掘学术期刊 发表了 一项名为 “用于种族识别的面部特征发现” 的研究, 该研究由中国的四位教授和澳大利亚的一位教授共同撰写

该项研究声称,自动检测中国少数民族的一种有效方法是使面部识别系统专注于他们面部特定的T形区域。

为了得出这个结论,该研究在中国大连民族大学为300名维吾尔族、藏族和朝鲜族学生拍摄了7,000多张照片。

这项研究 得到了中国政府基金会的资助 ,该研究发表时并没有引起多少关注,但是在5月底,博士生 Os Keyes 在推特上 发布它的摘要时写道:“2017–2018年间出现了一系列计算机视觉研究的文献,它们巧合地试图为维吾尔族人建立面部识别。”

Keyes 的帖子被转发了500次以上。

该研究有充分的理由引起人们的关注。

中国政府正在对维吾尔人进行有据可查的大规模监视和拘留运动,维吾尔族人是该国遥远的新疆地区的主要穆斯林少数民族,那里约有一百万人被拘留在 “再教育” 营中。

从清真寺的面部识别摄像头到大量的DNA采集和虹膜扫描、生物识别技术正在新疆大面积部署,以前所未有的规模跟踪维吾尔族和其他少数民族。

⚠️现在,中国数十亿美元的面部识别创业公司中,大多数公司都向警察出售种族分析软件,以自动区分维吾尔人与其他族裔人口。

尽管如此,仍在美国和欧洲学术期刊上发表了改进面部识别技术以识别维吾尔人的学术论文,并在国际计算机科学会议上发表了论文。

中国最大的生物识别技术研究会议于2018年在新疆举行, 包括美国著名人工智能研究人员为主题演讲者,其中一位来自微软

⚠️会议上的一篇论文是由新疆当地警察共同撰写的,讨论了在维吾尔文中找到 “恐怖主义” 和 “极端宗教” 内容的方法。

另外,伦敦帝国理工学院还将举办一个公开的 面部识别竞赛 ,其中一个赞助商是一家名为 DeepGlint 的中国AI创业公司,该公司 在其中文网站上向警察 宣传 其针对维吾尔族人的监视识别功能,该网站拥有多个新疆维稳项目

参加比赛的组织者表示,他不了解 DeepGlint 跟踪维吾尔人的角色,并表示他将来不再接受 DeepGlint 的资助。

发表那些关于识别中国少数民族的 毒性研究 的美国杂志是《Wiley 跨学科回顾:数据挖掘与知识发现》,它是 Wiley 的一部分,该公司是一家 总部位于新泽西州的、市值数十亿美元的公开发行学术出版物

该论文的发表在 Twitter 和 Reddit 上受到严重批评后,该杂志的主编 Witold Pedrycz 发表声明 ,捍卫其立场,指出该论文经过了 “严格的编辑过程”,并声称,如果研究被以有害的方式使用,Wiley 不承担任何责任。

该声明说:“像智能系统领域的其他技术一样,面部识别可以而且将会产生深远的影响,无论是正面的还是负面的,并有可能被用于可能的意想不到的恶意目的。编辑和 Wiley 不赞成或支持恶意用法。”

虽然没有证据表明该论文的结论被新疆警察或中国监视公司直接采用。但是,它的作者仍然指出, “人脸识别在边境控制、海关检查和公共维稳方面具有巨大的应用潜力。” 该论文目前仍然可以自由获取

中国民族与种族问题专家、澳大利亚拉筹伯大学(La Trobe University)教授 James Leibold 认为,该论文构成的风险是不可接受的。

他说:“由于先发制人的种族特征被广泛使用,这违反了个人无罪推定和其他权利的推定,这项研究很可能会对中国的少数民族产生严重的不利影响。”

Leibold 也注意到,那些学生的脸被拿去做研究、写论文,根本没有提及同意、知情或其他方式。

“在中国,道德规程并不那么严格,参加大连民族大学项目的少数族裔学生很可能没有完全意识到他们的脸被如何使用了,以及对自己社区所产生的深远影响。”

该论文的作者 Witold Pedrycz 和 Wiley 没有回复对本文的评论请求。

澳大利亚科廷大学 —— 合著者 Wan Quan Liu 是该校计算机科学系的副教授,也与其他中国人共同撰写了其他有关 种族识别技术 的研究。去年底科廷大学宣布正在审查其研究批准程序,因为记者透露了刘开发的AI技术在更好地识别中国少数民族方面所发挥的作用。但没有结论。

西方学术界在中国

Wiley 的杂志 并不是 中国以外的学界第一次欢迎用来压迫维吾尔人的人脸识别技术的论文。

早在2017年,来自新疆大学教授的一项研究表明,学校的信息科学与工程学院已开始建立一个名为 XJU1 的面部识别数据库,其中包含“至少” 800名维吾尔族和哈萨克族的 “志愿者”。

参与者的脸将以不同的角度和不同的照明条件被捕获(这是长期困扰精确面部识别的问题),以 “测试各种基准算法”。

这份由中国政府科学基金会资助的论文是由美国电气与电子工程师协会(IEEE)在美国在线 发表的 ,该协会是美国专业协会,在160多个国家/地区拥有40万名会员

该论文还在新加坡机器视觉和信息技术国际会议上发表。

人权研究人员得出的结论是,维吾尔族和哈萨克族是中国新疆镇压中心的两个主要少数民族。

XJU1面部识别数据库背后的同一所学校,即 新疆大学信息科学与工程学院,与中国蓬勃发展的生物识别技术行业有着紧密的联系。

2018年八月,该校主办了中国最大的生物特征识别学术会议,中国生物特征识别会议或 CCBR 2018

大会的组织者、中国政府支持的两个AI研究实体,在艰难的时刻选择了新疆。在大会召开的前几个月,人权观察组织对新疆使用生物识别技术提出了 警告 ,称当局正在建立一个称为 “联合行动平台” 的系统,该系统可对少数民族进行系统性监视,收集的个人数据被用于将公民拘留。这其中面部识别是至关 重要 的工具。

所有这些并没有阻止 Springer Nature(总部位于伦敦和柏林的学术出版巨头)被列为 CCBR 2018 的 “技术赞助商”,也没有阻止其将会议的所有论文发表在其 网站 上。

这也没有阻止三名美国杰出的面部识别研究人员飞往中国新疆首府乌鲁木齐,在会议上发表主题演讲

密歇根州立大学生物识别研究小组的负责人 Anil Jain 经常被引用 在《 Wired 》和《 Slate 》等杂志关于美国面部识别的问题上,他是 CCBR 的顾问委员会成员,并且 获得了 荣誉证书。

前微软高级研究员 Gang Hua 和伦斯勒理工学院教授 Qiang Ji 都发表了演讲。在会议的网站上,所有人都被列为“特别嘉宾”。

没有研究人员回应对此次旅行的评论请求,也没有人提及他们在网站上参加会议的情况。

尽管这次 CCBR 会议没有解决维吾尔人的面部识别问题,但是,讨论了其他监视技术。

新疆警察学院和新疆大学的研究人员发表的 一项研究 说,它发现了一种新技术,可以找到隐藏在与 “极端宗教和恐怖主义信息” 有关的图像中的 “有害文字信息”。

这些工具已经在新疆被滥用。当记者对新疆警察应用程序进行反向工程时,他们发现,该应用程序正在自动扫描智能手机中的一切。见:

由北京公安部研究人员撰写的另一篇在 CCBR 上发表的论文分析了 如何避免绕过或欺骗警察虹膜扫描的各种方法 ,并指出 “2017年,新疆维吾尔自治区开始收集各种生物识别信息,包括虹膜。”

据报道,拒绝服从虹膜扫描可能会导致维吾尔人和其他少数民族人被送往再教育营。

CCBR 曾经解决过维吾尔人的面部识别问题,而不仅仅是在乌鲁木齐会议上。在2016年成都会议上,他们就发表了一篇题为《使用深度卷积神经网络的面部种族分类》的论文,发现了新的更好的方法来识别维吾尔族人。

总部位于伦敦和柏林的学术出版巨头 Springer Nature 发言人表示,该公司与 CCBR 会议程序签订了出版合同,还支持乌鲁木齐会议的最佳论文奖。

“ CCBR 作为专注于生物识别研究的高质量技术会议而享有盛誉,会议为公开讨论和参与所有研究提供了重要平台”,该发言人说。

学术与伦理

迄今为止,社交媒体对 Wiley 研究的抨击一直是学术界公众反对此类合作的 少数 迹象之一。至少有些人已经开始公开发言。

加拿大的计算机科学助理教授 Dave Churchill 在5月发布的 推文中 说:“中国政府实际上是在使用AI来追踪穆斯林并将他们安置在集中营中。 但是AI研究人员不会大声说出来,因为他们担心自己的引文计数和受邀演讲的机会 ”。

Churchil 说,主要问题是,风险显然超过了收益。他说: “实际上,就算是明确说出来也几乎没什么用,尤其是对付中国共产党之类的事,万一输掉只会使事情变得更糟。”

中国研究人员和公司对AI伦理学进行了更多讨论,但是,这一领域的出现不太可能阻止大数据驱动的自动化镇压。

乔治敦大学安全与新兴技术中心的客座研究员 Lorand Laskai 表示,这类讨论通常会避开少数人甚至个人权利。

Laskai 说:“在最近关于人工智能伦理和规范的辩论中,中国学者表示, 中国价值观意味着中国将重视集体的安全性,而不是个人的权利。我认为这已经表明了中国对AI伦理的态度 。” ⚪️

Western Academia Helps Build China’s Automated Racism


文章版权归原作者所有。
二维码分享本站