技术的政治权力，和 社会困境 的缺陷：访谈 - iYouPort
技术的政治权力，和 “社会困境” 的缺陷：访谈
- 当时我们发送 Netflix 这部纪录片的种子时只是简单地写道：它没有触及到根本问题。换句话说，我们认为这部在中国很流行的片子事实上并不好。本文是一期播客节目的笔录，它更详细地解释了为什么这部片子很差劲，甚至是危险的
Kantrowitz 与AI研究人员 Meredith Whittaker 合作制作了这期博客， 后者帮助领导了Google员工在2018年的罢工 。这次采访是在 World Summit AI 上进行的，下面文章经过了篇幅结构和清晰度的编辑。
您可以通过 Apple Podcasts ， Spotify 和 Overcast 订阅他们的播客。
以下是笔录。
Alex Kantrowitz：本月早些时候，当我就《社交困境》这部流行的纪录片 采访 Tristan Harris 时，我的提问中充满了如很多人所说的那样的话：“你应该和那些早在该纪录片策划之前很久就对社交网络持批评态度的人们谈谈。” 【嗯，这也是IYP的想法之一：“你早干什么去了”】
下载： https://t.me/iyouport/7665
然而，有一个名字脱颖而出：Meredith Whittaker。
作为一名 AI 研究人员和前寡头科技公司谷歌的员工，Whittaker 在2018年帮助领导了谷歌员工在公司内部的行动主义罢工运动。在这期播客中，我们不仅谈到了她对这部纪录片的看法，还谈到了科技公司内部职场激进主义反抗的未来 —— 有些人 正在质疑 内部反抗的推动能力。
Alex Kantrowitz：您对 “社会困境” 这部纪录片的看法似乎与 Tristan 的看法有些不同。您认为它在哪里对、哪里错？
Meredith Whittaker：这部纪录片的一个最重要的缺点是， 它排挤了很久以来很多人一直在对整个问题的更细微层面上所进行的研究和呼吁 。比如 Safiya Noble, Sara Roberts, Ruha Benjamin 等等研究人员。
我尤其需要提出就如 I’Nasah Crockett 和 Sydette Harry 这样的黑人女性，她们早在2014年和之前就开始呼吁抵制4Chan这样的留言板上正在滋生的种族主义trolls。
有很多人其实一直在关注通过社交媒体平台产生的和被放大的那些问题，以及现在极少数科技寡头所凝聚的 至高无上的权力 。
- 大数据使政治消亡。这是一场看不见的政变，其目的是旨在清空民主的实质内容，仅仅只留下一个触摸不到的虚伪躯壳。剩下的，只有礼仪性的制度和由于“选举”而神圣化的约会……《 国王们的晚宴 — — 这是一场看不见的政变 》
这是该纪录片存在的最重要问题之一， 随着对关键背景的抹杀，它抹杀了一些最基本的伤害。
这些垄断的寡头平台和专制的算法系统中，种族主义的丑陋历史、厌女症的历史被重新再现和放大。正如 Safiya Noble 早已准确指出的那样， 是谁在负责这种类型的目标骚扰和算法专制对整个世界伤害？坦率地说，又是谁因此而从中获利？
很多接受媒体采访的人都是居于捞好处的一方的，在科技公司工作的我自己当然也是这样 —— 此后我成为这项技术的批评者。但 如今很多批评都是在非常大程度上借鉴了上述早期工作的，他们只是那些先驱的复读机而已 。
我很想在你的播客中看到一些这样的人，我更想看到的是，这些批评能丰富其中的一些观点。
AK：Tristan 提出的观点是，《社会困境》这部片子之所以不错，是因为它让那些打造软件的人看到，“我们打造了一个科学怪人”。你对此怎么看？
MW：这只是一种说法，但这并不能抹杀一个事实，那就是，这些人是接受了平台的人 —— 很多第一次了解相关问题的人都是从这个角度了解的。 在这些辩论中，你提出的声音、你代表的人，很重要。
这 并不是 大家 “刚刚想到” 的一系列全新的问题。相反，围绕着这些问题，人们已经进行了几十年的工作和探索，但一直以来这些问题在很大程度上被忽视、被压制、被否定，或者只是被认为是所谓的 “积极创新” 的副产品。直到硅谷的白人富豪们，坦率地说，开始自己感受到其中的一些影响时，它才被真正重视起来。【Netflix就是这些白人富豪们之一，也是为什么该片不会触及问题的根本】
AK：我认为这是公平的批评。让我们来看看反对这部纪录片本身的争论。目前的观点中有没有错过了什么？
MW：我将强调几件我认为在任何技术及其社会影响的分析中都非常重要的事。
第一件真正困扰我的事是，这种持续的图景、这些类型的技术、这些社交媒体feed、算法系统、相关策划等等，一些表面上的东西，人们被引导着认为似乎做到这一切的几乎是超人。你经常能听到例如 “可以黑入脑干” 这样的短语。 叙事者真的把这一切描绘成了一个 “高超技术的壮举” 。
我认为这忽略了一个事实，那就是： 很多东西其实并不是所谓创新的产物，而是权力和资源高度集中的产物 。这不是进步；相反，这是一个事实：我们现在都或多或少地接受了携带智能手机这种 史上最强大的监视器 作为社会互动的一部分在我们的日常工作生活中，将其视为 “能够” 融入周围世界的工具。这在疫情期间大幅增加。 正是源于这种叙事的误导。
- 所谓的便利性并不是由个人自由选择的，而是现代性技术秩序在各个方面所要求的。也就是说，“方便”，从根本上来说，是强加给每个人的。见《 便利的暴政 》
我认为这最终延续了一个神话 — — 正是这些寡头公司自己讲述的那种神话 ：“这种技术是超人”， 我认为这也描绘了一幅图景 — — “这种技术是某种程度上不可能抵制， 我们不能推倒它， 我们不能组织起来反对它”。让你陷入虚无 —— 这就是那些寡头骗你的目的。
- 推荐详细论述及一本新书《 被流行语掩盖着的 *技术专制主义* 时代 》
Fear is unnatural. Lightning and thunder are unnatural. Pain, death, reality, these are all unnatural. We can’t bear these things as they are. We know too much. So we resort to repression, compromise and disguise. This is how we survive the universe. This is the natural language of the species
AK：这部纪录片的确认为设备和应用程序难以抗拒， 继续给人们洗脑 。
MW：我把这些公司看成是在这种情况下几乎不可逾越的权力中心。
在西方的背景下，大概有五家公司在主导权力中心。这些公司是计算网络基础设施商业化的产物，互联网也是广告技术和其他平台服务发展的媒介，使他们能够利用基础设施和大量的数据收集管道获得稳固的立足点。
这些公司代表着控制全世界人们基本生活的非凡权力 —— 它们并不神奇。这种力量体现在它们有能力把教育技术送到所有的学区、取代其他种类的真实的社交论坛、在人们的一切基本生活和常规机构中穿行。 他们努力成为一切空间，然后他们把自己在这些空间中的角色金融化、商品化 。
我认为我们需要分析这些公司所拥有的物质权力，再仔细研究一下这些技术到底是如何运作的。
科技公司内部行动主义反抗的未来
AK：您在Google内部的抗议活动中扮演了非常重要的角色。现在您可以看一下事后的好处了。您认为这种激进主义在公司内部起作用吗？
MW：是的， 我当然认为反抗有效。但同样，我也并不认为这种组织形式是就事论事的。目标是既要回击眼下的不道德行为，也要抵制恶劣的商业决策和危险…
AK：为了观众的利益，我们正在谈论使用人工智能的问题。在战争中，决定向被指控性骚扰的谷歌高层支付9000万美元，然后用于杀害平民的技术 …
MW：是的，所有这些事。还有对合同工的不公平待遇，这些合同工占了我们同事的一半以上，但却没有享受到全职工作的权益，当你想到一个庞大的、“光荣的” 科技公司员工队伍时，你就会被这种不公平所震撼。
AK：谷歌最终没有与 Maven 续约。随后被指控在谷歌内部行为不端的人被解雇了。而劳动者，我想劳动者权益问题依旧是未知的 …
MW：是的，他们 不情愿地 改变了一些政策方向。同样， 这是一场持续的斗争。 这不是你通过改变高管们的想法就能获胜的一次性斗争， 绝不能因为仅仅这一次获胜就停止反抗。
我们的反抗面对的是资本主义的逻辑。资本主义逻辑决定了最终的目标函数，用一个 AI 术语来说，任何公司的目标函数都是持续的收入增长 ，持续的指数增长，永远随着时间的推移增长。我们开始质疑，因为我们看到了我们生活的地球的脆弱性，以及这种操作对世界造成的伤害，以至于我们现在正经历着气候混乱的开始，以及有组织的人类生活的潜在结束。
- 数字技术如何毁掉了更加公正的社会的可能性《 社区应该是什么？是谁在玩坏这个概念？ 》
我们要确保我们所有的同事都有一份有尊严的工作，不必睡在车里，能够赚取生活费，有医疗保健，我们要消除这些两级分化的工人制度。我们真的想做到这一点，因为这就是最基本的正义。
在这样做的同时，我们也想建立集体的力量，获得自己做这些决定的权力，有更多的集体决策权，而不是把这些留给最高层的一小撮人，他们的职责是对董事会、对股东的利益服务，他们始终是围绕这些资本主义的激励机制来调整自己的决策的。
AK：这些非常强大的公司不应该采用更加民主的方式来决定应该做什么吗？
MW：并非如此。尤其是当你看到的是像谷歌这样的公司所拥有的巨大权力时。这是惊人的，想想这个地球上有多少异常私密的个人信息， 该公司掌握着全世界几十亿人的一切 ， 就是字面上的意思，对不对？ 有一屋子的斯塔西档案，针对每一个人类。这是史无前例的惊人，该公司使用所有这一切数据来创建他们的AI模型，以统治世界 —— 替代最重要的机构和全人类作出极为敏感的决定。
因此，我认为在两个层面上我们确实需要认真对待这种权力，并认识到其中的风险。
我们的组织工作的一部分也是在建立吹哨人网络。开始 建立内部有组织的工人和外部其他社会运动之间的联系 ，这样我们就可以以预示更广泛的民主决策的方式来组织。
这种允许民主控制的基础广泛的运动将是必要的，以创造或重新创造技术，可以为公众利益服务的技术 。
- 不要错过《 简易吹哨平台传输泄漏数据：洋葱汤指南 》
- 《 (公民)调查记者如何与吹哨人合作：7点提示 》
但我同意你的观点，我们的目标并不是要在谷歌内部建立这种密不透风的职场民主。我们不希望有更多基本相同的人集合在一起做这些决定。我们在组织中所做的是旨在为集体讨论和决策开辟更多的空间，并预设这些更广泛的联系，与那些直接受到谷歌许多决策影响的人建立联系。
最终的目标将是与其他社会运动连接起来， 并确保那些在地面上的人 —— 那些最容易受到谷歌为无人机瞄准而建立的 AI 武器的杀伤威胁的人，和我们的反抗运动连接起来。
我认为抵制移民局的 No Tech for ICE 运动就是一个很好的例子，你看到整个行业的科技工作者带头在美国南部边境做移民政策、移民宣传的人，真正了解被这种技术追捕和追踪的背景，把这种情况传达给那些没有这种经验但可能了解这些系统如何工作的人，建立一个运动，然后反击那些向ICE提供这些类型监视系统的公司。
- 不要错过 重要内容 《 当您准备寻求庇护 …… 移民和难民需要注意的10大威胁 》
AK：我只想做一个简短的题外话，因为您提到了谷歌收集的斯塔西式文件。 Google 员工可以输入别人的名字以访问这些个人信息吗？
MW：我把它作一个比喻吧，因为它比普通数据库中那种碎片化的数据更容易掌握，如果不把这些信息与什么东西相匹配，我甚至可能无法识别。
他们确实收集了所有这些信息，在这一点上，我要说的是，要收集这些信息并不容易。他们记录的非常吃力，这部分是因为我在2006年开始工作的时候收集这些信息要容易得多。有几起事件造成了难度加大，虽然并没有停止收集 ……
AK：Coinbase 的 CEO Brian Armstrong 禁止员工在公司内部进行政治活动，这在硅谷引起了不小的轰动。我想了想，对自己说：也许员工的政治能量通过正常的政治渠道来引导，会比在公司内部努力反抗更好？
MW：我对这种框架有很多疑问，因为， 当说到传统的民主政治制度时你指的肯定是在没有选民权利被剥夺的情况下进行的对吧，而选民权利被剥夺早已成为了近20年来极右议程的一部分 ；您在组织公民联合之前考虑过此事吗？是否想过有数千亿美元的公司黑钱涌入这些政治活动？在这种情况下如何才能让自愿参加投票和组织内部反抗一样有效？
我想这是一个我们都必须面对的问题 —— 我们现在所面对的是一个异常萎缩的政治体系，它已经濒临破碎、已经处于法律行动主义和游说之有效性的终点 。现在，Amy Coney Barrett 的听证会正在进行，这可能会进一步削弱我们所拥有的最后的选民保护线。所以，我想再次强调，你必须对这个框架非常谨慎。
AK：如果人们不喜欢政治制度的运作方式，指出它的错误是一回事，放弃修复它就是另一回事了。我想知道如果把精力放在尝试推动一些良性变革方面会怎么样？
MW：是的， 我认为要想反击这种情况，就得反击这些企业黑手们的钱，这些钱被推到极右翼的事业上 ， 所以，同样，我认为我们不能忽视这种巨大的影响。 这些大型公司在塑造我们的政治体系、甚至个人意愿 … 公民的善意和志愿服务和这些巨人相比简直微不足道 。
这 并不是 说让人们放弃政治手段。您必须尝试所有的工具。一定要投票，让你的父母去投票，要真正利用政治去做工作。坦率地说，我认为工人组织也是政治。
Coinbase 的故事中被遗漏的一部分是，其首席执行官写下那种争议性的博客文章后，一些工人最终举行了罢工，因为该CEO拒绝承认BLM。所以这已经有了背景。在白人至上主义空前高涨的大背景下一个CEO拒绝BLM运动，你怎么看？而且该公司还朝着专制主义发展？我认为这就是政治。
- 不要错过，关于中国反抗者应该从BLM运动中学习到的东西：
- 《 警察情报中心如何跟踪抗议活动：通过BLM（1） 》
- 《 把暴力抗议玩成生意的人：通过BLM（2） 》
- 《 监视器 “眼中” 的抗议运动：通过BLM（3） 》
- 《 秋后了 … 抗议究竟有没有用？答案可能不在眼下：通过BLM（4） 》
- 《 当甘地错了 ……：通过BLM（5） 》
- 《 警察如何使用推文监视抗议运动：通过BLM（6） 》
- 《 伪党争和真镇压：警察粉碎了每一个微小的抗议活动：通过BLM（7）- 有毒化学烟雾弹 》
AK：毫无疑问。好吧， 你说了实话，所以你被报复了。你不得不离开谷歌、还有 Claire Stapleton，另一个罢工组织者，也被炒鱿鱼了 。在亚马逊内部，我报道过另一家公司，亚马逊前副总裁蒂姆·布雷，也在亚马逊的吹哨人被解雇后离开了。现在很多罢工领导者都辞职了，接下来会发生什么？
MW：好吧，令人高兴的是，据我所知，这些公司仍有很多组织活动在进行。好消息是，与您的同事进行组织的方式还有很多，而不会招致吸引媒体注意的公众攻击，这是我们策略的一部分。
但是，有很多领导人不知道该组织的成员都是谁。许多人不想、或者出于某种原因，不想冒险被公开。我们每个人都做出了自己的选择，但同样，我当然不认为这削弱了组织工作的力量，我想提醒大家 不要把知名度与持续性等同起来。
有很多组织化的工作在继续，就像你在 Coinbase 看到的那样，我们现在在整个科技领域的工具箱里保留了一些反抗工具，比如说罢工，许多 Facebook 员工在吹哨并辞职之前写下自己的故事，这些做法正在成为常识。
我认为这是反抗组织和反抗意识随着时间的推移而扩大其影响力的方式之一，在我入职时所发生的反抗组织与我们现在所看到的反抗之间肯定存在连续性。 后人正在从前人的经历中吸取教训。他们正在锻炼自己更强壮的肌肉来继续反抗工作 。
AI伦理
AK：对于很多人来说， “AI伦理” 这个词已经成为一个避雷针了，只要顶上这么一个避雷针，科技公司就可以继续他们侵犯性的技术开发 。我不喜欢 James O’Keefe 的方法，但我发现他的一张幻灯片很有意思。它谈到算法是如何被编程的，所有内容都通过这些算法被过滤，其结果就是编程每个人的大脑。
MW：我觉得 James O’Keefe 所参与的整个项目都存在极大的问题，而且非常、非常站不住脚。 我坚持我围绕《社交网络》这部片子提出的批评 —— 它将科技描绘成一种近乎神一般的力量，能够用算法的力量征服我们这些凡人 —— 并不是这样的。同样，这也支持了一些言论，具有讽刺意味的是，这些言论就来自那些寡头科技公司本身，他们声称这些系统可以做很多它们从未被证明的事。
AK：我认为那是Google内部的幻灯片。
MW：好吧，我不同意这样做的人。再说一次，我没有花很多时间来消化 Veritas 项目。
AK：同样，我也不喜欢这种方法。但是我觉得有些时候值得看看他们发掘的一些材料，无论方法是否合适，然后再讨论一下。
MW：是的， 我认为它在助长双重叙事 —— 科技公司有一个利益，就是把这种技术说成是无懈可击的，因为这种叙事证明了这种技术在他们能赚钱的领域中的扩散是合理的，而极右虚无主义者则有另一个利益，就是把这些技术说成是我们需要非常害怕的、可怕的祸害，因为它使那些试图征服这些公司的运动停滞，并最终使人们屈服于这些公司 。
AK：您认为这些极右的目标是什么？
MW：我对 “AI伦理” 这个词有意见，因为我认为它的范围太广，以至于毫无意义。
我们确实对 Google 成立的所谓道德审查委员会进行了反击，因为这正是该公司试图捍卫他们在人工智能军事化技术方面的选择的工具， 目的是平息一些异议人士的反对。
这些所谓的委员会聘请了美国传统基金会主席 Kay Coles James，该基金会是一个右翼组织，她本人和整个组织都采取了许多相当有力的反 LGBTQ 立场。
你可以看一下这些AI的工作方式、通过机器学习工作构建的系统，对于使用这些系统的任何人来说，很明显，它们并不是智能的。它们要做的是处理大量数据，无论它们拥有什么可用数据，并从这些数据中构建世界模型。
因此，如果您向它们展示一堆有关猫的数据，它们将会说：这是一百万张、两千万张猫的照片。他们将对猫的样子有所了解。然后，如果您给它们看卡车的照片，它们就会说：“那不是猫”。您再给它们看一张猫的照片，它们会说：“我预计这是猫。” 这就是它们的工作方式。
这些所谓的 AI 从我们的现实生活的世界中获得了代表我们过去和现在的所有数据，并且它们非常不可还原地编码了这些数据中的值。
所以，就如 Joy Buolamwini，Timnit Gebru，Deborah Raji 等人一遍又一遍地研究所表明的那样，这些系统复制了种族主义模式、厌女症模式等所有人类最糟糕的东西。在下面看到具体分析：
- 重要内容 《 挖掘AI：机器学习训练集中的图像政治 》
机器在对世界的理解中对这些假设进行了编码，因为，当然，机器的理解是基于从相同的世界、相同的环境中提取的数据进行训练的。
因此，当您查看人工智能系统的政治性时、当您研究它们的含义时、当您在观察偏见和公平问题时，是的，甚至在基本道德方面，您都需要非常重视那些遭受边缘化危害的人们的观点。
我们围绕这些问题进行的很多反抗工作，都是在推翻这样的避雷针，并推进这样的理念 即：我们真的需要以那些最有可能受到这些制度伤害的人的声音为中心。
AK：在亚马逊内部有个非常著名的案例，他们建立了一个用来招聘的算法，即使不告诉该算法应聘人的性别，它也会自动寻找能说明这个人是女性的属性，然后从搜索中删除。最后变得实在太烂了，以至于亚马逊甚至自己放弃了这个算法。
MW：是的，这是一个经典的例子。我认为这也是一个非常有趣的诊断工具，可以反映出亚马逊雇用实践中持续存在的厌女症。
我们还可以认为这些系统向我们展示了一些令人不适且潜在的问题，正是这些问题构成了数据构造的一部分（在亚马逊的情况下，包括简历、聘用、权重、绩效评估等），就是这些东西在训练此算法。
AK：让我们以这个问题结束。就如您发推文所说的那样：“如果你可以关闭互联网，你会这样做吗？”
MW：在我发这条推文的时候我还发布了另外一件事，我是在寻找一个能真正认真对待这个问题的人，认真地想一想：您认为这是积极还是消极的力量？我将与那些经过深思熟虑的人一起工作 —— 将互联网关闭的原因是什么？保持下去的原因又是什么？所有的情况都需要被考虑到。
我的观点是，要确保这些计算网络技术最终能够为民主目标服务，是非常困难的，这意味着互联网以及在这些原始协议和所有基础架构之上构建的任何东西都需要废除，因为所有一切都是专有的而非民主的，这只是第一步而已 。
- 目前的治理体系支持强资本主义/软民主。在这种平衡被重组，支持软资本主义/强民主之前，我们创造的任何技术都将继续不利于民主 …… 推荐这个论坛：《 数字技术究竟是会杀死民主，还是拯救民主？：这个10年 》
考虑到目前正主导这些基础设施的权力高度集中化、以及新自由主义资本主义驱动的那些正在主导那些基础设施的人们，你会发现，很难真正地将互联网用于民主 — 以人为本的目标。但是，我认为值得一战。
我 当然不是 反技术的人，但是我认为我们必须认识到这些是权力和控制的问题，而不是继续去假想这些技术的所谓 “善意使用” 的问题。 从不要再欺骗自己开始 。我们需要研究当具有某种资本主义激励措施的极少数人控制着该技术的全部使用和效用时，实际会发生的状况。⚪️
文章版权归原作者所有。
