Google 之战
Google 之战
Google 希望承接部份军方生意，但其大部份员工都反对这样做
This is not a Google product.
Should it be?
今年 11 月初，来自美国军工业各领域的数十名专家聚集在距离国会几个街以外的一家酒店，讨论人工智能 (AI) 软件的问题——他们当中有高级军官、有来自国防合同外判商的管理人士，还有智库的顾问。到了吃午餐时间，身着军服的联合人工智能中心 (Joint Artificial Intelligence Center，简称 JAIC) 负责人沙纳汉将军 (Jack Shanahan，外号「杰克」) 还坐在讲台上，跟两位平民装扮的人士交谈——他们一位是前 Google 行政总裁施密特 (Eric Schmidt)，一位是 Google 法务总监华克 (Kent Walker)。
与高级军官一同出现对 Google 来说不亚于一次「政变」(coup)。过去这两年内，Google 及其母公司 Alphabet 一直遭到外界严厉指责不够爱国。它有两项明显违规之处：一是 2017 年决定在北京设立 AI 实验室，当时，许多美国人将 AI 发展视为与当年的曼哈顿工程同等重要的国家优先项目。其二，2018 年 Google 迫于员工的压力决定退出「马文计划」(Project Maven)，这是美国政府的一项计划，旨在运用商业 AI 软件来分析军用无人机搜集到的图像。
Featured in Bloomberg Businessweek , Nov. 25, 2019.
Illustration by Justin Metz for Bloomberg Businessweek
3 月，参谋长联席会议主席邓福德 (Joseph Dunford Jr.) 将军向参议院一个专门小组抱怨说，「Google 间接使中国军方受益。」到了 7 月，硅谷最著名的特朗普总统支持者泰尔 (Peter Thiel) 称，「Google 貌似有叛国倾向」，并暗示它已经被中国间谍渗透。翌日，特朗普对这一观点或多或少赞同，推文称赞泰尔并承诺将进行调查。(后来特朗普政府对此表示反对，称它对 Google 在中国的业务并不担心。)
曾有一段时期，Google 会把不受华盛顿欢迎作为一种荣誉徽章。但是该公司现在已迈入发展中期，年收入达 1400 亿美元的它希望能扩展新的业务领域。在这种愿望支配下，军事合同对 Google 领导层变得很有吸引力，在他们看来，在规模达 2000 亿美元的云服务市场上，国防项目可以成为它未来获得更多业务的垫脚石。这种想法令 Google 公司里比较理想主义的员工感到震惊，他们认为，公司正在逐渐脱离它原本信奉的「不作恶」(don't be evil) 的准则。
在退出马文计划几个月后，Google 还拒绝参加价值 100 亿美元的「联合企业防御基础设施项目」(Joint Enterprise Defense Infrastructure，JEDI) 合同的竞标活动。但是与此同时，它一直在努力修复与国防部的关系。今年春天，其云计算分部的高层们在华盛顿举行了一系列餐会，邀请国家安全机构的在职和前员工参加。「他们传达的消息是，『我们之前给大家的印象不太好。现在我们希望跟你们合作，』」餐会嘉宾之一、美国战略与国际问题研究中心 (CSIS) 科技政策部门主管刘易斯 (James Lewis) 说。Google 还在美国国家美式足球联盟 (NFL) 的超级碗 (Super Bowl) 决赛中播出广告，介绍其搜索引擎的一项可以辅助退伍军人找工作的功能。
华克坐在沙纳汉将军旁边，继续施展魅力攻势，讲述他从小在军事基地长大的经历，并对有人质疑他的雇主对国家安全的支持表示沮丧。「那只是针对个别具体项目的决定，」他谈到 Google 退出马文计划一事时说，「并不能反映我们在与国防部合作方面的总体态度和过往历史。」Google 拒绝安排华克或其他管理人士接受本刊记者采访。这篇报道采访到的有十多名 Google 现职和前员工、与军方 AI 项目有密切联系的 20 位人士，还有其他军事外判商和社会运动参与者。
沙纳汉自称他本人——相应地还有整个五角大楼——对 Google 感到满意，一些军方人士私下里对此说法表示认同。国防部一位高级官员说，该公司在积极争取 JAIC 签发的合同。然而，不信任仍然存在。该公司部份员工目前处于一种近乎公开叛乱的状态，高级军官担心，Google 很容易屈服于他们的压力。军官们在谈话中会开玩笑说，要删除他们的 Gmail 帐户，以避免帮助敌人。参议院一名助手说：「我不知道他们会把哪些人安排到国防项目里。」他担心，Google 员工对美国政府不够支持，很难让人信得过。「坦白说，我不信任他们。」
Source: U.S. Department Of Defense; Google; U.S. Air Force
目前，任何新出现的政治争议都会轻易地算到特朗普头上，然而，Google 早在 2016 年总统大选前一年半的时候就遇到了转折点。2015 年 4 月 23 日，亚马逊 (Amazon) 首次披露了云计算部门的业绩。该公司在一份季度财务报告中公布，亚马逊 AWS (Amazon Web Services) 实现 16 亿美元的收入，年增长率达 50%，其盈利能力比亚马逊的零售业务要高得多。
当时，Google 几乎所有收入都来自广告。它在无人驾驶汽车和智能城市两个领域所做的尝试尚未带来可观的收入，而其他一些更疯狂的项目 (如治愈死亡的计划) 充其量只是些科学试验。
云计算技术通过创建巨型数据中心并开发软件，帮助大型机构自动地分类、共享和分析数据。Google 自 1990 年代末以来就一直在开发这类软件，当时，Google 创办人佩奇 (Larry Page) 和布林 (Sergey Brin) 开始编写算法，为其搜索引擎创建网页索引。近年来，该公司开始专注于 AI 技术，2015 年皮采 (Sundar Pichai) 接替佩奇出任 Google 行政总裁后，这一趋势进一步加速。皮采曾宣称，AI 技术比火或电的发明具有「更深远的意义」。
翌年，Google 成立了自己的云计算 AI 部门，聘请了美国斯坦福大学电脑视觉专家李飞飞等知名科学家，宣传这项技术对于广泛的行业将至关重要。Google 云业务部门的高层将国防部及其 7000 亿美元的年度预算视为其重要客户，由此表明，它在免费搜索引擎和基于网页的电子邮件软件之外还能有更多的建树。
另一方面，许多 Google 员工反对公司参与任何形式的政府合同，尤其是在特朗普的一连串行动之后——他先是暗示或许会设立穆斯林登记制度，然后在就任总统后，又发布行政命令，禁止十多个国家 (大部份是穆斯林国家) 的人进入美国。Google 员工签署保证书，承诺不会参与开发任何用以打击移民的技术。他们踊跃参与公众抗议。布林曾出现在旧金山国际机场的一次示威活动现场，而皮采似乎也持同情态度。他在 2017 年 1 月 30 日的一次抗议活动中对 2000 名员工说，「这样的事永远不能妥协。」
就在 Google 高层对白宫的移民政策公开表示反对的同时，该公司的云计算部门仍在重新设计其基础架构，以便有助于赢得军方的认可。这一技术过程中遇到的一个重大挑战是， Google 的数据中心全都集成到同一个系统里了。这么做便于支持其搜索引擎，但也因此使它无法处理政府的机密数据 。美国通常要求计算系统采用「气隙隔离」(air-gapping，指将电脑与互联网以及任何连接到互联网上的电脑进行隔离) 架构，也就是将服务器与所写的软件进行物理隔离，从而使其不会与其外部网络发生交流。亚马逊 2013 年赢得美国中央情报 (CIA) 一项大型合同时，就将代理服务数据与其他客户的数据分开了。
据一位参与这项工作的人士说，对 Google 的云服务架构进行改造、以实现气隙隔离的过程需要做大量的工作，且涉及数十个不同团队。大家对这种改造本身并没有什么争议，但是，一些员工反对为与军方合作而这么做。公司一群高级工程师拒绝为该项目工作，这为后来更大规模的对抗埋下了伏笔。
到 2018 年 1 月，公司里开始传出有关马文计划的细节，大规模对抗终于爆发。起初，人们只是私下里或在只有 Google 员工可以进入的 Google+ 页面谈论该项目。(Google+ 是 Google 开发的社交媒体，其饱受诟病的个人用户版已于今年 4 月关闭，但用于内部沟通的商务版仍在运行。) 后来，Google 云服务部门的网站可靠性工程师方礼真在内部发帖，问军方是否有可能使用 Google 的软件来协助组织针对特定个人或群体的无人机攻击行动。员工迅速爆发一片愤怒。方礼真拒绝接受采访。
Google 试图打消这些担忧，称 Google 软件只是过滤监控画面。 公司方面还提到马文计划的合同金额很小，只有 900 万美元。但是科技类网站 Gizmodo 随后的报道显示，Google 之前预计来自马文计划的收入最终将增加到 2.5 亿美元 。有工程师在检查软件代码时发现了用于识别汽车的部份，他们认为，这表明 Google 的软件的确在帮助军方瞄准打击目标。
Google 和军方一直声称马文计划不是一个武器计划；沙纳汉不久前还说，所用的无人机甚至没有搭载武器。但是，当时在 Google 任职的计算机科学家普尔森 (Jack Poulson) 表示，这一否认没有意义，因为该项目得出的情报可以用于作战行动。「公司的立场是它不会产生致命的影响，」普尔森说，「但此后，公司高层们的防守底线开始发生变化，」他们认为，在冲突局势下，更好的数据能减少人员伤亡。
由于围绕马文计划的争论，皮采对 AI 的无限热情开始受到更多审视。员工们开始在内部留言板、或者有时在 Twitter 等公开场合指出 AI 可能误入歧途的各种应用场景，比如用它来确定谁可以获得银行贷款、对公众进行监视、根据不同肤色对人们的数码照片进行分类。他们认为，Google 为了获得更多的金钱，不惜用它最初的理想主义使命——组织全球消息——做交换。
这场冲突主要围绕 Google 的云计算部门，该部门的财务激励机制不同于其个人业务部门。前 Google 员工惠特克 (Meredith Whittaker) 说：「问题是谁是你的用户？」惠特克此前在 Google 工作了超过十年，后来成为其最严厉的批评者。他说，「当年在搜索业务上，用户是个体，Google 因为将用户放在第一位而赢得了好名声。到了现在的基础架构业务 (即云业务)，用户变成了石油和天然气公司，变成了国防部。这些都是来大钱的地方，你很难不赚现成的钱。到 2018 年 4 月，有 4000 名 Google 员工 (约占其全职员工总数的 5%) 签署谴责马文计划的请愿书。有一小部份人辞职离开。
Google 试图在不跟五角大楼断绝往来的同时安抚员工。公司人员与国防部的代表举行了一系列会面。据两名曾经参加过一次会谈的人士回忆，惠特克因马文计划的道德瑕疵而对其提出反对意见，现场随即发生争吵。有其他员工开始积极为该项目辩护。对于五角大楼工作人员来说，看到一家潜在外判商为国防合同的道德问题发生争执是从没有过的事。一位与会者回忆说：「这令每个人都极其尴尬。」惠特克拒绝评论任何内部会议。
最终，Google 向其异见人士公开投降。2018 年 6 月它宣布，现有马文计划合同到期后将停止相关工作。当年晚些时候，Google 宣布将不会竞标价值 100 亿美元的 JEDI 云计算合同。亚马逊、微软和甲骨文几家公司在该项目上展开激烈角逐，微软最终于 2019 年 10 月拿到了合同。
不清楚 Google 原本是否会正式提交竞标出价，因为它曾表示手里没有大多数竞争对手已经取得的安全认证。但是，Google 决定放弃的另一个原因——即 JEDI 可能违反该公司的道德准则——强化了批评者对它的看法。来自美国阿肯色州的共和党参议员科顿 (Tom Cotton) 抱怨说：「总的来说，他们是顺从了一部份关注社会和政治问题的员工。」科顿曾在美国陆军服役，现在是美国参议院军事委员会 (Senate's Committee on Armed Services) 成员。
科顿说，自从 Google 退出马文计划后，他所在部门一直在跟 Google 沟通，但鉴于该公司的内部形势，他不认为 Google 能令人信服地致力于参与其他军事合同。他认为，非军事机构也应避免与 Google 打交道。他说：「我会告诉他们快转身跑开吧。」
其他公司对于这样的威胁似乎很戒备。员工抗议在科技企业圈里已是家常便饭，但多数大公司一直都选择无视它们的影响，而不是取消涉及政治敏感问题的项目。亚马逊仍在向执法部门提供脸部识别软件，微软并未退出制造军用增强实镜头戴设备的计划。对于 Google 竞争对手的高层们来说，它对马文计划的抗议者作出的回应提醒了他们不该做什么。
JEDI, worth $10 billion and awarded in October, and a $480 million contract to supply HoloLens headsets to the Army. Microsoft’s GitHub subsidiary recently renewed a $200,000 contract to provide software to Immigration and Customs Enforcement.
Microsoft employees suggested the JEDI deal was unethical in an anonymous blog post. Protesters erected a cage in front of GitHub’s office.
A $600 million cloud services contract with the CIA. A future contract with the agency could be worth $10 billion or more, according to Bloomberg Government. Last year it pitched to ICE facial-recognition software it already sells to police departments.
The facial-recognition software was among the issues raised by protesters—some of them dressed as poop emojis—who showed up at Amazon’s annual meeting earlier this year.
$876 million from the U.S. Army to help soldiers gain access to data. In August, Palantir renewed a $49 million ICE contract.
Mijente, an immigration rights group, has organized protests in front of Palantir’s headquarters. Employees have circulated letters both supporting and opposing its work with ICE.
到了今年夏天，Google 的抗议运动显露出收紧的迹象。7 月份，惠特克和另一位著名批评人士斯特普尔顿 (Claire Stapleton) 均宣布离开公司，此前两人都曾公开抱怨说，Google 在对内部批评人士进行打击报复。Google 否认这类指责，并表示说它一直鼓励有关技术和道德问题的讨论。然而，其管理层已采取许多措施来应对员工的抗议活动，甚至制定了新的员工行为指南，试图阻止员工在办公室里讨论政治问题。
这些举动进一步损害了 Google 公司与员工中激进人士之间的信任。该公司 11 月宣布解雇了一名员工，原因是此人向媒体泄露部份同事的详细消息，它还以不当使用内部数据为由让另外两名员工休假。但据内部消息人士称，这些纪律处分是 Google 惩罚激进员工的一种方式。
Google 内部的激进人士普遍怀疑公司会继续秘密进行这项工作。员工们试图提醒人们注意 Alphabet 投资的初创公司中那些或许会争取拿到政府合同的公司，并曾在某些工作开始之前予以阻拦。今年夏天，《彭博商业周刊》记者问到一些激进员工，Google 是否计划响应美国海关及边境保护局 (CBP) 提出的新的云服务项目计划。知情人士说，这些人甚至都不知道 CBP 的这个项目。
上述谈话后不久，一群 Google 员工在网上发布平台 Medium 上建了一个帐户，并贴出一封公开信，其中谈到 CBP 的上述计划，并要求 Google 不要去争取此类合同。信中写道： 「我们只需看一下二战大屠杀期间 IBM 在与纳粹的合作中所扮演的角色，就可以了解科技在大规模暴行的自动化方面可能发挥的作用。」 最终，Google 约有 1500 人在公开信上签名。该公司和 CBP 目前正处于项目试运行期，据一位参与试运行的员工称，激进人士希望，在今年春季试运行到期后向 Google 施加压力，要求其拒绝产品投入商业化。员工们还开始向 Google 施压，要求其停止与化石燃料行业合作。
Google 公司领导层尚未直接回应这些呼吁。不过， 该公司推出了涉及其 AI 业务的道德准则，其中承诺不将其用于「武器或其他主要用途或实际使用会对引起或直接对人们造成伤害的科技」。它还成立了专门小组来评估 AI 技术。上个月，由五角大楼出资、前 Google 行政总裁施密特领导的专家小组——美国国防部的国防创新委员会 (Defense Innovation Board) 发布了自己的 AI 准则，它与 Google 的准则高度一致。
已于 2018 年 9 月离开 Google 的普尔森表示，虽然有这些 AI 准则和讨论这些准则的委员会，但这些远远不够，因为他们只是将 Google 与军方的合作视为通过一些技术调整就可以顺利进行的事。与硅谷如今面临的许多最棘手的难题一样，Google 与军方的关系并不取决于它的先进科技创立得怎么样，而是取决于使用方式的价值。
现在看起来，像普尔森这样的激进人士几乎不大可能让 Google 的领导层 (包括皮采、佩奇和布林) 改变想法、接受他们的观点。在文章开头的那次华盛顿活动上，Google 法务总监华克说，Google 正在争取获得更高等级的安全认证，以便与国防部在其他项目上更加紧密地合作。「我想明确地告诉大家，」他说，「我们为自己是一家美国公司感到骄傲。」
文章版权归原作者所有。
