算法专制

当进化生物学家 Peter Lawrence 撰写的一本名为 The Making of a Fly 的书在亚马逊上定价为23,698,655.93美元（再加上3.99美元的运费）时，我仍然会感到惊讶。

陡峭的价格实际上是算法彼此冲突并失控的结果。事实证明，不只是销售人员具有创造性，更重要的是：算法正在发号施令。

这个引人注目的例子被发现并纠正。但是，如果这种算法干扰一直发生，包括我们甚至没有注意到的方式呢？如果我们的现实越来越多地被算法构建，这会造成什么样的结果？

受这些例子的启发，我的同事 Allen Lee 和我最近开始在“信息系统协会期刊”的一篇论文中探讨算法技术的深层影响。

通过探索我们得出结论，随着时间的推移，信息技术和人类的作用已被逆转。在过去，人类使用技术作为工具；而现在，技术已经发展到了使用甚至控制我们的程度。

人类不仅将决策权交给了机器，而且还以不可预测的方式深受其影响。人类已经不再是影响决策系统的核心，而是被投射到其环境中。

我们逐渐限制了自己的决策能力，并允许算法接管一切。我们自己已成为人造人或人工制品，由该技术创造，塑造和使用。

例子比比皆是。在法律上，法律分析师逐渐被人工智能所取代，这意味着案件是否能成功辩护或起诉正在依赖于算法。

软件甚至被允许预测未来的罪犯，最终控制人类自由。通过这种方式，法官的思想正在被他们无法理解的决策机制所塑造，因为这个过程太复杂了，涉及的数据太多。

在就业市场中，对技术的过度依赖已经导致一些世界上最大的公司通过软件过滤简历，这意味着人类招聘人员甚至都不会看到一些潜在候选人的优势细节。这不仅将人们的生计置于机器的怜悯之下，还可能构建公司不希望实施的招聘偏见，就像亚马逊发生的那样。

在新闻中，所谓的自动情绪分析算法分析了基于不同网络资源的公司的积极和消极观点。反过来，这些算法正在被用于做出自动化的财务决策，而人类不必再实际阅读新闻了。

实际上，没有人为干预的算法现在在金融市场中发挥着重要作用。例如，目前外汇市场中 85％的交易仅通过算法进行。

不断增长的算法军备竞赛开发越来越复杂的系统以在这些市场中竞争，意味着人类正在根据机器的决策分配巨额资金。创建这些算法的人和公司能够影响人们的行为。

但是，由于人工智能的大部分涉及专业技术，大多数人通常不确切知道决策的背后是什么。与所有技术一样，这可能会导致意想不到的后果，可能远远超出设计师设想的范围。

以道琼斯工业平均指数2010年的“闪电崩盘”为例。算法的作用帮助创造了该指数历史上单一最大跌幅，在几分钟内消除了近9％的价值（虽然它在当天结束时重新挽回了大部分）。一项为期五个月的调查说明了引发经济衰退的原因（并提出了其他各种理论）。

但扩大初始问题的算法没有犯错误。编程中没有错误。这种结果来自数百万算法决策的相互作用，这些决策以不可预测的方式相互影响，遵循它们自己的逻辑，从而导致市场的螺旋式下降。

实现这一目标的条件之所以出现，是因为多年来，经营贸易体系的人已经将人类决策视为市场效率的障碍。早在1987年美国股市下跌22.61％时，一些华尔街经纪人就把自己的手机藏起来了以避免收到他们的客户抛售的消息。

由此，一个过程开始了，正如作者迈克尔·刘易斯（Michael Lewis）在他的“闪电男孩”（Flash Boys）一书中所说的那样，“电脑完全取代了人”。

人类存在的唯一目的只剩下在每次技术决策系统失败时重新配置算法。

由于人与技术之间存在新的界限，我们需要仔细考虑对软件的极度依赖之所在。随着人类决策被算法的决定所取代，我们自己成为了工具，其生活由机器及其意外后果塑造，我们正在为技术统治做好准备。

这对我们个人和社会意味着什么？是时候想想这个问题了。

A lgorithms Are Already Making Decisions For Humans, And It’s Getting Weird . We need to decide, while we still can, what this means for us both as individuals and as a society. The Conversation

觀點2