导读：KateCrawford是一位引领性的研究员，学者和作家，她在过去十年中一直在研究数据系统，机器学习和人工智能对社会的影响。她是纽约大学杰出研究教授，纽约微软研究院首席研究员，也是麻省理工学院媒体实验室客座教授。她最近的出版物涉及数据偏见和公平性，人工智能的社会影响，预测分析和正当程序，以及算法问责制和透明度。
Kate带领的AINow研究所近期发表了一篇以AmazonEcho为分析起点的研究报告，试图让读者理解蕴含在智能产品背后的复杂知识内容，其中包含开采制造这些智能设备的材料、到收集用于训练设备内部智能对话模型的海量数据。
也许你在生活中已经亲身体验过这个场景：一个圆形的物体放在房间的一个角落里，它的外形小巧流畅，如果没人跟它讲话，它就默默地待在角落里，对周围无动于衷。
正在这个时候，房间的女主人，怀里抱着一个熟睡的孩子，她对着圆筒这样说道，“Alexa，打开大厅的灯”，圆筒马上回复了她，“好的。”
随后不到一秒钟，房间亮了。女主人微微点头，将孩子带到楼上。
这就是用户与AmazonEcho智能设备的交互场景。这种简短的命令和快速的响应是当前智能音箱消费者与支持语音交互的AI设备之间最常见的互动情景。
但是，为了完成发生在这个瞬间的互动，我们需要一个庞大的知识矩阵：跨越采矿，物流，分配，预测和优化整个产业网络的资源提取、人工和算法处理等交错链条。这个系统的规模几乎超出了人类的想象。
我们怎样才能开始理解它，把它作为一种无限连接的网络结构？我们首先从一张单一的AI系统解剖图说起。
《人工智能系统的剖析》AnatomyofanAISystem
“我们需要就大规模建设人工智能进行深入而复杂的对话。”
我们都朦胧地，不安地意识到我们的生活陷入了我们无法完全理解的系统中。你吃的最后一餐可能包含来自另外一个遥远国家的农产品，这些农产品经过收获、加工、包装、运输，然后卖到你的餐桌上。我们手中的手机则是一个更加复杂链条的最终产品：从一个非洲矿山的人工，到中国的生产装配线，再到旧金山的办公室里的设计人员。
解释这些系统如何连接以及它们对世界的影响并非易事。
凯特克劳福德和弗拉丹乔勒教授在最近的一个展览中，主要艺术作品是一张巨大的地图，高2米，宽5米，用于展示追踪一款现代最复杂产品之一的人工智能小工具：亚马逊Echo。
它是一堆乱七八糟的黑色和白色的分支线，看起来更像核反应堆的原理图而不是日常的小工具。该全景图被称为人工智能系统解剖图，但其副标题解释了其讨论的范围：“亚马逊Echo作为人类劳动力、知识与数据和行星上的资源结合产物的解剖图。”
“解剖”的第一部分显示了AmazonEcho如何收集人类用户的数据和反馈
在报告发表之前，科技资讯网站TheVerge的记者采访了纽约大学教授KateCrawford，也是AINow人工智能研究所的联合创始人，该研究所负责研究开发人工智能的社会影响。克劳福德（Crawford）和她的合作者，诺维萨德大学艺术学院教授乔勒说，由于缺乏对现代小工具、特别是人工智能的结构的认识，所以创作了这张解剖图。
由KateCrawford发起成立的AINowInstitute，是一家测试人工智能对社会影
“我们需要就大规模建立人工智能的影响进行深入而复杂的对话，”Crawford说。“通过‘解剖学’，你可以看到它，并开始理解为更大的一部分。”
（TheVerge：）首先，为什么选择AmazonEcho作为该项目的重点？
KateCrawford:我对这些系统中基于语音的简单交互非常感兴趣。Echo坐落在你的房子里，看起来非常简单和小巧，但它有很大的根源，可以连接到庞大的生产系统：物流，采矿，数据采集和AI网络培训。这是你从未见过的整个基础设施堆栈。你只需要一个简单的声音命令-：
“Alexa，打开灯”
它就像变魔术一样将灯打开。
但是，试图深入调查并理解这种魔法如何运作的，是这个项目的意义所在。从这个角度看，Echo是强大的，因为它为用户提供了这种方便感，但是当你打开盖子时，你可以看到为了生产它所需要的巨大成本。
有人会说，技术一直都是如此。当大家谈到在19世纪，因为要收获天然乳胶为海底电缆做绝缘包装的需求，导致了巨大的森林砍伐，这又和如今有什么不同？
19世纪英国船只在大西洋海面上向海底铺设电缆
在此之前，我们经历过许多技术繁荣，同时提取资源以实现这一目标。这当然是一种趋势。但我会说，转向人工智能是非常非常重要的原因。首先，它的运作水平开始改变社会本身的运作方式，因为人工智能系统正在建立在对我们最重要的机构中，从医疗保健到刑事司法，这些系统真正改变了大家与世界互动的方式。
Echo采用多种矿物质建造，包括从玻利维亚的乌尤尼盐沼收获的锂。摄影：DeanMouhtaropoulos/GettyImages
TheVerge：解剖本身分为三个广泛的系统，每个系统都称为“提取过程”。其中一个物质资源的提取过程，分为用于数据和用于人工两种。为什么你认为以这种方式构建这些系统是有用的，如“提取”？
Crawford：所有这些过程都以不同的方式提取价值。当你想到煤炭开采时，举一个例子，你可能会想到一个行业推动了猖獗的增长，高利润，但这也产生了最初在经济体系中被忽视和不计数的成本。资源开采的真实情况可能需要数十年才能出现。数据挖掘是否具有超出我们当前经济框架的类似未知成本？
“人工智能系统正在从各种人类活动中提取剩余价值。”
由于像FrankPasquale（作家）这样的学术界人士的重要工作，算法黑盒子的概念现在已经众所周知了。我们的项目对如何与其他种类的黑匣子联系感兴趣。Echo本身是一种非常难以检查的盒子：用户无法看到它是如何工作的，它如何记录数据，或者如何训练其算法。然后是通过多层承包商，分销商和下游组件制造商围绕如何收集和冶炼和组装其中的简单组件的隐藏物流。
在这篇文章中，Crawford写了一个例子，说明英特尔多年来如何才能很好地了解自己的供应链，以确保其微处理器中不含刚果产的金属钽。想象一下，公司资源充足，拥有高技能的员工，以及完善的记录保存和数据库，并且需要花费数年才能了解自己的采购模式！
这表明这些流程在公司内部进行调查和分析的难度，更不用说在外部工作的研究人员和记者了。但是，讲述生产故事的过程非常重要，而且需要：我们如何开始看到全球技术产品生产的令人眼花缭乱的复杂性。
在文章中，Crawford还谈到世界资源配置复杂链式结构，会导致财富积累方式的再次转变，系统顶端有一些亿万富翁，他们提取最大价值，你越往物流和生产链，越接近原材料，差距就越大。例如像亚马逊CEO杰夫贝索斯（JeffBezos），通过机器学习算法和现代电子商务的结合，在年，亚马逊销量、盈利以及股价的飙升，股价在三年内上涨了％，在过去的12个月中上涨了％。而现在，亚马逊正在逐步逼近苹果，有望成为世界上市值最高的公司。贝索斯的个人净资产则接近亿美元，并成为这个星球上目前为止最富有的人。
首席执行官杰夫贝索斯在年的前五个月平均每天赚取2.75亿美元。这显然是一个很大的数字，但是你把它与下游更远的工人形成鲜明对比，才能真正理解这种差距。
大赦国际组织发布了一份刚果矿区童工的调查报告，其中钴被追踪用于锂离子电池。在这种情况下，其中一个钴矿的孩子需要连续工作大约,年才能获得与Bezos一天收入相同的金额。
这种不平等在整个工业历史中都会重演，并不是人工智能时代所特有的现象。但是大规模的人工智能系统需要大量的数据，基础设施和维护，因此很少有公司能够构建和运营它们。如果我们能够很好地管理这些系统，那么随着时间的推移思考这意味着什么是重要的。
转载请注明地址:http://www.abmjc.com/zcmbzl/3737.html
