创建了人工智能用于组织决策和公共管理; 剑桥大学的约翰尼·潘说,他需要一种人文道德人工智能(AI)无处不在,但并不是完全以历史的方式发明的。 要了解AI对我们生活的影响,重要的是评估创建AI的环境。 最终,统计和状态控制已经相伴发展了数百年。
考虑计算机科学。 它的起源不仅可以通过分析哲学,纯数学和艾伦·图灵(Alan Turing)追溯到,而且还可以令人惊讶地通过公共管理的历史来追溯。 伦敦大学学院的约翰·阿加尔(John Agar)于2003年在《政府机器:革命性的计算机历史》一书中提出了英国公务员制度的发展,从1797年的16,000名员工发展到1999年的46万名。 他注意到官僚机构和电子计算机之间的功能异常相似。 (他承认他不能说这个观察是微不足道的还是深刻的)。
两种系统都使用预定义但可调整的规则层次结构来处理大量信息。 但是其中一个来自另一个。 这表明人的社会结构的组织与为他们服务的数字工具之间有着重要的联系。 Agar先生将计算机科学的起源与1820年代在英国开发的Charles Babbage分析引擎联系在一起。 它的发展得到了政府的补贴,表明它将作为其赞助者。 阿加尔先生指出,巴贝奇的项目应被视为“国家活动的物质化”。
计算系统和人类组织结构之间的这种关系重复了AI的历史。 在1930年代和1940年代,来自芝加哥大学的政治学家赫伯特·西蒙(下图)后来在卡内基·梅隆大学任教,他决定开发一种“科学”的方法来建立管理结构。 西蒙以前曾在维也纳逻辑实证主义者圈子的成员鲁道夫·卡纳普(Rudolf Karnap)的领导下学习。 这证实了他的信念,即现有理论缺乏经验主义。 他于1947年发表的博士学位论文成为《行政行为》一书,这本书是使用决策矩阵可以理解组织中所有活动的基础。
西蒙说他不仅在政治科学和经济学领域,而且还在计算机科学和人工智能领域为许多科学领域做出了巨大贡献。 他创造了“满意”一词(接受期望,而不是追求最优),并提出了“有限理性”的概念,为此他于1978年获得了诺贝尔经济学奖。 但是在1950年代,西蒙曾是兰德公司的顾问,兰德公司是一家受美国空军支持的有影响力的智囊团。
在RAND,Simon和他的两个同事:年轻的数学家Allan Newell和前保险精算师J. Clifford Shaw,试图通过计算机如何执行特定操作来为人类问题建模解决方案。 为此,Simon借用了他在“行政行为”中开发的系统中的元素,以便教会计算机像一个人一样“思考”,Simon使他像一群人一样思考。
三位科学家的工作成果是一个名为Logical Theorist的虚拟机,它被命名为第一个人工智能工作原型。 1956年在达特茅斯举行的夏季研究项目中,工作的理论家的打印输出使我们注意到了人工智能,人工智能的名字为整个科学领域奠定了基础。 在达特茅斯的一次会议的笔记中,一位与会者写道,理论家帮助克服了资助该领域研究的担忧。 这很重要,因为人工智能基金对这一研究领域是否有用表示怀疑。
西蒙如何看待他的科学成就? 在达特茅斯会议的一年之后,他和纽厄尔在出版物“启发式问题解决:运筹学的下一个运动”中发表了他们的研究结果。 标题中的关键表达是:“运筹学”在第二次世界大战期间出现在英国,目的是应用科学原理和统计数据来优化军事行动,然后用于公司目的。 人工智能是用于商业的。
1957年,西蒙(Simon)在伦敦对运营研究人员的讲话中,注意到科学管理运动之父弗雷德里克·泰勒(Frederick Taylor)和他的思想先驱查尔斯·巴贝奇(Charles Babbage)。 西蒙说:“物理学家和电气工程师与数字计算机的发明无关。” 他认为真正的发明家是经济学家亚当·斯密。 他解释了这种关系:法国土木工程师加斯帕德·德·普洛尼(Gaspard de Prony)打算使用史密斯的《国富论》创造的方法来创建对数。 受普罗尼(Prony)启发,巴贝奇(Babbage)将这一猜想应用于机械设备。 1950年代中期,Simon将其转换为程序代码。
传统继续存在。 许多现代人工智能系统并没有像官僚机构那样天才,而是在模仿人类思维。 我们的机器学习方法通常经过编程,可以通过人的身份,野心或道德来达到超人的比例,速度和准确性。
代码中的资本主义人工智能历史的这些方面:公司决策,国家权力和战争中的统计数据使用-人们对人工智能的理解并没有得到保留。
取而代之的是,技术突破的消息或表达恐惧的专家都附有图像,如果不是装备精良的终结者的图像,则还附有思维,机器人,霓虹灯微芯片或荒谬的数学方程式。 对于借用西蒙(Simon)术语,政治学,管理学甚至经济学的“软”科学,它们中的每一个都不是自然科学或计算机科学权威的强有力确认。 他前往斯德哥尔摩获得诺贝尔奖的地区。
也许由于这种错误的印象,直到今天,公众辩论仍在继续,社会科学可以为人工智能研究带来哪些好处(如果有的话)。 据西蒙说,人工智能本身就是社会科学诞生的。
剑桥大学的政治学家戴维·朗西曼(David Runciman)认为,为了理解人工智能,我们必须首先了解人工智能在其所嵌入的资本主义体系中的运作方式。 他解释说:“公司是人为思维的另一种形式,其设计目的是能够自行做出决定。”
Runsiman先生说:“人们对即将到来的智能机器人时代所面临的许多恐惧与他们对企业协会的数百年一样。” 令人担忧的是,我们“将永远无法学习控制这些系统”。
例如,在2010年发生漏油事件之后,有11人死亡,墨西哥湾被毁,没有人入狱。 Runciman先生警告的威胁是,将使用人工智能方法,例如规避公众责任的策略,而不受惩罚。
如今,Julia Angwin,Virginia Eubanks和Katie O'Neill等开拓性研究人员展示了各种算法系统如何以不负责任的方式加强暴力,破坏人的尊严并破坏诸如问责制等基本民主机制。 伤害不应是故意的; 用于训练预测模型的有偏见的数据集也是有害的。 考虑到识别和消除造成的伤害所需的昂贵劳动,有必要创建诸如“道德服务”之类的作为独立行业创建的东西。 例如,奥尼尔女士现在已经启动了自己的算法检查服务。
1950年代,在该领域的首批先驱人物之一约翰·麦卡锡(John McCarthy)在达特茅斯(Dartmouth)的一次会议上创造了“人工智能”一词,并在他的笔记中写道:“只要一个认识论系统被编程并起作用,其他任何事情都将不被重视,除了管理智能程序。” 因此,DeepMind的最初口号是“了解思想。 用它来了解其他一切,”看起来几乎是皇家的。
麦卡锡的建议是,影响而非力量可以解决其领域的科学共识。 DeepMind不需要“知道”智力(只要有可能)就可以击败竞争对手。 公司的新口号是:“知道头脑。 “用它来了解其他所有内容,”他说,他也认识到在人工智能的全面力量时代,外交的必要性。
勒沃姆(Levergulm)未来研究中心主任斯蒂芬·凯夫(Stephen Cave)透露,情报的定义在整个历史上一直被用作主导地位的工具。 亚里斯多德(Aristotle)求助于社会等级制度的“自然法则”,以解释为什么妇女,奴隶和动物应服从于聪明人。 鉴于这种残酷的遗产,公司和计算机代理机构的政策应解决由性别,性别和殖民主义与其他个人素质相关的复杂问题。
人工智能的主要职责是提供大规模的自动分类。 例如,机器学习可用于区分恶性痣和良性痣。 当旨在解决日常生活中的问题时,这种“职责”就成为一种威胁。 粗心的标签声称虚假权力时可能会造成骚扰和伤害。 为了抗议曾经用来“了解”世界的不公正标签,当今许多年轻人自豪地挑战不受欢迎的分类,无论是传统性别还是性别对。
重新思考的机器对于许多人而言,令人惊讶的是,人工智能起源的社会,物质和政治原因尚未得到很好的理解。 确实,关于人工智能历史的文章很多:1996年的Simon和2000年的Newell。 然而,信息技术历史学家保罗·爱德华兹(Paul Edwards)表示,这些故事大多数都遵循某些局限性,“主要是在智力上”观察它们。
人工智能的两个几乎官方的故事中的每一个都是一个思想故事:帕梅拉·麦考达克(Pamela McCordack)的“思考的机器”,在1979年首次出版后“为随后的大多数故事创建了模板”。 与人工智能:丹尼尔·克里维耶(Daniel Crevier)的精彩故事,于1993年出版。 这两本书都主要依靠对关键研究人员的详细采访。
结果,也许没有人试图在更广泛的背景下理解人工智能,包括自第二次世界大战以来一直在发展的人工智能,包括运筹学,“大科学”,精算科学和美国军事资助。 与这些故事不同的是,人工智能可能与其历史和政治背景分离。
没有这种背景,人工智能似乎也可能与创造它的科学系统脱节。 在1957年与运筹学领域的专业人士交谈中,西蒙(Simon)指出了其科学领域过去的多样性。 他将法国织布工和提花机工以及史密斯,德普罗尼,巴贝奇和他的软科学同事的贡献描述为集体“债务”,有待偿还。
这种新知识本来是来自许多地方的,出乎意料,这使西蒙的工作激动不已,并且可能使我们今天以同样的方式思考。 现代AI不仅可以反映出其诞生的组织学说,还可以反映我们的人性。