1.       目标1.1.         AlphaZero的目标是在遵守规则的前提下赢得国际象棋比赛1.2.         发现Halicin的人工智能的目标是灭杀尽可能多的致病菌：它在不伤害宿主的情况下灭杀的致病菌越多，就越成功1.2.1.           人工智能成功了，因为它发现的抗生素确实杀死了致病菌1.2.2.           它之所以特别具有开创性，是因为它扩大了治疗的选择，通过一种新的机制获得了一种新的（强大的）抗生素1.3.         人工智能，它已经迅速从幻想走入现实，能够执行需要人类智力水平的任务1.3.1.           开发人员都创建了一个程序，然后给它分配一个目标1.3.1.1.            赢得一场游戏1.3.1.2.            灭杀一种细菌1.3.1.3.            根据提示生成文本1.3.2.           并允许它接受一段时间（以人类认知的标准来说很短暂）的“训练”1.3.3.           到这一时间段结束时，每个程序都以不同于人类的方式掌握了训练主旨1.3.4.           程序获得的结果超出了人类大脑的计算能力，至少是在实际时间范围内运行的大脑的计算能力1.3.4.1.            程序通过人类可以追溯、研究和理解的方法获得结果1.3.4.2.            有一些案例，人类至今仍不确定这些程序是如何实现目标的1.4.         机器学习，即人工智能技术获取知识和能力的过程，通常比人类的学习过程所需的时间短得多，机器学习的应用也已扩展到医药、环境保护、交通、执法、国防等各个领域1.4.1.           特别是使用“深度神经网络”的机器学习方法，能够产生长期以来人类思想者无法领悟的见解和创新，并生成看起来是由人类创造的文本、图像和视频1.5.         得到全新算法和日益丰富且经济的算力加持的人工智能正变得无处不在1.6.         人工智能接触现实的方式与人类不同1.6.1.           如果说人工智能的专长有什么指导意义的话，那就是它可能会接触到与人类所接触的迥然不同的现实层面1.6.2.           人工智能发挥的作用预示着一种朝向事物本质的进步，几千年来哲学家、神学家和科学家一直在寻求这种进步，并取得了部分成功1.7.         虽然人工智能的进步不可避免，但它的最终归宿尚未明确1.7.1.           它的出现具有历史和哲学双重意义1.7.2.           任何阻止其发展的企图都不会成功，未来属于那些勇于探索和创造的人1.8.         人类正在创造和扩散非人类的逻辑形式，至少在它们被设计用以发挥作用的离散环境中，它们所能达到的范围和敏锐度可以超过人类1.8.1.           人工智能的功能错综复杂，变化无常1.8.2.           在某些任务中，人工智能达到了人类的水平，甚至超越了人类1.8.3.           在其他任务（抑或是相同的任务）中，它所犯的错误甚至连孩子都不会犯，有时产生的结果则完全是荒谬的1.9.         人工智能的关注重点被指定为超出人类能力范围的领域1.9.1.           不是查找已知的给药途径，而是寻求未被发现的方法2.       探索现实和求知2.1.         几千年来，人类一直以探索现实和求知为己任2.1.1.           只要勤奋和专注，运用人类的理性来处理问题，就能产生可衡量的结果2.1.2.           随着时间的推移，通过这一过程获得的知识（更精确的日历、新的导航方法、新的疫苗）为人类活动创造了新的可能性，并产生了适用理性来解释的新问题2.1.3.           无论这个过程多么磕磕绊绊和不完美，它都改变了我们的世界，并培养了我们作为理性的人所应有的信心，让我们有能力了解自身处境和应对这种处境带来的挑战2.2.         人类把自己不能理解的东西归为两类2.2.1.           对未来理性应用的挑战2.2.2.           神的领域2.2.2.1.            不受神所赐予我们的可直接理解的过程和解释的约束3.       技术变革3.1.         纵观历史，人类并非没有经历过技术变革3.1.1.           从根本上改变我们这个社会的社会架构和政治架构的技术却屈指可数3.1.1.1.            只有极少数技术会挑战我们解释和组织世界的主导模式3.1.1.2.            人工智能有望在人类体验的所有领域带来变革3.1.2.           更常见的情况是，为我们的社会环境定序的现有架构适应和吸收了新技术，并在可识别的范畴内不断发展和创新3.1.2.1.            汽车取代了马匹，但并未迫使社会结构发生全面转变3.1.2.2.            来复枪取代了滑膛枪，但传统军事活动的一般范式基本上原封未动3.1.3.           人类在使用机器提高生产力、实现自动化，并在许多情况下取代人工劳动方面已有几个世纪的经验3.1.3.1.            在日常生活中，人工智能将与我们朝夕相伴，帮助我们决定吃穿用度，决定认知信念，甚至决定何去何从3.2.         变革的核心最终将发生在哲学层面，即改变人类理解现实的方式以及我们在其中所扮演的角色3.2.1.           我们被逐步纳入这个过程，被动地裹挟其中，很大程度上既不知道它已造成什么影响，也不知道它在未来几年可能带来什么变数3.2.2.           奠定其基础的是计算机和互联网的出现，而其发展所达的顶峰将是无处不在的人工智能，以或显而易见（如新药研发和自动语言翻译）或不易察觉（如从我们的行为和选择中学习并对此加以调整，以预测或塑造我们未来需求的软件过程）的方式扩展人类的思维和行动3.2.3.           现在，人工智能和机器学习的前景已然呈现，运行复杂人工智能所需的算力正变得唾手可得，几乎没有哪个领域不受影响3.2.3.1.            那些一度只有人类思维能够涉足的领域都留下了人工智能的印迹3.2.3.2.            软件将成为一种可以增强我们的能力和经验的动态信息处理强化器，既塑造我们的行为，也从我们的行为中学习3.3.         人工智能赋能的技术将成为人类感知和处理信息的永久伴侣，尽管它占据着与人类不同的“精神”层面3.3.1.           无论我们视其为工具、伴侣还是对手，它都会改变我们作为理性生物的经验，并永久性地改变我们与现实的关系3.3.2.           这种转变既不是人工智能固有的威胁，也不是其天生的救赎3.3.3.           与以往的技术截然不同的是，人工智能很可能会改变社会的轨迹和历史的进程3.4.         在越来越多的应用领域中，机器正在设计出超出人类想象的解决方案3.4.1.           AlphaZero证明，至少在游戏领域，人工智能已不再受现有人类知识的限制3.4.2.           2016年，DeepMind公司的分支机构DeepMind Applied开发了一种人工智能（运行原理与AlphaZero大致相同），以优化谷歌温度敏感数据中心的冷却操作3.4.2.1.            DeepMind的人工智能程序进一步优化了冷却操作，将能耗又降低了40%，这相比人类取得的成绩有了很大的改善3.5.         当人工智能在不同领域取得类似的突破时，世界将不可避免地发生变化3.5.1.           结果将不仅仅是人工智能以更有效的方式执行人类布置的任务3.5.2.           在多数情况下，人工智能将提出新的解决方案或方向，这些解决方案或方向将带有另一种非人类的学习和逻辑评估形式的印记3.5.3.           当多国军队开始采用由机器制定的战略和战术，而这些机器又能感知人类士兵和战略家无法感知的作战模式时，力量平衡将被改变，并可能更难以计算3.5.4.           社会内部和社会之间，也就是采用新技术的人群和选择不采用同类技术或缺乏相应手段开发或获得技术的某些应用的人群之间，将出现新的分化3.5.5.           政治领域3.5.5.1.            在政治领域，世界正在进入一个由大数据驱动的人工智能系统为越来越多方面提供信息的时代3.5.5.2.            政治信息的设计，向不同人群定制和分发这些信息，旨在挑拨社会关系的恶意行为者杜撰和操弄虚假信息，以及设计和部署相应算法来检测、识别和对抗虚假信息及其他形式的有害数据3.5.5.2.1.             这些背后都会有人工智能介入3.5.5.2.2.             结果，自由社会的前景，甚至自由意志，都可能会被改变3.6.         随着各个社会出于各自不同的目标、不同的训练模式，以及在人工智能方面可能存在的互不兼容的操作和道德限制来发展自己的人机伙伴关系，它们可能会陷入竞争、技术不兼容，以及越来越严重的相互不理解3.7.         如果人工智能在某项任务上的表现超过了人类，那么坚持不采用人工智能，甚至不把它作为人类的辅助手段的做法，可能会显得非常不合常理，甚至会被认为是一种疏忽4.       人类思维4.1.         人类思维登上历史舞台的过程历经了数个世纪4.1.1.           文艺复兴见证了古典著作和探究模式的重新发现，这两者随即被用来认识一个随着全球探索进程而不断扩大视野的世界4.1.2.           在启蒙运动期间，笛卡儿的格言“我思故我在”将理性思维奉为人类的决定性能力，并宣称它具有历史中心地位4.1.2.1.            这一概念也传达了一种打破对信息的既定垄断的可能性，而这种垄断当时主要掌握在教会手中4.1.3.           在西方，印刷机的出现和新教改革挑战了官方的等级制度，改变了社会的参照系4.1.3.1.            从通过《圣经》经文及其官方解释来揣测神意，到通过个人分析和探索来寻求知识和成就4.2.         如今，这种假定的人类理性优越性遭遇了部分颠覆，而能够匹敌或超越人类智能的机器却在激增，这预示着一场可能比启蒙运动更为深远的变革即将到来4.2.1.           即使人工智能的进步没有产生通用人工智能(AGI)，即能够完成人类水平的任何智力任务，并能够将任务和概念与其他学科联系起来的软件，人工智能出现本身也将改变人类对现实的定义，从而改变人类对自身的界定4.3.         基于理性的选择一直是人类的特权4.3.1.           自启蒙运动以来，它也一直是人类的决定性属性4.3.2.           能够近似人类理性的机器的出现，将同时改变人类和机器4.3.3.           机器将启迪人类，以我们不曾预期或始料未及的方式扩展我们现实世界的疆界4.3.4.           事物发展也有可能走向反面：吸纳了人类知识的机器将被用来贬低和削弱我们4.4.         尽管人工智能可以得出结论、进行预测、制定决策，但它不具备自我意识，换句话说就是它没有反思自己在世界上所扮演角色的能力4.4.1.           它没有意图、动机、道德或情感，不过即使没有这些属性，它也可能会发展出与人不同、出人意料的方法来实现被分配的目标4.5.         在人工智能的不断进步及其日益广泛应用的助推下，人类的心智历程也将经历一番柳暗花明，一些以往无法实现的目标如今已触手可及，其中包括用于预测和减轻自然灾害的模型、更深奥的数学知识，以及对宇宙及其所在现实的更全面理解4.6.         要实现这些目标及其他可能性，需要改变人类与理性乃至现实之间的关系，而这种改变很大程度上是悄无声息的4.6.1.           这是一场革命，人类现有的哲学概念和社会制度让我们在面对这场革命时颇有些措手不及5.       做出决策的三种主要方式5.1.         由人类（这是我们熟悉的）5.2.         由机器（这正在变得熟悉）5.3.         由人机合作（这不仅是陌生的，而且是前所未有的）5.3.1.           人类为机器定义一个问题或目标5.3.2.           机器在人类无法企及的领域中运作，决定要追求的最优过程5.3.3.           一旦机器将某个过程带入人类可知的领域，我们就可以尝试去研究它、理解它，并在理想情况下将其纳入现行惯例中5.3.4.           单是人机伙伴这种关系本身，已经标志着与以往经验的深刻背离5.4.         这种发展将改变所有领域，将它们纳入人工智能辅助过程中，到那时，纯人类、纯人工智能和“人类—人工智能”混合决策这三者之间的界线有时会变得难以界定5.4.1.           美国空军已经将AlphaZero的基本原理应用到一种名为ARTUμ的全新人工智能上，该人工智能在一次试飞中成功地操纵了一架U-2侦察机，这是在没有人类直接监督的情况下首个自主驾驶军用飞机和操作其雷达系统的计算机程序5.4.2.           发现Halicin的人工智能不仅在狭义上（灭杀细菌、给药）拓展了人类研究者的观念，在广义上（疾病、药物、医疗）也是如此