人工智能带来的惊喜与危险是并存的

使用人工智能的算法正在尝试以意想不到的技巧来解决问题，这让它们的开发者感到惊讶。但与此同时，这也引发了人们对如何控制人工智能的担忧。

当人工智能在设备中被放任自流时，很可能就会发生这样的事情。与传统的计算机程序不同，人工智能的设计目的就是探索和开发新的方法，以完成人类工程师没有明确告诉它们的任务。

然而，在学习如何完成这些任务的同时，人工智能有时会想出一种极富创造力的方法，甚至会让一直使用这种系统的人大吃一惊。这可能是一件好事，但同时也可能使人工智能控制的一切变得不可预测，甚至可能带来危险。例如，机器人和自动驾驶汽车最终可能做出将人类置于危险境地的决定。

人工智能系统怎么可能“智胜”它的人类主人呢？我们能否以某种方式约束机器智能，以确保不致某些不可预见的灾难？

在人工智能研究界，有一个关于人工智能创造力的例子似乎被引用得最多。真正让人们对人工智能的能力感到兴奋的时刻，是DeepMind的人工智能机器学习系统AlphaGo如何掌握围棋这一古老的游戏，然后击败了世界上优秀的人类棋手之一。DeepMind是一家创立于2010年的人工智能公司，在2014年被谷歌收购。

事实证明，它们可以用一些以往从未有人用过——或者至少很多人不知道——的新策略或新技巧，来对付人类棋手。

我们需要记住的重要一点是，人工智能并不真正像人类那样思考。它们的神经网络确实是受到了动物大脑的启发，但更确切地说，它们是所谓的“探索设备”。当它们试图解决一个任务或问题时，并不会带有很多(如果有的话)对更广阔世界的先入之见。它们只是尝试——有时是数百万次——去找到一个解决方案。

我们人类有很多思想上的包袱，我们会考虑规则，人工智能系统甚至不理解规则，因此它们可以随意地拨弄事物。

人工智能让我们感到惊奇的方式之一，是它们能够使用相同的基本系统来解决根本不同的问题。最近，一款机器学习工具就被要求执行一项非常不同的功能：下国际象棋。

该系统被称为“GPT-2”，由非营利的人工智能研究组织OpenAI开发。GPT-2利用数以百万计的在线新闻文章和网页信息进行训练，可以根据句子中前面的单词预测下一个单词。开发者肖恩·普莱瑟认为，国际象棋的走法可以用字母和数字的组合来表示，因此如果根据国际象棋比赛的记录来训练算法，这一工具就可以通过计算理想的走法序列来学习如何下棋。

长期以来，人工智能给人们留下的深刻印象主要来自电子游戏领域。在人工智能研究界，有无数例子揭示了算法在虚拟环境中所做到的事情有多么令人惊讶。研究者经常在诸如电子游戏等空间中对算法进行测试和磨练，以了解它们到底有多强大。

2019年，OpenAI因为一段视频登上了新闻头条。视频中，一个由机器学习控制的角色正在玩捉迷藏游戏。令研究人员惊讶的是，游戏中的“寻找者”最终发现，它们可以跳到物品上方进行“冲浪”，从而进入“躲藏者”所在的围栏。换言之，“寻找者”学会了为了自己的利益而改变游戏规则。

研究人员发现，当人工智能系统在特殊条件下接受测试时，这种目标导向的偏见会暴露出来。在最近的一项实验中，被要求在银行进行投资的游戏人工智能角色会跑到虚拟银行大厅附近的一个角落，等待获得投资回报，这个算法已经学会了将跑到拐角处与获得金钱回报联系起来，尽管这种运动与得到多少回报之间并没有实际的关系。

这有点像人工智能在发展迷信，在得到了某种奖励或惩罚之后，它们开始思考为什么会得到这些。

这是“强化学习”的陷阱之一。所谓“强化学习”，是指人工智能最终会根据它在环境中遇到的情况设计出判断错误的策略。人工智能不知道自己为什么会成功，它只能将自己的行动建立习得联想的基础上。这有点像人类文化早期阶段时，将祈祷仪式与天气变化联系起来的行为。

测试的游戏人工智能与心理学家所使用的活体动物之间有着巨大的差异，但其中起作用的似乎是相同的基本机制，即奖励与特定行为错误地联系在一起。

使用人工智能的产品，比如自动驾驶汽车，可以经过严格测试，以确保任何不可预测性都在一定的可接受范围内。在这一点上，只有时间才能证明所有销售人工智能产品的公司是否都如此小心谨慎。但与此同时，值得注意的是，人工智能表现出的意外行为绝不仅仅局限于研究环境，而是已经进入了商业产品领域。

人工智能的探索性是其未来成功的基础。随着我们不断扩展这些人工智能系统的规模，可以看到，它们正在做着一些富有创造性且令人印象深刻的事情，而不只是表现出学术上的好奇心。

如果人工智能系统能找到更好的方法来诊断疾病，或者向有需要的人群运送紧急物资，它们就可以挽救更多的生命。人工智能有能力找到解决老问题的新方法。但开发这类系统的人需要对其不可预测的本质保持开放和诚实，以帮助公众了解人工智能的工作机制。

人工智能的承诺和威胁一直同时存在，它们接下来会想到什么？这是耐人寻味的问题。