▲《人机对齐：如何让人工智能学习人类价值观》，布莱恩·克里斯汀 著，唐璐 译[前记：如今的“机器学习”系统已具备非凡能力，能够在各种场合代替我们看和听，并代表我们做决定但随着机器学习飞速发展，人们的担忧也在与日俱增。

如果我们训练的AI做的事情与我们真正的目的不符，就会引发潜在的风险和伦理问题研究人员称之为对齐问题在《人机对齐》中，畅销书作家布莱恩·克里斯汀将带领我们认识第一批积极应对对齐问题的学者，了解他们为了避免AI发展的局面失控，付出的卓绝努力和雄心勃勃的计划。

克里斯汀不仅精练地描绘了机器学习的发展史，并且亲自深入科研一线同科学家对话，准确呈现了机器学习最前沿的进展读者可以清晰认识到，对齐问题研究的成败，将对人类的未来产生决定性影响]2013年夏天，一篇平平常常的帖子出现在谷歌的开源博客上，标题是《学习词汇背后的含义》。

帖子中说：“目前计算机还不太擅长理解人类语言，虽然离这个目标还有一段距离，但我们正在利用最新的机器学习和自然语言处理技术取得重大进展”谷歌从纸媒和互联网获取了大量人类语言数据，比以前最大的数据集还大几千倍，将数据集输入一个受生物学启发的“神经网络”，并让系统寻找词语的相关性和联系。

借助所谓的“无监督学习”，这个系统开始发现模式例如，它注意到词语“北京”与“中国”的关系，同“莫斯科”与“俄罗斯”的关系一样，不管词语的意思是什么能否说计算机“理解”了？这个问题只能让哲学家来回答，但是很显然系统已经抓住了它“阅读”的内容的某种本质。

谷歌将这个系统命名为“word2vec”――意思是将词汇转换成数字向量――并将其开源对数学家来说，向量有各种奇妙的性质，你可以像处理简单的数一样处理它们，进行加、减、乘运算通过这种方式，研究人员很快发现了一些惊人的意想不到的东西。

他们称之为“连续空间词汇表示中的语言规律”，对它的解释没有听起来那么难word2vec把词汇变成了向量，这样你就能对词汇做数学运算例如，如果输入中国+河流，就会得到长江输入巴黎-法国+意大利，就会得到罗马。

输入国王-男人+女人，就会得到女王结果很惊人word2vec系统开始应用于谷歌的机器翻译和搜索引擎，业界也将其广泛应用于其他领域，例如招聘，它成了科学和工程界新一代数据驱动的语言学家的必备工具两年过去了，没有人意识到存在问题。

这是一本关于机器学习与人类价值观的书：关于不通过手工编程而是从数据中学习的系统，关于我们如何教它们，以及教什么机器学习主要包括三个领域：无监督学习，机器被直接给予一堆数据，就像word2vec系统一样，目的是理解数据，找到模式、规律、有用的方式来提炼、表示或可视化数据；监督学习，系统被给予一堆已分类或标记好的例子进行学习，比如假释犯是否再犯，然后用习得的模型对从未见过或尚不清楚基本事实的新例子进行预测；强化学习，系统被置于一个有奖惩的环境中，就像补能和危险并存的赛艇赛道，目的是找出最小化惩罚和最大化奖励的最优方法。

本文未完，点击左下角"阅读原文"获取完整内容《乌克兰历史漫游》连载完毕，长按图片可研习乌克兰两千年历史。

特别声明 财新mini由财新传媒出品。财新mini所刊载内容之知识产权为财新传媒及/或相关权利人专属所有或持有。欢迎在朋友圈分享，未经许可，禁止转载、摘编、复制及建立镜像等任何使用。