如何看待人工智能-悲观派学者如何看待人工智能-如何正确看待人工智能

ig281

问耕 发自 SMB

量子位 出品 | 公众号

最近，五位正在哈佛就读的博士生一同来到了著名的社区。他们在这里展开了一场活动，这场活动围绕着人工智能和认知科学展开，是一场 AMA（Ask Me ）活动。

这几位博士生分别做如下介绍：有来自分子生物学系的；Dana 和 Kevin Sitek 来自哈佛 - 麻省理工语音和听力项目；Adam 和 Yuan 来自医学院，他们通过使用机器学习等方式展开相关研究。

这次在线交流总时长为两个小时，网友们热情参与其中。量子位从中选取了一些精彩的问答并进行了编译摘录，内容如下。

提问：我们需要担心人工智能和自动化发展速度过快么？

我们应当为生活在一个有着 AI 和自动化的世界而做好准备。在不久的将来，有许多工作会逐渐失去其存在的价值。因为我们清楚这一天必然会到来，所以整个社会就应该拟定出切实有效的政策。

吴恩达曾说：“我觉得工作岗位的流失是个极为重大的问题，不过我期望大家能够把精力集中在去解决这个问题上，而非去在意那些如同科幻小说般的事物。”

提问：AI会在哪个领域（医疗、金融等）率先立足，为什么？

AI 在医学图像处理领域取得了很大的进展。比如，在利用图片来识别皮肤癌方面，人工智能机器已经具备了与人类医生相当的水平。

金融部门会更快实现自动化，银行部门也会如此。通常情况下，股票的购买是一个复杂的决策过程，而最终这些交易将由各种数据来决定，算法正在逐步取代人的决策。

我们依然不了解人工智能将会怎样对我们的经济和工作产生影响，唯有时间能够给出答案。

机器学习是当下比较热门的话题。那么，AI 的下一个重大事件会是什么呢？

从纯机器学习的视角来看，无监督学习将会成为下一个重要的事情。研究人员当下给机器提供数据的这种方式叫做监督学习，这些数据不仅知晓其类型（像图片这类），并且还被打上了标签（比如图中是一只猫）。在监督学习领域，存在着诸多伟大的成功案例。

机器如何能自学成才呢？这便是无监督学习所要做的事情。一个婴儿出生之后，其父母无需教授每一件事，婴儿会自行进行学习。当然，无监督学习是一件较为棘手的事情，AI 研究者正在为解决这个问题而努力。例如，Yann LeCun 最近一直在谈论无监督学习。

你们或许低估了无监督学习。对于这个 AI 问题，我们已经进行了几十年的研究，然而却没有取得任何进展。并且，它并非是一个新的研究焦点。

感谢你的回复。我们要表达的是关于无监督学习的具体算法框架。生成模型被用于解决此问题，因为它能够以某种方式探测数据中潜在的变量，同时还可以生成新的数据。

曾经使用过 Wake-Sleep 算法来解决这个问题，然而并未取得显著的成功。接着是限制玻尔兹曼机以及深度信念网络。但这些技术在应用于现实世界时，都遭遇到了极为巨大的挑战。

最近，变分自编码器以及生成对抗网络等模型取得了突破。这些模型能够快速且简单地对非结构化数据执行复杂任务。比如可以创建人物素描，能够生成句子，还可以自动为图片着色等。

人们在这个领域的确已经努力了很长时间。借助上述新技术，我认为我们正朝着一个新的领域迈进，那就是让机器能够自行了解我们的世界。

提问：你们觉得政府应该为AI制定什么具体的法律法规么？

回答：有个阿西莫夫机器人三定律。

机器人不得目睹人类个体将遭受危险而袖手不管。

第二定律表明，机器人必须服从人给予它的命令，不过当这个命令与第一定律发生冲突时，就属于例外情况。

机器人在不违反第一定律和第二定律的情况下，要尽力去保护自己的生存。 机器人需要在符合第一、第二定律的前提下，尽可能地保障自身的生存。 机器人在不违背第一、第二定律时，要最大限度地保护自己的生存。

应该有一些法律来规范人工智能的应用，这是很有必要的。或许还需要一些机构来进行代码评估，以确定人工智能是否会被用于不道德的领域。我脑海中浮现出无人车需要面对的“电车难题”，即是否应该为了拯救 10 个人而牺牲另外 1 个人。

在这方面我们不是专家。

最近的工程师把机器学习的翻译程序关掉了，据说原因是这些 AI 创造了它们自己的语言。你们对此事是怎么看的？

回答：我觉得这没有什么可怕的。

机器学习中的一个大问题在于生成与人类相似的反应或反馈。一种解决办法是让机器生成人类的句子，接着你去告知机器它的表现如何。这种方式极为困难，原因是耗费时间和精力。即便存在能够自学的算法，也需要上百万的语料才有可能正常运行。另一条途径是让一台机器生成语句，而另一台机器来判别其是否符合人类的语言。

他们的工作目标是制造一台能够进行谈判协商的机器。然而，结果表明他们所采用的方式无法取得成效。基于此，他们决定关闭这项研究。

我对 AI 感兴趣已经有两年的时间了。我期望未来能够有机会去从事 AI 安全相关的工作。你可以给我一些建议吗？我应该做些什么或者学习些什么呢？非常感谢！

有个人写了一篇极为有趣的文章，目的是阐述 AI 安全问题。他给出了以下五个要点：

机器人怎样才能在追求效率的过程中避免带来连带损伤，从而避免有害副作用呢？

2、避免激励机制漏洞：如何才能防止机器人投机取巧？

弹性监督：怎样让机器人能够自主地去验证目标，并且正确地完成任务，而无需让用户花费极高的时间成本，与机器人反复进行核实呢？

安全探索方面：怎样才能防止机器人在对陌生环境进行探索以及学习新技能的过程中对人类造成损害呢？

我们要保证机器人在切换环境后，能够将已经习得的技能无缝迁移到新环境中，以避免造成不必要的麻烦。这涉及到切换环境后的可靠性问题。

另外，建议你更多的熟悉算法，知道机器如何工作。

提问：未来期望从事 AI 领域，当下的最佳路径是什么？我目前在社区大学就读，正在努力攻读计算机科学方面的学士学位。

坦白地说，我觉得要想把机器学习做好，得具备很强的数据背景。机器学习本质是统计学，只是被花哨的算法外衣所包裹。这个领域发展迅速，如同狂野的西部，因此有人将机器学习形容为“牛仔统计学”。但我认为机器学习被过度夸大了，基本的统计学就可以解决很多问题。

你应该在其他喜欢的领域继续研究。若你不理解手上数据的意思，就无法进行很好的建模。我们这些人都会在自己感兴趣的领域研究具体问题，并应用机器学习的方法。当然，你也可以选择进行纯粹的机器学习研究。

总之，数学和你感兴趣的领域，都很重要。