也许机器智能研究所(MIRI)迄今为止收到的最准确的媒体报道是亚博体育官网一块传奇科学作家卡尔齐默在《花花公子》．让你们知道这有多不准确大多数在我们的媒体报道中，这里有一段(翻译过来的)引用来自于MIRI的一些报道法德纪录片：
然而，在旧金山，一个由年轻的志愿科学家组成的社会相信机器人的好处。多么天真!在[米里]…
这句话很有趣，因为机器智能研究所(Machine Intelligence Research Institute)十年来一直在说人工智能会亚博体育官网默认情况下对人类有害，确实如此极其困难的设计一个“道德机器”，我们和其他人都不知道如何去做许多的方法由于这样或那样的原因，别人提出的建议是幼稚和不充分的。
现在,在一块新为《星期日泰晤士报》布莱恩·阿普尔亚德写道:
尤多科夫斯基[来自MIRI]在我看来，他对道德规范的理解过于简单。“你不会杀死一个婴儿，”他对我说，暗示这是一个很容易被编程到机器中的规范。
“有些人是这样的，”我指出，但他并没有看到它的全部意义。党卫军官员经常杀害婴儿，因为他们适应了社会，而这些婴儿正是以纳粹主义的形式出现的。无论我们如何编程，机器都将从根本上远离人类的社会规范。
再一次:MIRI十年来一直在说，要让一台机器不杀死婴儿是极其困难的。事实上，我们的立场是，直接编程道德规范是行不通的，因为我们的价值观比我们意识到的要复杂得多．道德规范的直接编程也有人提出了我们批评的立场。例如，这里引用了一段简洁的总结我们的研究项目亚博体育官网:
既然我们没有内省获得人类价值的细节,此问题的解决方案可能涉及到设计一个人工智能学习人类价值观通过观察人类,问问题,人类的大脑扫描,等等,而不是一个AI预装了一套固定的规则,听起来好点子。
但这并不意味着我们可以简单地让一些先进的机器学习算法观察人类的行为来学习我们的道德价值观，因为:
人类文明中明确的道德价值随着时间的推移而变化，我们把这种变化看作是进步，并推断进步在未来可能会继续。人工智能程序的显式值1800现在可能要努力重建奴隶制…可能引导算法包括“做我们会告诉你如果我们知道所有你知道的,”“我们已经告诉你如果我们想和你做的一样快,可以考虑更多的可能行道德论点,““按照我们告诉你的去做，如果我们有你的能力去反思和修改自己。”在道德哲学中，这种道德进步的概念被称为反思均衡。
接下来，Appleyard的观点是“无论我们如何编程，机器都将从根本上远离人类社会规范”，这是MIRI从一开始就提出的另一个观点。见对拟人化的警告创造友好的人工智能(2001)及“人工智能在全球风险中的积极和消极因素(2005年出版，2008年出版)。人工智能思维设计对我们来说将比电影中出现的外星人的思维更“外星人”。
Appleyard接着说:
(与MIRI相比)，剑桥研究小组对这些问题的理解要复杂得多。尤其是普莱斯，他意识到机器不会受到社会压力而表现良好。
普莱斯说:“当你想到智能可能采取的形式时，我们似乎有理由认为，我们占据了智能空间的某个小角落，而某些东西可能具有智能的方式有很多，但与我们的思维完全不同。”
Appleyard似乎没有意识到的是，Price基本上是在引用mii研究员Eliezer Yudkowsky长期强调的一个观点——有一个巨大的可能的思想空间，而人类只占据了这个空间的一个小角落。亚博体育官网事实上，这一点与MIRI和Eliezer Yudkowsky的关系比任何人都大!这是Yudkowsky在2005年写的另一篇文章:
"人工智能"指的是比"智人"更大的可能性空间当我们谈论“ai”时，我们实际上是在谈论一般的思维，或一般的优化过程。想象一张思维设计空间的地图。在一个角落里，一个小小的圈子里包含着所有的人;在一个包含所有生物生命的更大的小圈内;而这幅巨大地图的其余部分则是心智空间。整个地图漂浮在一个更广阔的空间，优化过程的空间……正是这个巨大的可能性空间取缔了拟人化作为合法推理。
所以，又一次，一个记者认为mii的立场是相反的。
当心你在大众媒体上读到的东西!
更新我告诉Appleyard他的错误，他只是否认他的文章在这个问题上有错误。
你喜欢这篇文章吗?你可以享受我们的另一个yabo app 的帖子,包括:
