从哲学到数学再到工程学

几个世纪以来，哲学家们一直想知道我们如何才能了解什么导致什么。一些人认为这是不可能的，或者只有通过实验才能实现。他人保持黑客攻击了在的问题,明确的想法就像反事实的和概率和相关让它们更精确，更连贯。

然后，在20世纪90年代，一个突破出现了:朱迪亚·珀尔和其他人显示原则上，即使没有实验，我们有时也可以通过概率图形模型的数学机制，从数据中推断出因果关系。

接下来，工程师们利用这种数学洞察力来写作软件它可以在几秒钟内，从一组观测数据中推断出因果关系。

几个世纪以来，研究人员孜孜不倦地工作，将我们亚博体育官网对因果关系的理解从哲学到数学再到工程学。

这也是事实友好的人工智能亚博体育官网研究。目前，Friendly AI的每个子问题的进展范围从哲学到数学再到工程。

我们从一些模糊的哲学概念开始，即我们想从友好AI (FAI)中获得什么。我们希望它是仁慈的，强大的，足以消除痛苦，保护我们免受自然灾害，帮助我们探索宇宙，或者创造生命太棒了．我们希望FAI能够允许道德进步，而不是根据我们当前的价值观立即重塑银河系。我们希望FAI在重写其核心算法以变得越来越聪明的同时，仍能保持慈善。等等。

这个哲学难题的一小部分已经被解开了变成了数学,例如。Pearlian因果分析和Solomonoff感应．此后，珀尔的数学理论被用于生产可以在今天的计算机上运行的因果推理软件，而工程师们迄今为止只成功地实现了索罗门诺夫归纳法(易于处理的近似)非常有限的应用程序．

玩具版的两个“稳定自我修正”问题被转化成数学问题德布兰科(2011)和Yudkowsky & Herreshoff (2013)，尽管这样做是为了通过形式分析来进一步洞察，而不是断言这些哲学问题的小片段曾经是解决了到数学的水平。

感谢Patrick LaVictoire和其他亚博体育苹果app官方下载 参与者,¹道格拉斯·霍夫斯塔德与fair相关的哲学思想superrationality似乎在很大程度上都是成功的改变了数学，还有一些工程方面的工作做过．

我说“似乎”是因为，虽然人类相当擅长将数学转化为实际工程的壮举，但我们似乎是多少熟练的把哲学变成数学，不留任何痕迹。例如，一些非常老练的思想家声称"所罗门诺夫归纳法解决了归纳推理问题"或者那"所罗门诺夫成功地发明了一种完美的归纳法理论"的确，这是肯定的似乎就像一个真正通用的归纳法。然而,它结果Solomonoff归纳不充分解决归纳推理问题，原因比较微妙。²

不幸的是，当人类构建第一个自我完善的AGI (AGI，Yudkowsky 2008)。^3.正如尼克·博斯特罗姆(Nick Bostrom)所说，与faid相关的哲学工作是“有期限的哲学”。

1. 在他们之前,Moshe Tennenholtz．↩
2. Yudkowsky计划以后写更多关于如何改进Solomonoff归纳法的文章。↩
3. 这是彼得·勒德洛所描述的问题的一个具体实例这他说:“技术曲线正迅速脱离哲学曲线，并将完全落在后面。”↩