今天我们发布了我们的第一份技术报告2014年5月车间:“响度:优先于偏好关系Benja Fallenstein和Nisan Stiennon的文章。该讲习班的其他技术报告也正在编写中。以下是这份报告的摘要:
这是2014年5月MIRI研讨会上讨论的一个问题的快速总结:如何正式处理偏好的不确定性。我们假设真实的偏好满足von Neumann-Morgenstern (VNM)公理，因此可以用效用函数表示。看起来我们应该简单地最大化这个函数的期望。然而，在缺乏更多信息的情况下，这是没有明确定义的;在这种设置下，代表相同VNM首选项的效用函数的不同选择会导致代理做出不同的选择。我们给这个问题的形式化和显示一个先验概率分布的选择VNM偏好关系的选择一起代表这些分布在某种意义上相当于一个数字的选择偏好关系,我们称之为“响度”。(在数学上，“响度先验”可以被看作是偏好关系的概率分布，但这个对象没有认知解释。)
