今天我们很荣幸地公开发布智能代理基础论坛（RSS)，是一个专门就《研究》中概述的研究问题进行技术讨论的论坛亚博体育官网MIRI的技术议程概述，以及类似的研究问题。亚博体育官网
帕特里克的受欢迎的文章解释道:
总的来说，本次论坛的主题涉及到价值对齐的困难——如何确保不同层次的机器智能充分理解并追求其开发人员实际意图的目标，而不是为了实现真正的目标而在某些代理上卡住，或者在其他意想不到的(可能是危险的)方法上失败。随着我们在构建机器智能方面的进展，这些故障模式的破坏性更大，MIRI的目标是在今天的目标系统和架构的基础上工作，即使机器智能具有超越其开发者的一般创造性解决问题的能力，亚博体育苹果app官方下载并且有能力改造自己或培养接班人。
这个论坛已经私下活跃了几个月了，所以很多有趣的文章已经发布了，包括:
- Slepnev,用模态不动点形式化逻辑因果关系
- Fallenstein,效用无差异和无限的非概率驱动
- Benson-Tilsen,透明宇宙UDT的唯一性
- global,稳定的自我完善作为一个研究问题亚博体育官网
- Fallenstein,预测者不会试图操纵你(?)
- 苏亚雷斯,为什么只设定“代理采取行动a”是不够的
- Fallenstein,模态UDT的实现
- LaVictoire,机器学习中的建模目标稳定性
也看到如何做出贡献．
