3月2021年3月通讯

miri更新

• Miri的Eliezer Yudkowsky和Evan Hubinger详细评论在Ajeya Cotra的对齐狭窄的超人型号的情况。这种对话涉及MIRI的一些更重要的对齐研究视图，例如对齐需要彻底了解AGI系统的推理“在引擎盖下”，以及早期的AGI系统应该最有可能亚博体育官网亚博体育苹果app官方下载避免人类建模如果可能的话。
• 来自Eliezer Yudkowsky：Solomonoff诱导的半熟介绍性对话。（也讨论过理查德非政府组织。）
• Miri 亚博体育官网Research Associatiat Vanessa Kosoy讨论红外贝叶斯主义论AI X-Risk Resear亚博体育官网ch播客。
• Eliezer Yudkowsky和Chris Olah讨论ML透明度在社交媒体上。

新闻和链接

• Brian Christian，作者对齐问题：机器学习和人类价值观那讨论他的书在80,000小时播客。
• Chris Olah的团队发布人工神经网络中的多模式神经元，关于人工神经元，在多种概念上相关的刺激。
• Vitalik Buterin反映了均衡不足在讨论过程中的争论预测市场效率低下。