我很高兴地宣布，经过两个月的公开测试，AI对齐论坛今天启动。AI对齐论坛是由背后的团队建立的一个新网站LessWrong 2.0，以帮助创建一个新的人工智能技术结盟研究和讨论中心。亚博体育官网
当我们设计这个论坛的时候，我们的核心目标之一是让新人更容易开始做技术AI对齐研究。亚博体育官网这项工作主要分为两个部分:
1.更好的介绍内容
我们一直在与人工智能对齐研究人员合作，创建三个新的序列的帖子，我们希望可以作为一些最重要亚博体育官网的核心思想的介绍人工智能对齐。这三个新序列将是:
在接下来的几个星期里我们将从这些序列每天发布大约一个帖子，从在嵌入式机构序列的第一个帖子今天。
如果你对学习AI对齐感兴趣，我鼓励你提问并在评论区讨论内容。如果你已经熟悉了许多核心理念，那么我们将非常感谢在我们发布它们时对这些序列的反馈。我们希望这些序列可以成为新人们参与人工智能比对研究的主要部分，所以我们非常关心它们的质量和清晰度。亚博体育官网
2.加入讨论的更简单方法
大多数科学领域必须平衡与其他专家进行高语境讨论的需求，以及允许新思想更广泛传播的公众讨论，新成员的加入，以及新的潜在研究人员证明自己的机会。亚博体育官网我们试图设计一个系统亚博体育苹果app官方下载这仍然允许新来者参与和学习，同时给已有的研究人员与其他研究人员进行高层讨论的空间。亚博体育官网
要做到这一点,我们将新的AI对齐论坛与现有的LessWrong平台紧密结合,如下所示:
- 新AI对齐论坛上的任何新帖子或评论都会自动交叉发布到LessWrong.com。这两个平台也共享账号。
- 任何关于LessWrong的评论和帖子都可以由对齐论坛的成员从LessWrong推广到AI对齐论坛。
- LessWrong和AI对齐论亚博体育苹果app官方下载坛的声誉系统是独立的，对于每个用户、帖子和评论，你可以在LessWrong.com上看到两个声誉评分:一个是结合两个网站的因果报应评分，另一个是针对AI对齐论坛成员的因果报应评分。
- 任何成员的内容得到频繁的推广，谁从AI对齐论坛的成员获得了大量的因果报应，将自动推荐给AI对齐论坛的版主作为候选人加入对齐论坛。
我们希望这将导致一个系统的结果，在这个系统中，前沿的研究和讨论可以发生亚博体育苹果app官方下载，而新的好想法和参与者可以得到注意和奖励，因为他们的贡献。亚博体育官网
如果你对结盟研究感兴趣，那么我认为现在最好的方法是在AI结盟论坛上发表评论，看看我们将推出亚博体育官网的新内容。
为了集中现有关于AI技术结盟的讨论，这个新论坛还将取代智能代理基础论坛在过去的两年里，MIRI建造并维护了这座大楼。我们计划在未来几周内关闭IAFF，并与MIRI合作从论坛导入所有内容，同时确保所有旧的url都被正确地转发到新网站上各自的地址。如果你在那里做了贡献，你应该已经收到了关于导入你的内容的详细信息的电子邮件。(如果你没有，请在AlignmentForum.org网站右下角的对讲机聊天页面给我们发信息。)
感谢MIRI帮助我们构建这个项目，我期待看到很多人参与LessWrong和新论坛上关于AI对齐问题的讨论。
