我们2014年中期的战略计划

||Miri战略

总结

自米里以来的事件2013年4月战略计划提高了我的信心，我们“朝着正确的方向前进”。在2014年余下，我们将继续：

  • 减少我们的公开外联努力，将大部分工作留给FHI在牛津大学,CSER.在剑桥，FLI.在麻省理工学院,斯图尔特罗素在UC Berkeley和其他人（例如詹姆斯·巴拉特）。
  • 完成一些待待的“战略研究”项目，然后减少我们对此的努力，再次将大亚博体育官网部分工作的努力留给FHI，加上CSER和FLI，如果他们雇用研究人员，以及其他一些。
  • 增加我们对友好AI（FAI）技术研究议程的投资。亚博体育官网

这原因为了继续沿着这条路径仍然很大程度上是相同的，但我现在对它有更多的信心而不是之前。这是因为，自2013年4月以来：

  • 我们生产了很多友好的人工智能研究进展亚博体育官网在许多不同的前线，没有远程觉得我们已经用尽了我们有更多的研究人员可以提出的进步，表明FAI技术议程是高度贸易的。亚博体育官网
  • 通过利用他们的大学附属机构和令人印象深刻的咨询委员会，FHI，CSER和FLI已经取得了大量的公众外展成功。
  • 我们听说，由于这种推广的成功，也因为斯图尔特·拉塞尔(Stuart Russell)在人工智能会议上与研究人员的讨论，人工智能研究人员开始问:“好吧，这看起来很重要，但技术研究议程是什么?”亚博体育官网我的学生和我能做什么做关于它？”基本上，他们希望看到一个FIA技术议程，Miri正在制定该技术议程（见下文）。

简而言之，我认为我们测试并验证了Miri的新战略重点，现在是时间缩放．因此,我们最高的目标未来6-12个月是：

  1. 进行更多友好的人工智能研究。亚博体育官网
  2. 招募更多友善的人工智能研究人员。亚博体育官网
  3. 筹集批量来支持这些活动。

我们的低级策略实现这些高级目标可能会在尝试和学习时快速变化，但我会绘制我们的当前的以下是战术计划。

1.更友好的人工智能研究亚博体育官网

我们的亚博体育官网 已经产生了太多的FAI研究进展，他们让我们招募亚博体育官网我们的两个新的fai研究人员亚博体育官网但是我们已经了解到，对于“新人”(那些没有很长时间关注研究的人)来说，在我们的研讨会上为FAI研究做出贡献是困难的。亚博体育官网新手需要更好的教程和更多的时间来思考研究问题，才能在前沿领域做出更多贡献(见下一节)。亚博体育官网因此，我们在2014年的新研究进展方面的努力将集中在:亚博体育官网

  • 组织研究研讨会主要或仅亚博体育官网由“退伍军人”（长期以来一直在研究的人），如我们的2014年5月研讨会．
  • 邀请个别研究人员访问MIRI几天，在他们亚博体育官网已经熟悉的非常具体的研究问题与我们一起工作。
  • 给我们的员工FAI研究人员的时间，以自己的亚博体育官网方式和彼此进行理论进展。

2.招聘

在这里，我谈论“招聘”而不是“创建一个领域”，但实际上，下面的大多数计划活动同时完成两端，因为他们找到了 - 并帮助激活 - 新的FAI研究人员。亚博体育官网尽管如此，在招聘和帮助创建一个领域之间存在陡峭的权衡，我们专注于招聘。FAI 亚博体育官网Research是最好的，作为一个全日制的职业生涯，最小的分心，现在Miri是唯一的地方提供这样的工作．

我们计划尝试许多不同的东西来看看最有助于招聘：

  • 我们计划发布一份FAI技术议程的概述。这将使潜在的FAI研究人员更容易参与进来。亚博体育官网
  • 我们计划准备，测试，改进，然后在FAI技术议程的不同部分提供一系列教程。除了提供教程讲座之外，我们还可以组织一天或为期两天的研讨会，该讲习班仅为教程和问答，而不是旨在进行新的研究进展。亚博体育官网
  • 我们计划发布yudkowsky的书版本序列不太错误部分原因是我们注意到那些对FAI研究进展贡献最大的人已经读到 - 并受到这些着作的影响，当他们正在进行FAI Research时，这似乎有助于帮助。亚博体育官网
  • 我们将继续提供资金支持SPARC.，其主要组织者是MIRI研讨会的常客(Paul Christiano)。
  • 我们将继续资助独立组织的FAI研讨会，通过我们的米西克计划．
  • 我们可以为某些类型的研究进展提供广泛的广告现金奖项，例如，亚博体育官网提交给a的获胜决策算法强大的程序均衡锦标赛，或某种解决方案Löbian障碍．
  • 我们可以在诸如的场地宣传AMS通知（广泛阅读数学家）和ACM的通信（广泛阅读计算机科学家）。
  • 我们正在与UC Berkeley的发展员工讨论，关于各种潜在的Miri-Berkeley合作，可以使研究人员更容易从一个领先的学术机构内与Miri一起合作。亚博体育官网

我们还制作了我们的对FAI研究人员的工作机会亚博体育官网更具竞争力。

3.筹款

为了支持我们越来越友好的AI研究计划，我们已经设置了“延伸”目标亚博体育官网2014年筹集了170万美元．

我们达到这个目标，我们参加SV给出5月6日并提高了〜110,000美元，也赢得了匹配和奖项从否则捐赠给Miri的奖金和奖项。yabo体育官网下载ios我们感谢每个捐赠的人！yabo体育官网下载ios

和往常一样，我们也会举办夏季和冬季的筹款活动，分别从7月和12月开始。

This year we’ll explore the possibility of corporate sponsorships, but we are not optimistic about that strategy, because MIRI’s work has little near-term commercial relevance, and we’ve been counseled that corporate sponsors often require more in return from a sponsored organization than the funds are worth.

我们对改善捐赠者管理和捐赠者勘探的潜在回报更乐观，我们已经开始了，我们正在寻找一位全日制董事．

在2014年，寻找捐赠者不太可能产生新的捐赠者，但这对未来的筹款年是很重要的。我们最近从私人和公共资助人那里寻找和申请资助的努力也是如此。我们不希望在2014年赢得很多资助，但我们希望在接下来的几年里详细了解我们需要做什么，这样我们就可以在未来赢得大量的资助，从而使我们的资金来源多样化。