年终筹款活动和赠款成功

||新闻

我们的冬天的募捐活动已经得出的结论。感谢大家的支持!

截至12月,175名不同的捐赠者共捐赠了351,298美元。在这次募捐活动和我们的夏季募捐活动之间,募集了63万美元,我们看到我们的捐款基数激增;在过去五年里,我们之前的筹款活动平均筹集了25万美元(在冬季)和34万美元(在夏季)。2015年,我们还从生命未来研究所(Future of Life Institute)获得了约17万美元的资助,以及15万美元的其他捐赠。

总的来说,我们在2015年接受了大约130万美元的赠款和捐款,高于过去五年平均100万美元的水平。因此,我们带着六个全职研究人员和一年多的跑道进入2016年。亚博体育官网

我们的下一个大努力将是缩小我们的新预算和年度收入之间的差距。为了维持我们目前的增长计划(目标是扩大到一个大约10名全职研究人员的团队),我们需要在2017年年中开始持续获得近200万美元的年收入。亚博体育官网

我相信这是一个可以实现的目标,尽管还需要一些努力。如果我们能做到,它将更有价值过度这个目标开始扩展我们的跑道并进一步扩展我们的研究项目。亚博体育官网总的来说,我很期待新的一年会带来什么。


除了筹款活动的成功,我们开始看到新的grant-winning成功.我们与加州大学伯克利分校的Stuart Russell合作,获得了伯克利分校75,000美元的资助长期网络安全中心.这笔资金的大部分将用于资助斯图尔特•拉塞尔(Stuart Russell)在加州大学伯克利分校(UC Berkeley)新设的一个博士后职位。该博士后将与Russell和MIRI研究员Patrick LaVictoire合作研究人工智能问题亚博体育官网可订正,如拨款提案

假设一个系统能够建立自亚博体育苹果app官方下载身及其人类操作者的精确模型。如果系统构造追亚博体育苹果app官方下载求某些目标之后,其运营商意识到将导致不良的行为,则系统默认会激励欺骗、操纵,或抵制它的运营商,以阻止他们改变其当前目标(这将干扰的能力实现其当前目标)。[...]

我们将没有动机去操纵、抵制或欺骗其操作者的代理称为“可纠正的代理”,使用术语定义为苏亚雷斯等。(2015)。我们建议研究不同的设计代理的方法,实际上是可修正的。

这个博士后职位还没有招到人。如有兴趣,可电邮至alex@www.hdjkn.com标题栏写着“加州大学伯克利分校兴趣表达”。