新报告:“阿西洛玛会议:风险缓解案例研究”

||论文

今天我们发布了Katja Grace的一份新报告,”Asilomar会议:风险缓解的案例研究”(PDF, 67页)。

1975年的阿西洛玛重组DNA会议有时被认为是科学家们成功行动的一个例子,他们先发制人地发现了一项新兴技术的潜在危险,并采取干预措施来降低风险。我们进行了这项调查,以检查这个基本的故事是否真实,以及这些事件可能给人工智能和其他方面带来什么教训前所未有的技术风险

Grace在准备这篇报告的过程中,查阅了一些第一手和二手资料,并进行了四次采访,这些采访在报告中被引用。采访内容如下:

本报告未经单独审查的基本结论是:

  1. 激发阿西洛玛会议的具体危险相对来说是直接的,而不是长期的。这些危险实际上是不存在的。对于科学家们是否应该在当时就他们所掌握的信息有更好的了解,专家们意见不一。
  2. 这次会议似乎引起了一般实验室安全实践的改进。
  3. 这次会议看似合理地避免了监管,并帮助科学家与公众建立了更好的关系。这些影响是否对社会是积极的取决于(例如)这类科学活动不受监管是否更好,这是本报告未涉及的问题。