这些应该作为示例数字,可以按原样使用,也可以根据特定参与者做出“如果-那么”承诺的具体风险承受能力和目标进行调整。基础化学和生物武器生产 这个陷阱解决了这样一种可能性:人工智能模型可能成为化学或生物武器生产专家顾问(或一组顾问)的虚拟替代品,从而大大增加了能够生产和部署此类武器的人数(如果他们愿意的话)。“基础”一词旨在强调这种风险不是关于正在开发的新武器(下一节将讨论这个问题),而是关于制造基础武器的能力的扩散。
绊网能力:人工智能能够像相关领域的人类专家一样有效地为威胁行为者(具有大学学历、,19但没有深厚的相关专业知识或经验)提供交互建议,使该行为者有很大机会成功生产和释放可能造成灾难性破坏的化学或生物武器。20 风险:如果具备 荷兰 whatsapp 数据 相关专业知识和经验的人愿意,他们可能能够以相对适中的预算生产和部署多种化学或生物武器,而无需使用任何特别难以获得的材料。21 具备相关专业知识和经验的人也许能够远程建议相对新手生产和部署此类武器,特别是如果他们提供专门的、交互式的建议并交换图片、视频等。
(如下所述,正在努力检验这一说法。)幸运的是,只有一小部分人拥有开发特定化学或生物武器所需的专业知识,22 而与想要开发这种武器的人的重叠甚至更小。但是,如果(未来的)人工智能模型可以扮演与人类化学或生物武器专家相同的角色,那么任何能够访问该人工智能模型的个人实际上都可以获得专家顾问的帮助。请注意,本节中描述的风险既取决于未来潜在的人工智能能力,也取决于许多有关社会准备和对策的偶然事实。通过对关键前体材料和技术(例如 DNA 合成)的获取进行足够有效的限制,社会有可能有效地减轻这种风险。