（本文重点介绍如上所述的极限评估。）先进的化学和生物武器发展上面部分讨论了开发大规模杀伤性武器的可能性，通过扮演类似于人类专家顾问的角色。另一个可能的风险是，人工智能可以显著增强此类武器的最先进（及更高级）开发力度，无论是通过贡献新的科学工具（如生物设计工具）27，还是通过扮演与顶级人类专家（或更具体地说，这样的专家团队）相同的角色（从事设计、工程、武器化等工作）。诱捕能力：人工智能能够提升多个资源适中的国家化学和或生物武器开发项目的能力。
使它们能够开发、生产和部署大规模杀伤性武器，至少到 2023 年，其能力可以与资源充足的顶级专家团队媲美。28风险：具有这种能力的人工智能模型可以增强许多国家秘密开发大规模杀伤性武器的前景，特别是因为与人工智能合 荷兰 whatsapp 数据 作可能比在秘密项目中招募顶级人类更容易、风险更小。这反过来又会增加军事冲突或大规模杀伤性武器意外部署的风险。29 破坏潜力：精心设计的大规模杀伤性武器的破坏潜力甚至可能远高于自然流行病，后者（如上所述）很容易造成数万亿美元的损失。
风险缓解：与上述情况类似，如果人工智能用户无法可靠地引发意外行为，并且人工智能模型权重得到安全存储，则此处的风险可以保持在较低水平。然而，与之前讨论的相比，这种绊脚石的风险缓解措施可能需要更强——强大到足以抵御在国家计划支持下对人工智能模型进行越狱或窃取其权重的协同企图。评估：评估可以遵循与上述“基本化学和生物武器生产”威胁模型评估类似的总体策略：旨在了解人工智能模型是否可以帮助人类完成具有代表性（但合法且安全）的代理任务，30 旨在了解人类专家是否可以通过与人工智能模型类似的方式。