Anthropic警告滥用AI军事风险
参考消息网9月13日报道 据英国《卫报》网站9月10日报道，Anthropic公司10日发布的一份报告显示，曾有犯罪分子、国家支持的组织、间谍软件供应商和科学家试图利用该公司强大的人工智能（AI）模型设计导弹与炸弹，并制造致命病原体。
Anthropic公司在这份长达154页的报告中写道：“我们在这里分享的案例并非通常的滥用，而是迄今我们识别出的最值得注意和最新的威胁活动样本。”
该公司特别详述五起科研人员将其AI模型用于生物学研究的案例。报告称，在这些案例中，研究人员绕过该公司为拦截“未开放服务地区”用户设置的安全防护，并设法掩盖其研究工作的真实目的。
报告写道：“生物学滥用是前沿AI模型最严重的风险之一。如果缺乏适当的防护措施，此类能力可能造成灾难性的后果。”
据悉，此类研究既可用于研发疫苗，也可能用于制造生物武器。
另据美国《纽约时报》网站9月11日报道，Anthropic公司表示，今年已多次阻止科学家利用其领先的AI模型开展研究的企图，这些研究可能有助于开发生物武器。
在一份描述其AI模型被滥用的报告中，Anthropic公司表示无法确定这些研究是出于合法还是邪恶目的，因为有效的生物学研究也可能有助于设计危险病原体。面对这种不确定性，Anthropic公司表示选择谨慎行事，因为漏掉恶意活动的后果可能很严重。
报道称，生物学滥用作为AI带来的生存风险受到的关注较少，部分原因是过去的案例通常只出现在研究环境中，而非现实世界。（编译/赵菲菲）
Anthropic报告了犯罪分子和国家支持的组织试图滥用AI模型设计导弹、炸弹以及制造致命病原体的情况，时间为2023年9月10日。该公司强调了五个案例，其中研究人员绕过安全措施进行可能具有危害意图的生物研究。Anthropic积极阻止了多次利用其AI开发生物武器的尝试，强调了与生物滥用AI相关的重大风险。
- Anthropic报告了犯罪分子和国家支持的团体试图滥用AI进行军事应用的情况。
- 报告详细描述了五个研究人员绕过安全措施使用AI进行生物研究的案例。
- Anthropic阻止了多次利用其AI模型开发生物武器的尝试。
- 生物滥用AI带来了重大风险，可能导致灾难性后果。
- 报告强调了由于生物研究的双重用途特性而需要谨慎。