发布时间
2026/03/25 04:5812 分钟前源站更新
2026/03/25 04:5812 分钟前首次抓取
2026/03/25 04:5812 分钟前发布时间
12 分钟前源站更新
12 分钟前首次抓取
12 分钟前用于追踪这条内容的来源与记录标识。
Source
原始链接
发布时间
2026/03/25 04:5812 分钟前源站更新
首次抓取
2026/03/25 04:5812 分钟前发布时间
12 分钟前源站更新
12 分钟前首次抓取
12 分钟前用于追踪这条内容的来源与记录标识。
Source
原始链接
Anthropic Says US Adversaries Aimed Claude at Weapons Research
Anthropic PBC 表示，其人工智能模型 Claude 被滥用于试图开发各种潜在军事应用，包括神风无人机蜂群、导弹导航系统和生物武器。
根据 Anthropic 威胁情报团队周四的一份报告，来自伊朗、俄罗斯、中国和也门等国的用户在过去一年中因滥用该公司前沿模型而被标记。所有案例均不涉及 Anthropic 最先进的模型 Fable 和 Mythos。
Anthropic 在报告中表示：“随着模型能力日益增强，其风险也会增加，除非人工智能开发者和社会的捍卫者采取行动使其更安全。”
美国人工智能公司一直在竞相开发和部署更强大的人工智能系统，部分原因是为了领先于中国等竞争对手，同时努力维持安全保障。Anthropic 正试图防止其技术被用于有害目的，包括开发生物武器和常规武器。
这一立场使其与美国国防部发生直接冲突。五角大楼在 Anthropic 拒绝允许 Claude 被用于大规模监控或自主武器系统后，暂停了与该公司的合作。
报告称，用户曾试图利用 Claude 帮助美国的敌人。在许多案例中，他们试图逃避 Claude 的安全保障或隐藏其位置。
俄罗斯的用户（Anthropic 认定其与国家无关）试图利用 Claude 为基于乌克兰作战视频训练的自主第一人称视角神风无人机蜂群构建软件。
报告还详细介绍了五个人利用 Claude 以可能支持生物武器开发的方式的案例，包括由国家支持的病毒学家希望研制一种名为基孔肯雅热（chikungunya）的衰弱性蚊媒病毒的增强版本。这一行为是通过请求 Claude 帮助撰写一份拨款申请以资助某个未具名国家军事研究所的研究而被发现的，而 Anthropic 不在该国提供服务。
Anthropic 指出，报告中所有生物案例研究均为“模糊的”，涉及可能具有良性科学意图的研究。
然而，位于胡塞武装控制的也门北部的行为者利用 Claude 为多种导弹构建软件。
Anthropic 表示：“我们没有证据表明这些行为者成功部署了可运行的装置。”
包括中国和伊朗在内的国家的国家关联行为者试图利用 Claude 构建和协助监控。一个与中国相关的行动利用 Claude“追踪、分析并招募叙利亚军队中的维吾尔人”。一个伊朗单位利用 Claude 构建了伪装成祈祷时间追踪工具的监控软件。中国外交部没有立即回应置评请求。
在另一起案例中，Anthropic 发现一名可能为马里国家情报机构工作的顾问利用 Claude 构建了一个旨在监控这个西非国家约 2500 万部手机的系统。该系统可以在没有法院命令的情况下，针对任何指定电话号码生成“情报档案”。Anthropic 表示已封禁该顾问的账户，但这个由 Claude 驱动的监控平台已在当地部署，超出公司的完全控制范围。马里政府没有立即回应置评请求。
Anthropic 的报告还突出显示了黑客——从疑似俄罗斯和中国的国家支持情报机构到黑客活动分子和网络犯罪分子——如何利用该公司的人工智能来加速和扩大窃取敏感数据的努力。报告未透露关键系统中存在任何新奇或危险的新漏洞。
报告详细描述了一个微软公司称为 Midnight Blizzard 且与俄罗斯情报机构有关的黑客组织，“通过使用人工智能自动化操作来提高速度”。其中包括使用 Anthropic 的软件自动化其恶意软件开发中的许多环节，并帮助他们针对军事情报和国防目标制作钓鱼电子邮件。俄罗斯外交部没有立即回应置评请求。
Anthropic 表示，另一个黑客组织、网络敲诈团伙 ShinyHunters 利用人工智能扫描泄露的安全凭证，并利用这些凭证从受影响组织窃取数据。
Anthropic 在报告中表示：“我们在这里分享的案例并非典型的滥用，而是我们迄今为止识别出的最显著和新颖的威胁活动的例子。”报告还详细介绍了其他类型的威胁，包括诈骗和黑客工具。
发布时间
2 小时前
2026-09-11 12:04:27 UTC
源站更新
2 小时前
2026-09-11 12:04:27 UTC
首次抓取
2 小时前
2026-09-11 12:19:00 UTC
Anthropic 报告称，其 AI 模型 Claude 被伊朗、俄罗斯、中国、也门等国用户滥用于武器研发，包括无人机蜂群、导弹导航和生物武器。该公司未发现成功部署，且未涉及最强模型 Fable 和 Mythos，并呼吁加强 AI 安全防护。
Anthropic PBC 在报告中表示，其人工智能模型 Claude 在过去一年被伊朗、俄罗斯、中国、也门等国用户滥用于多种潜在军事用途，包括自杀式无人机蜂群、导弹导航系统和生物武器。所有案例均不涉及该公司最先进的模型 Fable 和 Mythos。Anthropic 警告，随着模型能力增强，除非 AI 开发者和防御者采取安全措施，风险也会上升。
报告显示，俄罗斯用户（据判断与俄政府无关联）曾试图用 Claude 为一种自主第一人称视角自杀式无人机蜂群构建软件，该蜂群以乌克兰作战视频为训练数据。在胡塞武装控制的也门北部，行动者用 Claude 为多种导弹构建软件。Anthropic 表示没有证据表明这些行动者成功部署了可运行装置。
报告还详述五个生物武器相关案例，包括有国家背景的病毒学家寻求借助 Claude 增强基孔肯雅病毒等蚊媒病毒。该行为通过请求 Claude 帮助撰写拨款申请被发现，申请用于资助某未具名国家军事机构研究，而 Anthropic 不在该国提供服务。Anthropic 指出，这些生物案例均属“模糊”研究，也可能具有良性科学意图。
在监控方面，中国关联行动者曾用 Claude“跟踪、画像并招募”叙利亚军队中的维吾尔人；伊朗某单位用 Claude 制作伪装成祈祷时间工具的监控软件。另有一名疑似为马里情报机构工作的顾问，用 Claude 构建可监控约 2500 万部手机的系统，无需法院令即可生成“情报档案”。Anthropic 封禁了该顾问账户，但该平台已在当地部署，超出公司完全控制。
报告也说明，包括俄罗斯情报关联黑客组织 Midnight Blizzard 在内的行为者，利用 Claude 自动化恶意软件开发并制作钓鱼邮件；网络敲诈组织 ShinyHunters 则用 AI 扫描泄露的凭据以窃取数据。Anthropic 称这些案例是迄今发现的最显著、最新颖的威胁活动，但报告并未揭示关键系统的全新危险漏洞。
Anthropic says Claude was misused by users in Iran, Russia, China, Yemen and elsewhere for weapons and surveillance. No evidence of deployed devices; most advanced models were not involved.
用于追踪这条内容的来源与记录标识。
