发布时间
2026/03/25 04:5812 分钟前源站更新
2026/03/25 04:5812 分钟前首次抓取
2026/03/25 04:5812 分钟前发布时间
12 分钟前源站更新
12 分钟前首次抓取
12 分钟前用于追踪这条内容的来源与记录标识。
Source
原始链接
发布时间
2026/03/25 04:5812 分钟前源站更新
2026/03/25 04:5812 分钟前首次抓取
2026/03/25 04:5812 分钟前发布时间
12 分钟前源站更新
12 分钟前首次抓取
12 分钟前用于追踪这条内容的来源与记录标识。
Source
原始链接
The Big Take Child Predators Turn to Open-Source AI to Make Unlimited Illegal Images Once the models are downloaded, illegal acts are almost impossible to track.
对于有斯蒂文·安德格（Steven Anderegg）技术背景的人来说，开始创建裸体儿童的 AI 生成图像并不难。
安德格据法院文件称，他在威斯康星州家中与妻子和孩子一起生活时，据称在笔记本电脑上下载了一个名为 Stable Diffusion 的程序。当时，Stable Diffusion 是一个相对较新的 AI 模型，几乎可以瞬间将文本提示转换为逼真的图像。该技术也是开源的，这意味着其代码库可在线免费获取。任何具备一定技术能力的人都可以在其自己的计算机上操作它。
据称，安德格下载软件后，指示软件生成儿童的非法照片，并指示软件不要返回成年人的图像或其他他不想看到的东西。他随后被指控于 2023 年 10 月将这些照片发送给 Instagram 上的一个 15 岁男孩，这引起了执法部门的注意。到 2024 年 2 月警方最终逮捕 42 岁的安德格时，调查人员在其设备上发现了超过 13,000 张 AI 生成的图像，“其中许多据称是涉及儿童从事性行为”的图像，根据法院文件所述。安德格仍在等待审判，据称可能面临长达 50 年的监禁。
据超过 12 名专注于针对未成年人的性犯罪的儿童安全专家和执法官员称，所有或大部分其源代码开放的 AI 模型正在推动 AI 生成儿童性虐待材料的激增。调查人员表示，他们的案件涉及由伦敦和洛杉矶的 Stability AI 制作的 Stable Diffusion，以及德国黑森林实验室的 Flux 模型以及来自中国的众多流行工具，包括阿里巴巴集团控股有限公司的 Qwen 和腾讯控股有限公司的 Hunyuan 模型。
一旦免费软件下载到个人计算机上，它可以使用现有儿童性虐待材料的库存进行定制或训练，从而创建数量无限的额外类似图像。由于它不连接互联网，用户提示不会发送到任何可以对其进行非法行为标记并报告给警察的商业服务，因此该活动几乎无法追踪。
调查人员表示，开源模型为掠夺者提供了一种新的犯罪爱好：将真实受害者的图像回收和重新包装成基于他们想象力的新场景。他们的 AI 编辑也可以基于暗网上其他罪犯的请求，在专门用于 AI 生成儿童色情的论坛中可以有数十万成员。
“当你使用 AI 时，你的想象力没有极限。”欧洲联盟执法合作局（Europol）领导一个团队的丹尼·范·阿尔特伊斯（Danny van Althuis）说，该局协调并支持在 27 个成员国范围内进行儿童性剥削和虐待调查。他表示，这些犯罪中使用的开源 AI 模型看起来像是“为犯罪而生”。
与 OpenAI 的 ChatGPT 和 Anthropic PBC 的 Claude 等世界上最受欢迎的许多商业 AI 工具不同，这些工具在云端运行并受到创建者施加的保障措施，开源 AI 模型可以下载并修改以满足用户想要的任何事情。开源和开放权重模型在可下载的模型代码库数量上存在差异，但两者都可用于创建儿童性虐待图像。
对于科技行业的大部分来说，这些开源 AI 模型是必不可少的。它们与寻求廉价、可定制软件来为产品提供动力的开发者和初创公司大量流行，特别是随着 Anthropic 和 OpenAI 等领先实验室的工具使用成本变得更高。领先的芯片制造商 Nvidia Corp.同意于 9 月收购的开源 AI 软件领先集散地 Hugging Face，今年其用户基础几乎翻了一番，达到 1300 万人，其库中的模型数量也翻了一番，达到 200 多万。
美国许多最先进的 AI 实验室，包括 OpenAI、Meta Platforms Inc.和 Alphabet Inc.的 Google 的实验室，正在开发开源模型，以将技术尽可能多地带到更多人手中。但中国在这一领域领先，其来自 Moonshot AI、阿里巴巴、DeepSeek 和其他公司的模型在性能、成本和能源效率方面的快速飞跃已成为与美国的地缘政治紧张的焦点。
“一旦你下载了模型并在你的私人系统上运行，就几乎没有办法进行监督”
一些来自中国的开源模型非常先进，以至于数十家领先的美国科技公司最近联名致信美国立法者，敦促不要对该技术实施限制，以免落后。该信得到了包括 Nvidia 的 Jensen Huang、Microsoft Corp.的 Satya Nadella 和 SpaceX Corp.的 Elon Musk 在内的该国最大科技公司高管的认可。
“我们的目标应该是让美国开源模型在全球范围内最好。”Meta 的马克·扎克伯格（Mark Zuckerberg）最近写道。
特朗普政府已浮出水面，对中国开发商窃取领先美国 AI 模型能力实施制裁。但这些威胁更多地集中在中国公司所谓的工业规模数据提取上，而不是其他更难追踪的非法行为。
一旦存储在个人设备上，那些模型中内置的任何安全防护措施通常都可以通过对软件进行小幅调整来移除或绕过。这些“越狱”变体随后可用于邪恶目的，包括发动网络攻击或生成儿童性虐待材料。
“一旦你下载了模型并在你的私人系统上运行，就几乎没有办法进行监督，”前任 Thorn（一家与 AI 制造商和社会媒体公司合作检测儿童性虐待材料的非营利组织）数据科学和 AI 副总裁丽贝卡·波特诺夫（Rebecca Portnoff）说。“这给了罪犯一种感知的安全感。”
Europol 官员范·阿尔特伊斯表示，当局正在跟踪数百个用于创建这些图像的开源 AI 模型及其变体，并且数量正在快速上升。
一位要求匿名的欧洲执法官员表示，当局在两年前仅跟踪了不到 12 个用于 CSAM 用例的开源 AI 模型及其变体；今天，这一数字已飙升至 500 多个。波特诺夫称开源模型是罪犯用于在暗网上生成 AI 生成的 CSAM 的“主要机制”。
儿童安全专家表示，中国模型在儿童虐待者中特别受欢迎。在在线安全公司 Cinder 和黑森林实验室进行的一项研究中，测试了几个开源 AI 模型以识别 CSAM 和其他非自愿亲密意象漏洞。研究发现，七个最“有漏洞”的开源 AI 模型中有五个来自中国公司。黑森林实验室自己的一个模型被列为第四最有漏洞，但该模型是在开发中测试的，并未公开发布，公司在其报告中说。它表示发布结果是为了突出其正在采取的减少其技术被滥用的步骤。
“黑森林实验室致力于证明视觉智能可以既开放又负责，”该公司公共政策负责人本·布鲁克斯（Ben Brooks）在一份声明中说。“没有银弹，但多层缓解措施可以帮助减少漏洞并使滥用能力模型变得更加困难。”
虽然调查人员和专家表示很难得出精确数字，但许多人表示清楚的是，所有 AI 生成的儿童性虐待材料的大多数是由开源模型创建的。
这些模型在暗网上定期交易和传递，暗网是常规互联网的一种隐藏版本，已成为非法活动的同义词。用户只能通过特殊匿名软件访问它。
据英国儿童安全非营利组织互联网观察基金会（Internet Watch Foundation）称，一个专注于 AI 生成儿童性虐待材料的论坛自 12 月以来其会员人数几乎翻了一番，现在超过 20 万。另一个专注于传统虐待材料的论坛，其中有一个关于 AI 和技术工具的部分，有超过 200 万活跃会员，该非营利组织说。
这些论坛的成员是新 AI 模型的热情早期采用者，但他们也高度安全意识，这导致了对开源 AI 模型的近乎绝对承诺：任何建议使用商业模型（用户提示由 AI 制造商记录）的人都可能因怀疑他们可能是执法植物而被禁止，分析师说。
例如，一个由 IWF 跟踪的论坛包含以下用户指令，警告任何讨论使用商业 AI 模型生成虐待图像是严格禁止的：该论坛表示它“不再允许询问如何使用在线 AI 图像或视频生成器的主题。我们只支持本地（离线）AI 生成。”
这些工具的可及性意味着涉及某种 AI 的案件如安德格的案件变得更加常见。
2025 年，向美国国家失踪和被剥削儿童中心提交了超过 150 万份涉及 AI 的儿童性虐待材料报告，2024 年为 67,000 份，2023 年仅为 4,700 份。IWF 宣布，该组织在本年度前六个月发现了 6,310 张逼真的儿童性虐待 AI 图像；去年，它发现了 4,512 张，2024 年仅发现了 13 张。
调查人员表示，AI 生成的儿童性虐待材料绝非无受害者犯罪。模型通常使用真实儿童虐待图像进行训练，以教它们如何制作更多类似图像，一些模型使用受害者的虐待图像进行训练，这些图像最早在数年甚至数十年前出现，并自那时起在罪犯社区中交易。
结果是，即使那些图像是完全合成的，真实受害者或其近似物也会继续出现在新的虐待材料中，继续剥削循环。
开源模型也继续出现在法院文件和儿童性虐待调查中。
Stable Diffusion 是其中最受欢迎的开源 AI 图像生成器之一，据称是安德格使用的技术，已多次出现。制作 Stable Diffusion 的公司 Stability AI 最近被指控其业务建立在“性内容的有利可图潜力”上，包括其产品创建儿童性虐待材料的能力，被列为被告。在一个单独案件中，据称一名俄亥俄男子在今年早些时候因使用 Stable Diffusion 创建超过 100 张涉及裸体婴儿或幼儿的图形图像而被定罪四项与儿童色情相关的罪名，法院文件显示。
Stable Diffusion 去年也成为重大打击行动的中心，称为“Operation Cumberland”，范·阿尔特伊斯和他在 Europol 的团队帮助协调了 19 个国家（主要在欧洲）的调查，导致 25 人被捕并识别了数百名潜在嫌疑人。该案起源于当局逮捕丹麦一名 28 岁男子因以费用分发数万张儿童性虐待 AI 生成图像。该图像使用 Stable Diffusion 创建，范·阿尔特伊斯说。
在声明中，Stability AI 表示，它定期与美国和国际执法部门以及第三方合作以改进其儿童安全保护。“Stability AI 致力于防止 AI 技术的滥用，特别是有害内容的创建和传播，包括 CSAM，”该公司说。“我们认真对待我们的道德责任，自 2022 年底接管 Stable Diffusion 模型系列的独家开发（Stable Diffusion 2 及以后版本）以来，我们已实施了强大的保障措施以提高我们的安全标准以保护我们的产品免受滥用。”
安德格的辩护律师和美国司法部拒绝发表评论。丹麦警方和检察官拒绝就其案件发表评论，引用丹麦最高法院对其案件的审查，该法院于 2025 年 10 月 5 日审理该案。该被告于 2025 年 1 月被法官判定有罪并被判处 18 个月监禁。阿里巴巴和腾讯的代表未回应评论请求。
这些犯罪使一些 AI 软件的最大制造商及其专家所说的创建最强大和最有能力 AI 模型的竞赛的意外后果成为焦点。例如，1 月份，研究人员发现马斯克的 xAI 的 Grok 聊天机器人允许用户在发布新的图像编辑工具后生成数万张逼真的儿童性化图像，该公司后来在广泛谴责后将其置于付费墙后。近几个月来，Anthropic、OpenAI、Meta 和 Google 等美国前沿 AI 实验室的先进模型在安全测试失败时被发现黑客攻击外部网络。9 月份，Anthropic 发布了一份 150 页的报告，详细说明了其软件的众多滥用，从协助网络攻击和 disinformation 活动到帮助创建火箭和其他弹药的指导软件。
“这些前沿公司正在承担风险，这就是这些风险的后果，”IWF 首席技术官丹·塞克斯顿（Dan Sexton）说。由于 AI 开发的飞速发展，“我们越来越多地看到的是安全成为一种反应性事物。你等待事故，然后事后修复。”
一些开源模型创建者难以防止其技术被滥用，部分原因是正确地在发布前对模型进行压力测试会产生独特的法律风险。
开发人员通常通过一系列测试来发现其安全或安全功能漏洞的过程，称为“红队”，其中真实人员——或专门训练的机器人——与 AI 互动以尝试让其做坏事，如提供生化武器成分或黑客攻击公司的计算机网络。然后基于这些测试结果开发安全防护措施。
加利福尼亚州埃尔塞贡多的一家名为 Thorn 的公司是提供这些服务的公司之一，将 Stability AI 和 OpenAI 列为其客户。另一个是 2022 年成立的纽约市 AI 安全初创公司 Cinder，其客户包括黑森林实验室，该实验室制作一系列称为 FLUX 的 AI 模型，以及 Character AI，流行 AI 聊天应用的制造商。Cinder 首席执行官格伦·怀斯（Glen Wise）表示，该公司经常在分发前“摧毁”AI 模型以寻找漏洞。“你必须知道如何抢银行才能保护银行，”他说。
但倡导者表示，试图使 AI 免受儿童性虐待犯罪影响的工作因过时的法律而复杂化。美国联邦法律禁止拥有所谓的儿童色情，这意味着 AI 公司或其红队承包商在技术上非法使用其模型创建它——即使是为了防止普通公众这样做。
“你必须知道如何抢银行才能保护银行”
“CSAM 很难工作，”麻省理工学院电气工程和计算机科学系副教授阿希娅·威尔逊（Ashia Wilson）说，她研究了 AI 用于创建儿童性虐待意象的方式。“我们只是希望美国为希望帮助思考这个问题的研究人员创造更多豁免。”
一些前进路径正在开始出现。
去年晚些时候，英国宣布了新的立法，将保护从事此领域工作的组织，政府将其描述为首创。
像威尔逊这样的儿童安全专家正在开发新技术来对抗开源 AI 模型的一些最有问题功能。她与她的博士生维尼特·苏里亚卡玛尔（Vinith Suriyakumar）一起，正在构建相当于早期检测系统，可以确定 AI 模型是否已被修改以专门生成 CSAM，而无需模型实际创建儿童性虐待图像。
最终，威尔逊和苏里亚卡玛尔希望像这样的技术能够在其接触 Hugging Face 等主要集散地之前剔除有问题的 AI 模型。
与此同时，苏里亚卡玛尔说，问题正在加剧。一旦模型被训练成创建儿童剥削图像，他说，“它就是这么便宜和这么快，你可以在一天内生成数千个。”
彭博社正在调查 AI 工具如何导致儿童性虐待材料激增。随着互联网充斥着 AI 生成的未成年人性意象，执法官员难以分类案件。AI 可以创建如此逼真的照片，以至于调查人员往往难以轻松分辨色情图像中的儿童是真实处于危险中的儿童、真实儿童照片的 AI 改编，还是完全伪造的。阅读更多：问题、心理影响、训练数据
发布时间
2 天前
2026-10-06 21:00:22 UTC
源站更新
2 天前
2026-10-06 21:00:22 UTC
首次抓取
2 天前
2026-10-06 21:04:25 UTC
儿童安全专家和执法人员称，可下载的开源人工智能模型正推动儿童性虐待图像激增，因为模型在个人设备上运行后几乎无法追踪，相关举报和调查数量大幅上升。
据法庭文件，威斯康星州软件工程师史蒂文·安德雷格被控下载开源图像模型 Stable Diffusion，生成儿童裸露图像，并于 2023 年 10 月通过 Instagram 发送给一名 15 岁男孩。警方 2024 年 2 月逮捕这名 42 岁男子时，在其设备上发现超过 1.3 万张人工智能生成图像，其中许多据称描绘儿童从事性暴露行为。他仍在候审，最高可能面临 50 年监禁。
十余名儿童安全专家和性犯罪执法人员表示，公开全部或大量源代码的模型正在推动人工智能生成的儿童性虐待材料激增。调查涉及 Stability AI 的 Stable Diffusion、德国 Black Forest Labs 的 Flux，以及阿里巴巴的 Qwen 和腾讯的 Hunyuan 等中国工具。模型下载到个人电脑后可被定制或利用既有虐待图像训练，且提示词不经过可标记并报告警方的商业服务，因此活动几乎无法追踪。
欧洲刑警组织官员丹尼·范阿尔特胡斯说，使用者的想象几乎没有限制，这些模型看起来“像是为犯罪而造”。与在云端运行并设有防护措施的商业工具不同，开源和开放权重模型都可被下载修改。Hugging Face 用户今年近乎翻倍至 1300 万，模型库超过 200 万个；英伟达 9 月同意收购该公司。美国多家实验室也在开发开放模型，但中国公司进展迅速，并引发地缘政治争议。
一名要求匿名的欧洲执法人员称，两年前追踪的相关模型及变体不到 12 个，如今已超过 500 个。Cinder 与 Black Forest Labs 的研究发现，七个“违规性”最高的开源模型中有五个来自中国公司。暗网论坛也在扩张：英国互联网观察基金会称，一个专注人工智能生成虐待材料的论坛自 12 月以来会员近乎增至三倍、超过 20 万；另一个传统虐待材料论坛的活跃会员超过 200 万。论坛通常禁止讨论会记录提示词的商业在线工具。
美国失踪与受剥削儿童中心 2025 年收到超过 150 万份与人工智能有关的儿童性虐待材料报告，高于 2024 年的 6.7 万份和 2023 年的 4700 份。专家强调这并非无受害者犯罪，因为模型常使用真实虐待图像训练，使受害者或其近似形象持续出现。Stable Diffusion 多次出现在诉讼和调查中，包括欧洲 19 国协调的“坎伯兰行动”。与此同时，美国法律限制即使为安全测试而生成相关材料，英国已提出保护相关研究机构的立法，研究人员也在开发无需实际生成虐待图像即可识别模型是否被改造的技术。
Child-safety experts say downloadable open AI models are driving a surge in AI-generated child sexual abuse imagery because local use is difficult to monitor, as reports, forums, and investigations multiply.
用于追踪这条内容的来源与记录标识。
