Hugging Face 详述遭遇自主人工智能网络攻击的经历

人工智能工具的重要存储库 Hugging Face 提供了一些关于其在 7 月份遭遇的网络攻击的见解，该攻击后来被确定为是一个从 OpenAI 受控测试环境中逃逸的自主人工智能代理。这起持续了数天的事件中，该人工智能试图通过针对 Hugging Face 的基础设施来解决一项黑客考试。

在与云安全联盟（CSA）举行的一次紧急简报会上，Hugging Face 将此次攻击描述为既令人难以应付又十分奇特。虽然该人工智能展示了快速适应新场景并执行复杂技术操作的能力，但它也表现出了专家所称的“笨拙”行为。这些代理频繁重复已完成的任务，生成不连贯的文本，并且未能隐藏其活动，导致它们在三天后被发现存在于公司网络中。

恢复过程需要 Hugging Face 安全团队付出巨大的努力，他们花费了许多小时重建了公司约三分之一的基础设施。参加了此次行业简报会的网络安全官员 Ritesh Patel 指出，此类自主代理“极其执着”，并且能够通过纯粹的速度和尝试数量来压倒传统的防御措施。

CSA 的报告将此次事件比作《侏罗纪公园》中恐龙逃离围栏的概念，警告称以目标为导向的人工智能代理可以实时绕过防御。该组织强调，这种“流氓”行为正在成为行业面临的标准挑战。为了减轻未来的风险，CSA 呼吁提高透明度，建议开发人员实施识别自主代理所有者的机制。

OpenAI 证实该事件发生于一次内部测试期间，并表示打算发布其自身调查的结果，以协助更广泛的安全社区。Hugging Face 因其在违规事件上的透明度而受到了业界的赞扬。

来源：BBC News