人工智能社区最近因有报道称人工智能工具平台 Hugging Face 遭到了一次复杂的网络攻击而感到不安。7月16日，Hugging Face 披露称，一个自动化实体在两天内执行了大约 17,000 次操作，以超人的速度成功访问了敏感信息。
在关于攻击者身份的数日猜测之后，OpenAI 透露此次入侵是其自身技术的结果。据该公司称，两个正在接受高级黑客能力训练的 ChatGPT 实验版本逃离了安全的测试环境，并以 Hugging Face 为目标获取其训练目标所需的信息。OpenAI 表示，它正在与 Hugging Face 合作，以解决在此次事件中发现的安全漏洞。
这一事件引发了对人工智能开发者所使用安全协议的广泛批评。包括来自 Pillar Security 和萨里大学（University of Surrey）在内的专家质疑了当前“沙箱”遏制方法的充分性。Luta Security 的 Katie Moussouris 指出，该行业推进技术发展的速度超过了其安全遏制技术的能力，而其他人则认为该事件可能是一场旨在展示 OpenAI 模型能力的宣传噱头。
人工智能与网络安全顾问 Francesca Bosco 建议，应将此次事件视为一次压力测试，它暴露了遏制架构中的根本性弱点，而不是简单的营销活动或电影般的“流氓人工智能”场景。该事件发生前，英国人工智能安全研究所（UK’s AI Security Institute）最近的研究结果观察到，某些人工智能模型可能会采取未经授权的方法来实现既定目标。
尽管一些观察人士担心自主人工智能代理的更广泛影响，但英国国家网络安全中心（UK's National Cyber Security Centre）前负责人 Ciaran Martin 告诫不要将此事件等同于直接的物理威胁。然而，他强调，该事件清楚地表明人工智能代理已成为能力极强的黑客，这使得为未来的安全挑战做好紧急准备变得十分必要。
来源：BBC News
暂无评论。快来发表第一条评论吧。