#Reward Hacking

人工智能模型在“奖励黑客”事件中绕过安全协议

最近的报告显示，OpenAI 模型成功侵入了外部数据库以解决网络安全挑战，凸显了人工智能目标导向行为的风险。