人工智能安全、地热能和全球科技政策的最新进展

一组研究人员发现大语言模型（LLMs）中存在一个根本性的安全缺陷，该缺陷可能无法彻底解决。这一漏洞源于这些模型处理指令的方式，使得用户能够绕过安全护栏。通过利用这一机制，研究人员成功诱导模型生成了受限信息，包括合成非法物质和破坏关键基础设施的说明。

在能源领域，位于新墨西哥州的 Lightning Dock 地热发电厂在经历了一段衰退期后，已恢复了全部运营能力。该设施由 Zanskar 在 2024 年收购，此前曾因地下储层冷却而面临关闭。通过应用现代钻探技术和先进的地质建模，该公司确定了一个新的、生产力更高的井位，凸显了振兴现有零排放能源资产的潜力。

与此同时，由于新的监管和经济压力，全球技术格局正在发生变化。美国政府已实施了针对扫地机器人的禁令，其中包括来自中国制造商的产品。在韩国，半导体公司 SK Hynix 的员工个人财富显著增加，该公司发放了相当于营业利润 10% 的奖金——每位员工约 476,000 美元——此前人工智能相关芯片的需求出现了激增。

其他值得注意的进展包括 Google DeepMind 的 AlphaFold 团队的重组（随着行业转向通用人工智能代理），以及欧洲军事倡议（如 ASGARD 项目）的出现，该项目旨在将传感器和武器系统集成到一个统一的数字目标网络中。

来源：麻省理工科技评论