在谷歌研究人员推出Transformer架构近十年后，这一架构已成为所有主流大语言模型的支柱。然而，随着模型规模的扩大，其局限性也日益显现。密集注意力机制在处理更大文本输入时成本不断攀升，且难以同时管理大量信息。
为此，多家初创公司正在探索替代或改进Transformer的新方法。据《麻省理工科技评论》的“What's Next”系列报道，这些创新旨在让大语言模型更快、更高效，并可能更智能。
与此同时，学术AI研究的格局正在发生变化。在加州山景城举行的施密特科学AI2050项目近期聚会上，大学研究人员讨论了该领域不断变化的动态。该项目由埃里克和温迪·施密特资助，支持从事AI相关项目的学者。许多研究员指出，当今学术界AI研究人员正面临不同寻常的压力和机遇。
Advertisement
在其他科技新闻方面，英伟达已从华尔街获得500亿美元用于AI基础设施，相关交易涉及贝莱德、高盛及其他四家公司。这标志着AI计算作为新兴资产类别获得重大投资。
其他值得关注的发展包括：马克·扎克伯格发布新宣言，倡导开源AI以拯救美国；伯尼·桑德斯呼吁暂停AI开发；美国法院允许数千起针对社交媒体成瘾机制的诉讼继续推进。
此外，中国人形机器人公司宇树科技的IPO获得散户投资者超8000倍超额认购，募资9亿美元。Flock的车载追踪摄像头正面临两党反对，中国还出台了针对情感交互AI的新规。
一款声称能筛选出前1%科学论文的AI工具遭到研究人员质疑，同时针对AI生成内容的抵制正推动平台加以限制。一位82岁的农民以环境担忧为由，拒绝了2600万美元将其土地改建为数据中心的报价。
参议员伯尼·桑德斯在致AI领导人的信中敦促道：“现在避免灾难还为时不晚。停止建造人类无法控制的机器。”
来源：《麻省理工科技评论》
暂无评论。快来发表第一条评论吧。