AI21实验室推出Jamba,这是一个集成了两种体系结构的AI模型:变压器和基于结构化状态空间模型的Mamba(Kyle Wiggers/TechCrunch)

越来越多的AI行业正朝着具有较长上下文的生成AI模型迈进。但是具有大上下文窗口的模型往往是计算密集型的。

查看原文