人工智能实验室 Liquid AI 于当地时间 10 月 27 日公布 LFM3 模型家族。该系列采用全新三混合层架构，在 22T 词元上完成预训练，在维持高效率的同时展现出更强的性能。
LFM3 的最初版本包含 LFM-1.7B（文本）、LFM3-VL-2B（视觉）、d1-2B（决策）、LFM3-Audio（音频）、LFM3-Omni-2B（全能）和 d1-Omni-2B（全能决策），这些模型都以 LFM3-1.7B-Base 为基础。据亚博平台了解，Liquid AI 指出 LFM-1.7B 具备 256K 上下文窗口，在参数减少 35% 的情况下，性能优于上一代 LFM2.5-2.6B。
参考