刚刚勾引 外卖,一家名为Liquid AI(液态AI)的生成式东说念主工智能初创公司布告,完成一轮价值2.5亿好意思元的早期融资,由芯片巨头AMD领投。 这项投资将因循Liquid AI进一步缔造其Liquid Foundation模子(LFM),这是一种面向企业的轻量级、通用AI模子,旨在挑战传统的基于云霄的AI模子,如OpenAI、亚马逊AWS和谷歌云。 液态神经网罗:受大脑启发的立异Liquid AI的LFM与传统基于变换器的模子架构不同,它们基于“液态神经网罗”,这是一种受大脑启发的系统,即使在检修后也能保抓适合性和鲁棒性(牢固力)。 这些模子相配适应处理多数法则多模态数据,包括视频、音频、文本、时辰序列和信号。在MMLU-Pro基准测试中,Liquid AI的LFM模子跑赢了Meta和微软的流行模子,同期需要的内存更少。 LFM具备多言语智力,包括西班牙语、法语、德语、华文、阿拉伯语、日语和韩语。此外,这些模子正在为英伟达、AMD、高通和苹果的硬件进行优化。 LFM有三个模子可供选择:LFM-1B适结伴源受限的环境,LFM-3B优化了边际部署,而LFM-40B民众夹杂模子(MoE)则经营用于复杂任务。 这些模子在学问容量、多步推理、长凹凸文回忆、推理恶果和检修恶果方面发扬出色。 STAR,专注性能与恶果的均衡Liquid AI还推出了一种疏漏自动生成和优化AI模子架构的新框架(STAR,定制架构合成)。STAR 框架应用进化算法和数字编码系统来处分深度学习模子中均衡质地和恶果的复杂挑战。 字据Liquid AI的商议团队(包括 Armin W. Thomas、Rom Parnichkun、Alexander Amini、Stefano Massaroli 和 Michael Poli)的说法,STAR的款式代表着传统建筑经营款式的滚动。 STAR不依赖于手动转化或预界说模板,而是使用分层编码时代(称为“STAR 基因组”)来探索架构的广袤经营空间。这些基因组因循重组和突变等迭代优化经过,使得STAR疏漏合成和考订针对特定办法和硬件要求的架构。 Liquid AI对STAR的起首温文点是自纪念言语建模,而传统的Transformer架构耐久以来一直占据主导地位。 在商议时代进行的测试中,Liquid AI商议团队展示了STAR生成架构的智力,其性能遥远优于高度优化的 Transformer++架构和夹杂模子。 举例,在优化质地谦虚存大小时,STAR演化架构与夹杂模子比较达成了高达37%的缓存大小减少,与Transformers比较则减少了90%。尽管恶果有所栽植,但STAR生成的模子仍保抓以至卓绝了同类模子的瞻望性能。 三级片在线观看类似地,在优化模子质地和大小时,STAR将参数数目减少了多达13%,同期仍栽植了圭臬基准测试的性能。 该商议还强调了STAR膨大其经营的智力。STAR演化模子的参数从1.25亿膨大到10亿,其适度与现存的 Transformer++和夹杂模子独特以至更优,同期显赫裁减了推理缓存要求。 Liquid AI暗意,STAR植根于一种交融了能源系统、信号处理和数值线性代数旨趣的经营表面。 这种基础款式使团队疏漏为计较单位缔造一个多功能的搜索空间,涵盖细心力机制、递归和卷积等组件。 STAR的一大性情是其模块化勾引 外卖,这使得该框架疏漏跨多个线索对架构进行编码和优化。此功能可深刻了解访佛出现的经营主题,并使商议东说念主员疏漏笃定架构组件的有用组合。 风险教唆及免责条件 市集有风险,投资需严慎。本文不组成个东说念主投资淡薄,也未推敲到个别用户额外的投资标的、财务景色或需要。用户应试虑本文中的任何办法、不雅点或论断是否适应其特定景色。据此投资,包袱郁勃。 |