据NVIDIA官方消息，新模型已结束测试阶段，将正式推出。
月 15 日消息，科技媒体 marktechpost 昨日（5 月 14 日）发布博文，报道称 Meta AI 旗下 FAIR团队携手佐治亚理工学院，合作开发 CATransformers 框架，将碳排放作…
全球影像场景产品生态开创者SmallRig斯莫格正式宣布与全球顶级IP Transformers 开启授权衍生品合作，SmallRig斯莫格融合变形金刚品牌“远超所见”的核心主题，将变形金刚“突破物理边界”的…
“双轮驱动策略使得阶跃星辰能够在坚持基础模型研发，追求AGI的同时，通过与行业伙伴合作，在实际应用场景中探索和落地Agent能力，形成从模型到Agent，从云侧到端侧的生态体系，实现软硬件结合以更好地理解用…
【导读】DeepMind内部研究要「封箱」了！ 从时间线看，自23年DeepMind与GoogleBrain合并以来，谷歌加速推出了大量AI产品，试图在与OpenAI等劲敌的较量中迎头赶上。 此前，…
来自全国各地的开发者、行业专家和技术创新者齐聚一堂——从知名高校实验室到前沿创业团队，现场涌动的创新能量印证了RWKV-7的优秀性能和深远意义。 在RWKV开发者大会期间，有10位来自学界、企业及RWKV开源…
HuggingFace中国区总经理王铁震表示，开源模型允许用户不断迭代和优化，通过后训练和模型蒸馏等方式，使其更加适应特定领域和需求，但作为一种工具，开源大模型的使用和维护需要一定的技术能力，而闭源模型则作为…
幻方量化旗下AI公司DeepSeek在12月底发布了V3开源模型，采用的是创新的多头潜在注意力机制（MLA）和DeepSeekMoE混合专家架构。 MiniMax在阐述为何选择将模型开源时提到，一是认为这有…
Alphafold 1的时候，用的还是传统的解题思路，但是AlphaFold 2就跳过了这一块，直接去用深度神经网络预测了蛋白质的结构。在硅谷101的线下AI论坛上，Fusion Fund的联合创始人张…
本次OmDet-Turbo模型凭借其高效的目标检测能力和出色的算法优化与在实际应用中的高效、稳定,获得Transformers官方青睐。 随着正式收录进Transformers,这一先进目标检测技术将为全球的…
作为国内首个非Transformer架构、非Attention机制大模型完成网信办备案,为行业发展开辟了新的技术路径。 RockAI成为唯一一家非Attention机制大模型和Attention机制大模型均…
语言大模型的核心是Transformer，是基于注意力机制的深度学习模型（神经网络架构），用于处理序列到序列的任务。 由多个编码器层堆叠而成，内部包含多头自注意力机制+前馈神经网络，整体主要作用是捕捉输入序…
与此同时，通往AGI的道路出现了两大技术流派：一是以OpenAI为代表的Transformer学派，通过大数据、大参数、大算力，以自回归方式走向AGI；二是以meta首席人工智能科学家Yann LeCun为代…
在探索AGI的道路上，Transformer架构和世界模型代表了人工智能研究中两种截然不同的设计哲学和目标。这两种方法在理解复杂系统、处理未知环境、以及学习效率方面各有优劣，引发了关于哪一种更接近于实现AG…
10 月 9 日消息，科技媒体 marktechpost 昨日（10 月 8日）发布博文，报道称谷歌公司推出了选择性注意力（Selective Attention）方法，可以提高 Transfor…
而 Liquid AI 则反其道而行之，其 Liquid 基础模型号称对模型架构进行了“重新设想”，据称受到了“交通信号处理系统、数值线性代数”理念的深刻影响，主打“通用性”，能够针对特定类型的数据进行建模…
它不仅在无人机、机器人、PC、手机等终端设备中,丝滑适配,而且模型智能能力迎来了全新升级。 为了实现群体智能,RockAI经过多年的技术沉淀,独创了不同于Transformer的MCSD架构,并且提出了「类…
在这个节目中，Andrej Karpathy 分享了有关研究、新公司以及对 AI 未来的期待，其中不乏颇为激进的观点，比如他认为Transformer 很快就将在性能上超越人类大脑、我们已经在特定的领域实…
近年来，由于在图表示学习（graph representation learning）和非网格数据（non-griddata）上的性能优势，基于图神经网络（Graph Neural Networks，GN…
在人工智能应用领域，布林认为生物学已经较好地实现了 AI 技术的落地应用，而机器人领域还是看完演示觉得很神奇的阶段，没有达到日常可以使用的水平。 布林：我认为竞争在某种程度上是非常有帮助的，因为所有科技大厂都…
最近，来自新加坡国立大学的研究者提出了 Kolmogorov–Arnold Transformer（KAT），用Kolmogorov-Arnold Network（KAN）层取代 MLP 层，以增强模型的…
其中，Noam Shazeer 是 Character.AI 的创始人、CEO，也是 Transformer论文作者之一，他曾在谷歌任首席软件工程师。 Shazeer 将与 Google DeepMind …
目前可以在 Hugging Face 上查看并使用 Falcon Mamba 7B，这个仅用因果解码器的模型采用了新颖的 Mamba状态空间语言模型（State Space Language Model,…
虽然训练时只用到了长度为3～6个节点的因果链，但序列长度为7～13时，TS2（NoPE）在标准和随机翻转的链上，获得了比GPT-4更高或相当的准确率。 使用正弦位置编码（SPE）和可学习位置编码（LPE）的…
TTT 层直接替代了注意力机制，解锁了具有表现力记忆的线性复杂度架构，使我们能够在上下文中训练包含数百万（未来可能是数十亿）个 token 的LLM。 继续 Mamba 论文之后，研究人员在 Pile 上…
【头部财经】近日，Transformer的八位作者全部离开了谷歌，这一消息引起了业界广泛关注。据悉，这些顶尖人才的流失不仅对谷歌产
06/10 22:33
06/10 22:02
06/10 21:30
06/10 19:33
06/10 17:02
06/10 17:01
06/09 17:34
06/09 17:33
京公网安备 11011402013531号