当前位置:首页 > AI资讯

六款模型、51 万上下文:阿拉伯语 AI 开始自己造底座

xinhack3周前 (10-18)AI资讯55

六款模型、51 万上下文:阿拉伯语 AI 开始自己造底座 AI资讯

10 月 15 日,阿布扎比穆罕默德·本·扎耶德人工智能大学(MBZUAI)旗下的基础模型研究所(IFM)与 Inception42 发布 Jais 3。据 IFM 官方博客与 Hugging Face 模型卡,这是一族六款阿拉伯语原生开源模型,参数量从 9 亿到 3750 亿,外加一个阿拉伯语语音识别模型 Jais Speech,权重均为 Apache 2.0。

六款模型,按硬件分档

0.9B 是稠密模型,能跑在手机上,上下文 12.8 万;3.7B 面向边缘和小服务器;7B 面向工作站;32B 面向企业服务器;36B-A4B 是混合专家加多模态视觉适配,约 40 亿激活;旗舰 375B-A23B 约 230 亿激活,按模型卡说明,BF16 部署大约要 8 块 H200。

除最小的 0.9B,其余上下文都到 51.2 万 token,官方称这是阿拉伯语原生模型里最长的。每款模型还附五个训练检查点,研究者可以从中途接着训。

它不是从零训练,而是“换语言”

Jais 3 是 IFM 九月开源的 K2 Horizon 模型族的第一次语言适配:不动架构,用同一套训练配方把底座迁到阿拉伯语。

效果有一个可查的数字:在 IFM 自己的阿拉伯语评测上,7B 版本的平均分从底座 K2 Horizon 的 56.4 提升到 79.6。这说明“开放底座 + 语言适配”这条路是走得通的,不必每次都从零烧一遍预训练。

它想解决的是“串味”问题

通用模型写阿拉伯语有个老毛病:同一份文档里,方言和书面语来回跳,语域不统一。Jais 3 主打的就是稳定——措辞一致、严格遵守复杂指令。

官方给的例子是一封医院预约函,四条约束里包括“不许出现某个词”。Jais 3 四条全中,对比的通用模型把禁用词用了两次。这类细节听着小,但对政府公文、医疗通知、合同附件来说,就是能不能直接用的分界线。

它也不只是会写字:接上工具后能规划多步任务、查网页、读写阿拉伯语的文档、表格、演示文稿和网页。

语音这块可能更实用

Jais Speech 支持现代标准阿拉伯语和 19 个阿拉伯国家的方言,能在嘈杂环境下转写。它最有意思的能力是 code-switching——说话人中途切到英语或法语再切回来,转写会保留原文字,并标注说的是哪种方言,还能给转写加元音符号。

官方称,在六个公开测试集上,它的平均词错率和字错率在参评模型里最低,包括几家商业语音服务。这同样是厂商口径,需要第三方复核。

“主权模型”到底在争什么

官方把 24 个经过审计的阿拉伯语基准和评测代码一并公开了。这一点比分数更关键:分数可以挑,评测集和脚本公开,别人才能在自己的数据上复现。

对做中东市场的人来说,逻辑很实际:数据要留在本地、模型要能在自己机房跑、方言和公文语域要准。这三条加在一起,就是“通用大模型也能说阿拉伯语”和“一开始就为阿拉伯语训练的模型”之间的差距。

  • 值得学的方法:先有开放底座,再做语言适配,成本远低于从零预训练。
  • 值得警惕的地方:主要分数来自自家评测,独立对比还少。
  • 值得注意的趋势:模型正在按语言、按地区分家,而不是一个通用模型打天下。

这条路中国团队并不陌生。区别在于,别人已经把“评测集也开源”当成了标配。

相关文章

Replit 停用 Anthropic 默认模型:一次公开换马

Replit 停用 Anthropic 默认模型:一次公开换马

据 TechCrunch 10 月 16 日报道,Replit CEO 在 TechCrunch Disrupt 台上说,公司已不再与 Anthropic 合作,原因是成本、性能与合作伙伴关系;Cha…

OpenCode 凭证泄露:1.4% 用户的 API 密钥被暴露

OpenCode 凭证泄露:1.4% 用户的 API 密钥被暴露

10 月 17–18 日,安全媒体披露 OpenCode 老系统被攻破,约 1.4% Console 用户的 OpenAI、Anthropic、Google API 密钥遭暴露。这篇讲清事件、影响,以…

OpenAI 牵手谷歌云,GPT 系列登陆 Model Garden

OpenAI 牵手谷歌云,GPT 系列登陆 Model Garden

10 月 21 日至 22 日多家媒体报道,OpenAI 与谷歌云达成合作,GPT 系列模型将进入 Google Cloud 的 Model Garden。本文看这笔合作如何重塑云生态,以及它对企业分…

百度搭子发布企业级智能体,把 AI 从办公桌搬上生产线

百度搭子发布企业级智能体,把 AI 从办公桌搬上生产线

10 月 21 日百度搭子在杭州发布多项企业级新能力,客户环比增长 83%。本文看它如何把 AI 从写周报推进到跑进企业生产流程。…

讯飞SparkAudio 1.0发布:语音识别翻译理解合一,配套AI录音环

讯飞SparkAudio 1.0发布:语音识别翻译理解合一,配套AI录音环

10月22日科大讯飞在1024开发者节推出语音基座模型SparkAudio 1.0,把识别、翻译、理解合一,并同步发布AI录音环。本文看它为何把「听觉」当成独立底层能力来反复打磨。…

Recursive 发布 Flint 40B 本地编码模型,MacBook 跑 125 token/秒

Recursive 发布 Flint 40B 本地编码模型,MacBook 跑 125 token/秒

近期 Recursive 开源 40B 参数的本地编码模型 Flint,主打在 MacBook Pro 上跑出 125+ token/秒、4-bit 仅占约 23GB。本文看它声称「主要由 AI 构建…

红果短剧上线小果AI:用大白话找剧,字节把对话式AI接进C端

红果短剧上线小果AI:用大白话找剧,字节把对话式AI接进C端

10月22日红果短剧正式上线AI找剧助手「小果AI」,底层依托豆包大模型。本文看它如何把「被动刷剧」变成「主动询剧」,以及这步棋对短剧内容分发的意义。…

月之暗面推出Kimi K3.1 Pro:3万亿参数高速版

月之暗面推出Kimi K3.1 Pro:3万亿参数高速版

10月24日,月之暗面正式发布Kimi K3.1 Pro与高速版K3.1 Pro Highspeed,3万亿参数、100万上下文,官方称代码与3D能力逼近头部闭源模型,权重将于11月4日前开源。本文拆…