开场(三人合声)
晓桐+云阳+云健: 今日我们AI说,带你听见未来的声音!
第一段:晓桐开场
晓桐: 大家好,这里是《今日我们AI说》,我是晓桐。你跟AI聊天,按下发送之后那一小段转圈等待——现在有两拨人在动它的刀子:DeepSeek把它跑服务用的推理「内脏」整个开源了,谁都可以拿走免费用;国内一家公司给算力集群做了个「调度员」,公司自报实测把首字等待中位数砍掉了七成。再加三条:法国公司把语音AI升级到五十多种语言、一分钟转写三十五美分;一个团队给五十种没人听过的语言攒「真实对话」教材;还有研究者不拦截诈骗电话,改让AI陪骗子聊天耗他们的工位。先请云阳播要闻,稍后我和云健逐条拆。
第二段:云阳播报
要闻一:DeepSeek开源「内脏」:自家生产级推理引擎,免费拿去用
云阳: 要闻一,10月16日,AI公司DeepSeek在GitHub上线DeepInfer项目,把驱动其大规模生产服务的推理框架开源,采用Apache 2.0许可,仓库星标已超1万(截至10月21日本台实测)。官方说明当前支持DeepSeek-V4.1-Flash模型的离线推理,硬件侧同时支持英伟达SM100系列显卡和华为昇腾950处理器,编解码组件同步开源;在线服务需要的KV缓存等三部分暂不在本次范围内。10月18日本台播报过DeepSeek换装新模型按次计费的进展(模型换装那期)。框架主页见GitHub: deepseek-ai/DeepInfer。
要闻二:AI回复「调度员」首发:首字等待降71.3%,公司口径待复测
云阳: 要闻二,据AI垂直媒体量子位10月20日报道,在2026中国计算机学会全国高性能计算学术大会期间,国产算力服务商是石科技发布分布式调度框架TokenFleet,含请求路由、跨机房容量协同、混合负载治理三项组件。公司给出的GLM5.3调优数据显示:P95首Token延迟降低32.4%、P50降低71.3%(公司口径,待第三方复测;延迟下降不直接等于成本下降)。报道见量子位。
要闻三:语音AI通吃50+语言:每分钟35美分,能打点电话办预约
云阳: 要闻三,法国AI公司Mistral 10月20日官方发布Voxtral 3语音模型家族和语音智能体开发套件。官方公告称:转写覆盖50多种语言;旗舰版Small Transcribe 3在FLEURS基准七款对比模型共有的45种语言上宏平均词错误率4.0%(官方口径,待第三方复测);Mini版转写模型40亿参数,定价每分钟0.0035美元;实时转写延迟低于500毫秒(官方口径);语音生成覆盖35种以上语言,首个声音输出约90毫秒(官方口径);用30分钟录音可复刻指定音色。API由欧盟境内托管,也支持私有化部署。官方公告见Mistral: Voxtral 3。
要闻四:给50种语言攒「真实对话」教材:微调后错误率降20到44分
云阳: 要闻四,10月19日提交的arXiv论文公布了Monsoon框架:组织配对贡献者录下不加剧本的自发对话,用自动分类器筛查录音,再经五层人工校对,按词汇和声学覆盖面挑选片段,目前已采集50种语言的语音,分析了七个各约3500小时的语料库。论文称:同等采集量下,这套质量工程比常规流程把语义词错误率相对降低10%到39%;微调Whisper语音识别模型后,对话基准的语义词错误率比公开语料基线低20到44个百分点(论文口径,尚未经同行评审)。框架、质检模型和微调模型均已开放。论文见arXiv: Monsoon。
要闻五:不拦截、改「耗」骗子:AI进游戏局,300场模拟对话实测
云阳: 要闻五,10月19日提交的arXiv论文提出Game of Phones框架:把「AI陪电话骗子聊天、消耗其人力」建模为博弈论里的双人对局,让大模型从对局经验里临场调整策略,不需要额外训练;论文用纳什均衡作为行为好坏的标尺。在300场模拟对话、三种大模型架构的测试里,自适应策略选择比不调策略的基线贴近纳什均衡28.9%到79.7%(论文口径,尚未经同行评审)。代码和带逐轮策略标注的300场对话数据集已开放。论文见arXiv: Game of Phones。
第三段:晓桐×云健逐条问答
云健: 先拆第一条。推理引擎是什么?模型是发动机,引擎是传动系统——大模型天生只会一个字一个字往外蹦,把这些字变成稳定、便宜、快的大规模服务,靠的就是这层软件。DeepSeek过去开源过权重、算子库、编译工具,这次动的是自己机房里干活的核心框架,社区把它解读为从「开源模型」走到「开源全套基础设施」。你发现没有?这一条对普通人的钩子藏在价签上:中小云厂商不用自己重写这套底层,算力成本有希望往下走,你用的API和AI应用的价格战就多了一张牌。但要泼一句冷水:官方README自己写清楚了,在线服务最关键的KV缓存、预填充解码分离、负载均衡三块还没开源,现在拿到的是一台能跑离线批量任务的发动机台架,不是整车上路。另外它同时支持英伟达和华为昇腾两种硬件,这是个生态事实——一套软件两边都能跑,工程省一遍。
晓桐: 第二条我直接问最关心的:P95、P50这两个词,我按发送之后哪段时间对应哪个?
云健: 首Token就是那条AI回复的第一个字,是你盯着转圈的那段等待。P50是一半用户能达到的中位水平,P95是最倒霉那5%请求的尾部等待。公司口径的数字很好看:中位数砍七成、尾部砍三成。门道在调度器算的是什么账:一句带着相同长开头的请求,发给缓存了这段计算的实例能省一大截,但那个实例可能正排着长队——省下的计算抵不抵得上多排的队,这笔账过去靠拍脑袋分流,现在被写进了调度目标。前情可以对照英伟达给Kimi修快车道那期,一个月内推理提效连着动,说明行业的竞争重心正从「模型多聪明」挪到「服务多便宜多快」。数据本身留神:单模型、所测显卡集群、大会演讲材料里的自评改善率,跟上一条一样,等第三方复测。
晓桐: 语音这条,30分钟录音就能复刻一个人的声音,我第一反应是害怕,第二反应是:这技术先落在哪?
云健: 官方给的主场景是服务台和电话客服——公告开场那个演示,是一位用户把法语转诊信交给AI,AI听懂、查到医生预约、再用英语把确认短信发回去。说白了,先受益的是你最烦的那段体验:打客服电话的排队语音、老年人按键按不明白的菜单、跨国预约里听不懂的外语接线员。价格也是明牌:Mini转写每分钟0.0035美元,一小时会议两毛一;实时转写500毫秒内出字、首声音90毫秒,电话里那种「喂?喂?」的停顿感基本消失。风险不用我替厂商自曝:30分钟音色复刻是公开能力,仿冒来电的防伪就成了采购方自己要对的账——这是这项技术的代价面,各家安全文档都得写。数字先挂标签:4.0%词错误率和各延迟数都是官方跑分口径,待第三方复测。
晓桐: 第四条我接着追问一个点:五十种语言缺的居然是「数据」不是「模型」?
云健: 对,这是论文的核心判断:绝大多数语言的语音识别,卡脖子不在模型架构,在于没有转录正确的「自发的、不念稿的」说话录音。公开语料要么小,要么是照稿念的——跟真人聊天时的吞字、抢话、口音完全不是一回事。Monsoon的做法是把采集做成流水线:两人一对聊真实话题、分类器筛掉不合格、五层人工校对、再按词汇和声学覆盖面挑片段。效果按论文口径:同等采集量,语义词错误率比常规流程低10%到39%;拿去微调Whisper,对话基准上比公开语料基线低20到44个百分点,而且换个模型架构也能迁移、数据越多增益越大。落点对着人:说小众语言、方言的老人和孩子,用语音而不是打字操作设备的路被打通了——这比任何跑分都有温度。要说明的是10月19日挂出的论文,尚未经同行评审。
晓桐: 最后这条我是真好奇:跟骗子聊天不是给骗子递话术素材吗,怎么反而是消耗他们?
云健: 这条的逻辑要先立起来:现有反诈手段以拦截和提醒为主,这类手段存在的理由是真的——运营商风控、国家反诈中心预警,直接把大量骗局掐死在接通之前,谁都不该嘲它。论文打的缺口是另一头:拦截不花骗子的成本,号码封了换一批继续。于是反过来用「缠磨」:AI接起电话不谈输赢、就拖——骗子的线路、话术本、人工复核每被一个假目标占住一小时,真目标的窗口就少一小时。方法上把对局建成两人博弈、用纳什均衡当标尺,三种大模型在300场模拟对话里学会临场换策略。给外行的一句:纳什均衡是博弈双方都无利可图的僵局点,「贴近均衡」说的是策略聪明程度,不是「防诈效果」。讲真,冷水必须泼足:全程是模拟,没有一场真骗子对话;诈骗缠磨在多数司法辖区处于灰区,真上线要监管和平台出力。它更像是给反诈成本工程学补的一条腿——让骗子的「工位」涨价,而这条腿能不能落地,得看有没有执法机构拿真线路测。
第四段:收尾
晓桐: 今天这几条,动的都不是「模型聪不聪明」,而是它跑得快不快、听得懂几个人说话、被谁拿去干什么。
云健: 留三个时点跟单:DeepSeek哪天把在线服务缺的三块拼图补进开源仓库;是石那组71.3%什么时候等来第三方复测;以及你的下一通客服电话,接起来的是不是已经不是人。管道变粗的速度,比发布会好听的声音实在。
晓桐+云阳+云健: 今日我们AI说,带你听见未来的声音!
