孩子问一句「恐龙为什么会灭绝」，玩具停了一秒多才开口。很多家长的第一反应是「模型不够聪明」，可这段停顿跟聪明没什么关系，它属于整条语音链路的固定开销：声音得先被听见、被判句结束、转成文字、送进模型、模型吐出第一个字，最后再合成声音播出来。每一段都省不掉，加起来就是你耳朵听到的那一两秒。
这一两秒，分给了五道关
先看行业里的普遍水平。生成式 AI 玩具走云端的时候，从说完到开口通常在 1000 到 2500 毫秒；换成在设备本地处理，同样一件事只要 10 到 50 毫秒（KEYi Robot，2026）。差距这么大，是因为端侧只干轻活——运动控制、预设指令、简单的唤醒判断，一旦要正经聊天，音频还是得送出去。
拆开看，第一道关是判断「说完了没有」。主流做法靠静音检测：OpenAI 的实时语音接口默认要等 500 毫秒静音才认定这一轮结束，前面还留着 300 毫秒的前置缓冲（2026）。也就是说孩子刚闭上嘴，系统还愿意再等半秒看有没有下文。这半秒常常是整条链里最大的一块，而且它买到的是「不抢话」的体验——省掉它，玩具就会在孩子换气的瞬间插嘴。
接下来是语音转文字、模型吐出第一个字、语音合成产出第一段音频，再加一次网络往返。传统的「转写—理解—合成」三段式管线，端到端跑出 2 到 5 秒并不稀奇；把控时目标放在 800 毫秒以下、接口首字节压在 500 毫秒上下的团队，会把剩下的 300 毫秒留给采集、静音检测、网络和播放（2026）。
端侧和云端的账，怎么算才不吃亏
业内正在收敛的解法是分摊，而不是全押一边。2026 年 9 月在众筹上快速起量的 GENiEX 就把推理分成了两层：轻量的闲聊交给设备上的小模型，复杂问题才升级到云端大模型，用户还能在 Instant、Medium、High 三档之间切换，用响应速度换回答深度；公开参数里它重 28 克、单次充电续航约 8 小时。这种切法的好处是前端语音栈不用跟着基础模型换代重训。
为什么值得为延迟较真？因为人耳的容忍度比想象中低。真人对话的轮次间隔通常在 200 到 400 毫秒，AI 一旦超过 800 毫秒，大脑就会读成掉线或卡顿（2026）。还有个更隐蔽的代价：Scale AI 的研究发现，同一个模型从原生音频降级回级联管线之后，在靠语气、背景声和打断来判分的对话里，通过率相对掉了 30.3%（2026）。说白了，丢的不只是速度，还有听懂情绪的能力，而孩子对这种变化最敏感。
如果你在采购或者挑产品，有三个问题值得直接问：延迟的测试口径是「说完到开口」还是「接口首字节」，这两个数能差出一倍；断网之后还剩什么能力；打断是怎么处理的——回声消除做不好，玩具会把自己的声音当成孩子在说话，于是越说越乱。国内语音模组厂商给出的选型基线，是把端到端 1.5 到 2 秒当作行业普遍水平、0.5 秒以内算优秀（厂商 2026 年披露）。如果对方连数字量到哪一段都说不清，这个数基本不用信。