场景描述

随着AI能力进步，越来越多的传统硬件厂商以及基于小模型AI能力构建的智能硬件厂商，迫切得需要升级到大模型以提升交互体验。然而，对于众多企业来说要想保障低延时交互的同时，又要确保模型的效果并且引入外部服务丰富AI能力，还要兼顾成本就变得尤为挑战。

众所周知，想要低时延则模型尺寸不能过大，而模型尺寸偏小又会带来效果问题；想要引入更多的外部服务来丰富AI能力，则工程链路必然更复杂，工程链路的冗长又会带来高时延问题。

面对这些挑战，众多硬件厂商急需一种兼顾成本、时延、功能、效果并且易用的解决方案。

解决方案

阿里通义实验室，深刻认识到消费电子行业升级AI能力的紧迫性和重要性，为了解决上述挑战，决定建设多模态交互方案。

该方案借助通义实验室的应用算法能力，对AI硬件的常见场景进行了分析，专项定制了数个小尺寸意图识别模型，在确保效果的同时最大程度降低时延。另外依托于阿里云百炼平台的生态，使得用户可以灵活自主得添加各类接口、MCP、智能体，极大程度得扩展了应用的能力边界。而且在阿里云自研算力的加持下，保障了性能和稳定的前提下让成本可控。使其最终成为硬件厂商用得起、用得好的解决方案。

成效

面向消费电子产品，提供结合了意图识别、安全审核、长期记忆、联网搜索、Function call与Agent灵活插拔的语音、视觉多模态实时交互的一站式解决方案：

1. 低延时，语音对话最低不足1s，视频流对话最低1.5s
2. 丰富的内置技能与Agent（互联网搜索、设备控制、天气、翻译、新闻）
3. 从上下文到备忘录到长期记忆的多级记忆，记忆召回F1值90%以上
4. 意图识别模型准确率95%的前提下时延低于200ms

阿里云为听力熊、希沃、深励科技等厂商提供的多模态交互解决方案使得其多款产品的AI体验大幅度提升，无论是情感陪伴、学习教育、语音控制、视觉理解都赢得了最终用户的好评和赞誉，用户粘性大幅提升，产品使用时长和交互频次分别提升20%和70%。