越影视觉
Hi3403本地对话智能体
能力案例 官方案例
本地部署|隐私安全 | VLM | 性价比高 | 秒级响应|MiniCPM-4v-0.5B
开放度:
5级
硬件平台:
Hi3403V100
软件平台:
Linux
获取案例资料
人赞过
获取案例资料
image image
Hi3403本地对话智能体
Hi3403本地对话智能体
基于Hi3403算力引擎打造的本地部署 ASR、VLM、TTS 完整链路,实现语音交互与多模态业务识别的解决方案;可应用于辅助驾驶、哨兵模式、图文分析和语音交互等场景;端侧推理,无需联网,性价比高;大模型持续生成速度达 21 tokens/s,端到端响应时间3~5s。
基于Hi3403算力引擎打造的本地部署 ASR、VLM、TTS 完整链路,实现语音交互与多模态业务识别的解决方案;可应用于辅助驾驶、哨兵模式、图文分析和语音交互等场景;端侧推理,无需联网,性价比高;大模型持续生成速度达 21 tokens/s,端到端响应时间3~5s。
技术亮点
技术亮点
大模型本地部署
大模型本地部署
隐私安全
隐私安全
VLM
VLM
应用广泛,性价比高
应用广泛,性价比高
秒级响应
秒级响应
方案功能
方案框架 方案框架 Hi3403本地对话智能体,主要由 Sensor、麦克风、ASR、VLM、TTS、扬声器等六个模块组成,基于时延考虑,六个模块被分为四个线程。所有模块的初始化行为均在启动时有序完成加载。
评估资源

论坛交流

公开发帖问大家,寻求技术支持的专业解答,欢迎回帖交流

您可能想看 您可能想看
*本网站部分视觉元素采用人工智能技术生成。这些AI生成的图像遵循即梦、千问官网相关用户协议。我们致力于确保所有使用的AI内容均符合法律法规及许可要求。