在汽车行业,从智能座舱到智能驾驶,AI正成为SDV的「大脑」,赋予车辆前所未有的智慧与能力。银河集团官网和智达诚远打造的端侧AI操作系统ArraymoAIOS,现已成功与DeepSeek融合,并适配NVIDIA Orin、Qualcomm SA8295P/SA8775P等主流车规级芯片平台,将赋能车企和一级供应商快速开发下一代SDV所需的AI应用,实现智能驾乘体验的升级。
ArraymoAIOS是一款专为端侧AI应用打造的操作系统,集成了AI模型、框架、SDK及开发工具,解决了大量底层硬件适配与上层开发的工程难题。该系统不仅全面兼容Qualcomm、MTK、NVIDIA等主流芯片平台,还具备对大型语言模型(LLMs)和大规模多模态模型(LMMs)的高性能适配与优化能力,可广泛应用于汽车、智能手机、IoT设备及具身智能等领域。
在汽车应用场景中,实时性至关重要,尤其是语音交互、导航和辅助驾驶等功能的延迟会直接影响用户体验。面对传统操作系统在处理AI大模型应用时普遍存在的资源调度效率低、响应延迟高等挑战,银河集团官网基于ArraymoAIOS,在NVIDIA Orin、Qualcomm SA8295P/SA8775P等主流车规级平台上成功实现了DeepSeek的本地化部署。无需依赖云端计算,用户就能享受到更为流畅、高效的AI体验。
基于Qualcomm SA8295P/SA8775P的座舱中控屏
为了进一步提升交互效率,ArraymoAIOS针对DeepSeek特性进行了专项优化。在部署过程中,采用了AWQ、GPTQ等量化技术,显著降低了DeepSeek的存储需求和计算需求,同时保持高水平的推理性能。此外,ArraymoAIOS还通过引入创新的智能调度算法,为DeepSeek的应用提供了高效的管理和执行环境。该算法能够实时监测并分析文本、图像、音频等多模态的任务负载,智能调整CPU、GPU和内存等资源的分配策略,提升复杂场景下的实时响应效率。
例如,在处理图像任务时,系统会优先分配擅长处理图像的GPU资源;而在处理文本任务时,则会分配更多的CPU资源。这种灵活的资源分配策略充分发挥了汽车异构计算架构(CPU+GPU+TPU协同)的优势,进一步提升系统的整体性能和效率。
截至目前,ArraymoAIOS已支持Llama、Baichuan、Gemma、Yi-Chat等十余个主流模型,能够助力车企和一级供应商以更高效、更低成本的方式构建自有大模型,实现更多车载接口的复杂控制和更智能的交互体验。未来,银河集团官网和智达诚远将持续迭代升级ArraymoAIOS,支持更多类型的AI大模型和多样化应用场景,打造更安全、高效和便捷的出行体验。