aidlux
aidlux
/EN
解决方案
智能工业检测解决方案
机器人行业解决方案
人工智能教学解决方案
关于我们
公司介绍
加入我们

最新资讯

关注阿加犀最新事件,关注我们的每一次进步

锁定2023云栖大会!揭秘阿加犀助推AI大模型加速奔向边缘端

发布时间2024-01-12
分享weiboqqwechat

2023年10月31日,以“计算,为了无法计算的价值”为主题的2023云栖大会在杭州云栖小镇拉开序幕。阿加犀智能科技受邀参加本次盛会,展示了独特的边缘端大模型部署能力。

次大会现场设立了算力、人工智能+、产业创新三大主题展览,并从AI基础设施、AI服务平台和AI新应用三个维度,全面展示在先进智能算力的加持下,AI大模型的技术进步和繁荣生态。

今年以来,生成式AI成为科技领域最火热的概念之一,而边缘端生成式AI对于打造强大、快速、个性化、高效、安全和高度优化的体验至关重要。凭借着独创融合系统架构和行业领先AI工具链等能力,阿加犀在推动边缘端生成式AI落地应用方面独具优势。

大会现场,阿加犀展示了大模型在AI阵列服务器、手机、服务机器人等边缘设备上的推理运行。

AI大模型在边缘端应用不受网络条件限制,实现了超低延时响应。相比云端而言,更快捷、更智能、更安全的边缘端大模型应用吸引了大批现场观众参观体验。

通过独有的技术路线,阿加犀实现了从X86到ARM的跨架构适配,使得通义千问大模型在边缘AI阵列服务器上成功部署。该方案在算力、性能、效率、成本、安全等方面具备显著优势,能够满足AI大模型在不同行业边缘端应用场景中的商业化落地需求。

随着阿加犀对边缘端生成式AI的支持进一步成熟,将具备自主进化能力的AI大模型接入机器人,能使其更好地理解用户语言及意图,实现更加智能、自然的交互与对话。在单SoC解决机器人多场景、智能化需求的高性价比基础上,为用户提供更加精准化、个性化的服务。

面对云端运行生成式AI难以消除的高成本、高时延、隐私安全等挑战,生成式AI应用向边缘侧和终端侧的迁移迫在眉睫。

阿加犀也将会继续依托底层技术实力,为不断丰富的智能物联网应用场景提供更加灵活、高效、安全的创新解决方案,积极携手合作伙伴共同推动AI新浪潮的颠覆式变革!


back返回上一步