益登科技以NVIDIA技术推动Edge AI落地
亚洲最佳解决方案合作夥伴益登科技(TWSE:3048)宣布深化与NVIDIA合作,整合NVIDIA Edge AI平台、开源模型(Open Source Model)与系统最佳化技术,协助企业降低大型AI模型部署门槛,加速Edge AI应用落地。
随着生成式AI快速从模型验证走向实际应用,企业关注的焦点也开始改变。比起一味追求AI模型规模,如今企业更重视如何让AI能在既有硬件平台上稳定运行、快速部署,并兼顾整体建置成本与投资效益。从智能制造、自主机器人到智能医疗,Edge AI已成为推动企业数码转型的核心,而高效率的部署能力,更是决定Edge AI专案能否成功落地的关键。
目前企业导入AI的模式,已由自行训练模型,转向采用成熟的基础模型(Foundation Models)与开源AI生态,加快开发速度,再依不同应用需求进行最佳化与部署。然而,模型能力持续提升,也让存储器容量、推论效率及系统整合成为新的挑战。益登科技整合NVIDIA Jetson平台、NVIDIA JetPack、NVIDIA CUDA、NVIDIA TensorRT、NVIDIA Jetson AI Lab等开发资源,并结合主流开源模型及推论架构,提供从平台选型、模型导入、模型量化(Quantization)、存储器最佳化(Memory Optimization)到系统验证的一站式技术服务,协助企业提升既有平台的资源使用效率,降低整体导入成本,缩短从概念验证(PoC)到量产导入的时程。
以NVIDIA公开展示的Reachy Mini Jetson Assistant为例,透过采用Headless Mode、NVIDIA Cosmos-Reason2开源视觉语言模型(Vision-language Model;VLM)、模型量化及最佳化推论架构等技术,即可在NVIDIA Jetson Orin Nano 8GB平台上,同时执行视觉语言推论、语音转文字(STT)及文字转语音(TTS)等多模态AI工作流程;展现透过软件与系统最佳化,即使在有限的硬件资源下,仍能在装置端高效率运行多种AI模型,同时降低存储器使用量。
类似架构也逐渐应用于智能制造、自主机器人及智能医疗等场域,例如产线设备巡检、智能影像识别、语音互动及自主决策等应用,都可直接于装置端完成AI推论,兼顾实时反应、数据安全与整体营运效率。
益登科技CEO于俊洁(Jeffrey Yu)表示:「生成式AI已经进入落地应用阶段。现在企业最大的挑战,不是找不到AI模型,而是如何把AI稳定部署到产品与实际应用场域。很多专案最后胜出的关键,不在于硬件规格,而是部署效率、系统整合能力以及整体投资效益。益登的角色不只是提供平台或元件,更协助客户整合NVIDIA平台、开源AI生态与系统最佳化技术,缩短从技术验证到产品上市的时间,降低AI专案导入风险,让AI更快创造实际商业价值。」
凭藉多年Edge AI与嵌入式系统整合经验,益登科技提供涵盖以NVIDIA技术驱动的选型、开源AI模型整合与应用最佳化、硬件设计到系统导入的一站式解决方案,目前已协助客户将Edge AI应用于智能制造、自主机器人、智能医疗、智能零售及智能城市等领域。未来,益登将持续与NVIDIA及开源生态夥伴合作,协助企业突破大型AI模型导入限制,加速AI从概念验证迈向规模化应用,让创新技术真正转化为产业价值。





