为何大规模部署物理AI需要在每一层确保安全
nvidia ·
随着自动驾驶汽车和工业机器人等物理人工智能系统走向大规模部署,安全必须贯穿技术栈的每一个层面。英伟达认为,在与人共享的动态环境中运行的机器,传统的单次检查已不足够。为此,该公司开发了Halos这一全栈安全系统,旨在确保从硬件设计到最终部署的可靠性。该框架涵盖功能安全工程、传感器融合以及利用仿真和合成数据进行AI行为保障等关键环节。对于自动驾驶汽车,Halos依托DRIVE AGX Thor平台和Alpamayo模型,提供可解释性和可追溯的安全证据;在机器人领域,该方案则使用IGX Thor模块和Isaac Lab等工具,针对边缘情况验证机器人行为。吉利、日产和Agility Robotics等主要行业合作伙伴已将这些技术整合至其产品中。TÜV南德和TÜV莱茵等独立机构正在积极认证这些系统,以确保其符合ISO 26262等国际标准的合规性。
nvidia