- 开课提醒
专注于边缘 AI 和大语言模型应用。她与中国的客户和合作伙伴密切合作,在辅助驾驶、AI 座舱和机器人领域实现 LLM 用例,帮助团队构建生产就绪型边缘 AI 系统。作为 TensorRT Edge-LLM 的核心贡献者,她致力于开发高性能推理解决方案,将先进的大语言模型引入嵌入式平台。
- 借助 NVIDIA 最新 TensorRT Edge-LLM SDK 加速辅助驾驶模型部署
- NVIDIA Cosmos 生成辅助驾驶合成数据
- 问答环节
如果说 Agentic AI 改变了软件,那么物理 AI,正在改变现实。这意味着,未来 AI 将从擅长处理信息符号、进行认知与生成的“虚拟智能”,坚定地迈向能够理解物理规律、并执行实体行动的“行动智能”。
辅助驾驶汽车正是物理 AI 的重要载体,正在迎来由大模型驱动的全新范式变革。而在资源普遍受限的车载平台部署大语言模型( LLM )和视觉语言模型( VLM )却仍面临着资源约束的难题。
NVIDIA 最新的 TensorRT Edge-LLM SDK 是用于 LLM 和视觉语言模型(VLM)推理的新型开源 C++ 框架,旨在满足日益增长的高性能边缘端推理需求。
NVIDIA TensorRT Edge-LLM 采用精简轻量化的设计,专为嵌入式汽车平台 NVIDIA® DRIVE AGX Thor™ 及机器人平台 NVIDIA® Jetson Thor™ 上的实时应用而打造,能够显著降低框架的资源占用。目前,该框架已在 GitHub 上随 NVIDIA JetPack™ 7.1 版本发布并开源。
此外,物理 AI 的构建难度极大,需要进行精确的仿真并理解和预测现实世界的行为。世界模型是克服这些挑战的关键工具,它可以根据过去的观察结果和当前的输入预测未来的环境状态,使开发者能够在受控环境中仿真、训练和完善系统。
NVIDIA Cosmos™ 是一个由先进生成式世界基础模型、高级 tokenizer、护栏和加速视频处理管线组成的平台。通过融合物理级仿真、高保真场景重建与 AI 增强技术,为辅助驾驶开发提供大规模、高真实度、可定制化的合成数据,解决真实路测数据 “采集难、覆盖少、标注贵、极端场景稀缺” 的行业痛点,加速下一代辅助驾驶架构的开发。
在上述背景下,智猩猩联合丽台科技策划推出「NVIDIA 辅助驾驶模型部署与合成数据公开课 」。公开课将于 1 月 15 日 14:00 正式开讲。
本次公开课,特邀 NVIDIA 高级系统软件工程师刘琪、丽台科技技术架构总监蔡欣欣两位主讲人共同主讲。两位主讲人将分别以《借助 NVIDIA 最新 TensorRT Edge-LLM SDK 加速辅助驾驶模型部署》、《NVIDIA Cosmos 生成辅助驾驶合成数据》为主题,进行实时讲解和互动答疑。