物联网软件开发公司 商汤绝影行业首发原生多模态大模子车端部署:80 亿参数
2024-07-247 月 19 日音书,商汤科技结合创举东谈主、首席科学家王晓刚 17 日晓示,商汤绝影在行业内首先已毕了原生多模态大模子的车端部署。车载端侧 8B 模子首包延伸在 300 毫秒以内物联网软件开发公司,推理速率 40 Tokens / 秒,遮掩主流算力平台。 商汤绝影为多模态大模子打造贪图引擎“HyperPPL”,当今推广并复古主流车载贪图硬件,兼容多种主流操作系统,适配多个车载芯片的部署平台。 商汤绝影称 HyperPPL 针对车载多东谈主场景进行优化,使得车内多东谈主并发情况下,车端多模态大