本报讯(记者矫月)近日，中国信息通信研究院(以下简称“中国信通院”)完成可信AI《大模型推理平台通用能力成熟度》首轮评估。商汤大装置万象大模型开发平台，获得当前最高评级——4+级，并成为国内首家获得最高评级的大模型推理平台。
中国信通院依托人工智能关键技术和应用评测工业和信息化部重点实验室、中国人工智能产业发展联盟AI Infra工作组，联合七十余家单位共同编制了《大模型推理平台技术要求》标准，并依托该标准开展可信AI大模型推理平台首批评估。该评估聚焦大模型推理平台的功能、性能、稳定性，关注部署、推理、服务与管理环节，以实现低时延、高吞吐、可扩展、高易用、低成本目标。本次共评估88个能力项，其中基本功能34项，高级功能54项。
结果显示，商汤大装置的万象大模型开发平台在模型的部署、推理、服务环节均表现优异，可为开发者提供高性价比、灵活易用的服务，配备前沿模型、算法、推理引擎、知识库等套件，助力开发者快速构建行业模型及应用编排。
商汤大装置万象大模型开发平台提供从大模型开发到应用构建的全链条开发工具，为企业大模型落地提供一站式高效服务。该平台可兼容GPU、NPU等异构推理加速卡；其内置自研高效推理引擎，降低推理成本50%以上；同时，具备完善的安全机制，为企业大模型落地提供安全保障。
目前，商汤大装置万象大模型开发平台已在交通、消费、政务、自动驾驶、智能家居、医疗等多个行业多种业务场景中落地。
途乐证券提示：文章来自网络，不代表本站观点。
