AIC算力解决方案

基础设施层深度兼容英伟达和国内厂商 GPU，通过统一管理实现大模型在异构算力上的平滑迁移调度，同时支持 GPU 按照算力和显存声明式细粒度切分，提升 GPU 资源利用率。持续兼容 DeepSeek-R1、Qwen 等主流开源大模型，自定义模型功能支持部署垂域 AI 大模型及传统小模型，实现大小 AI 模型混合部署，并通过对并行调度器、推理缓存、负载均衡的性能优化、昇腾 NPU 定向优化，大幅提升大模型推理并发吞吐性能，让大模型越用 ROI 越高。支持模型服务 API 多 Key 管理、token 级别监控、服务限流能力及用量观测看板。支持模型微调训练等能力，降低大模型使用门槛，并通过模型动态加密保障专属模型的知识产权，越用越安全。