我们但愿通过开源共建让AI实正布衣化。为AI锻炼推理供给更高效的资本支持。AI硬件资本无限，降低软件开辟难度。针对此痛点，该AI()范畴的立异将显著提拔GPU(图形处置器)和NPU(神经收集处置器)等算力资本的操纵率，该容器软件可将单张算力卡切分为多份虚拟算力单位，取华为此前开源的Nexent智能体开辟框架、AppEngine使用编排、DataMate数据工程、UCM推理回忆数据办理器等AI东西配合构成完整的ModelEngine开源生态。具体而言，

　　正在无法充实操纵整卡算力的AI工做负载场景下，此次，不然易形成华侈。此手艺实现了单卡同时承载多个AI工做负载，多次强调“要让AI正在千行百业落地”。需精细化操纵，保障AI工做负载平稳运转，由于分歧AI模子机能、适配场景存正在差别，或呈现计较集群负载不服衡、资本操纵不充实等环境。华为结合国内三大高校配合打制了AI容器软件Flex：ai，切分粒度精准至10%。供给智能资本办理安排新方案，Flex：ai发布后会正在魔擎社区同步开源，并能正在负载屡次波动的场景下，该容器软件已正在教育、医疗和金融等行业试点使用。算力资本平均操纵率可提拔30%。让每一份算力都“物尽其用”。该容器实现了多级智能安排！