WAIC 2024世界人工智能年夜会暨人工智能全球治理高级别会议正式拉开帷幕，面向世界渐渐展现人工智能手艺最前沿的理念和功效。九章云极DataCanvas公司董事长方磊受邀加入年夜会揭幕式，并在“迈向AGI：年夜模子焕新与财产赋能”论坛颁发主题演讲，分享最新智算财产洞见。

“迈向AGI：年夜模子焕新与财产赋能”论坛作为WAIC 2024的主要主题论坛，由中国信通院承办，论坛定位为“AI年夜模子顶尖嘉会”，约请人工智能范畴国表里知名院士、科技圈网红年夜咖，和阿里云、九章云极DataCanvas公司等业内领军企业魁首，和顶尖高校与科研机构专家，与来自行业主管部分、国度尝试室、国际组织等各界重磅佳宾齐聚一堂，共探年夜模子驱动新质出产力成长的新潜能。

九章云极DataCanvas公司董事长方磊颁发演讲

方磊受邀颁发《智算操作系统——迎接软件界说算力的新世界》主题演讲，传教“智算操作系统”这一智算中间刚需的AI软件，揭示人工智能根本软件在算力经济时期的冲破立异和无穷可能。

智算操作系统——构建上下流算力消纳生态，普惠算力时期“新解”

智算中间作为我国AI根本举措措施扶植新邦畿，正在AI生态链前所有未的凝集力下加快扶植历程。跟着年夜模子的全平易近体验普和、行业年夜模子的爆发，若何为算力利用者高效输出更好的算力资本的同时释放智算经济价值，成为当下智算中间面对的多样挑战。

算力用户的矫捷需求慢慢增添，GPU利用效力急需晋升，智算中间没法仅经由过程裸金属做到 “可怀抱、可切分、可转换”的算力来精准匹配消费需求。在硬件同质化趋向下，感化在硬件之上的AI软件就成了智算“新解”。智算操作系统，作为智算时期立异进级的AI软件产品，不只是传统意义上硬件和软件的桥接，更是构建上下流算力消纳生态、助力AI行业成长的要害一环。

那末，高机能的智算操作系统面对哪些挑战，又该当具有何种机能？

方磊介绍，新一轮的底层计较变化由年夜模子的突起而激发，高速矫捷算法的需乞降底层相对固定硬件的匹配成为智算操作系统的焦点挑战。新时期的智算操作系统面对异构算例资本纳管坚苦，年夜范围集群算力调剂能力不足、操纵率低，AI加快优化能力不足，和AI年夜模子练习微调门坎高档复合挑战。是以，这一高度工程化的操作系统研发仍有较高门坎，需要成熟、尺度化的AI产物直击痛点。

九章云极DataCanvas公司董事长方磊颁发演讲

另外，跟着AI行业的迅猛成长，行业信息差的加快消弭，区分在经由过程购租“裸金属”取得算力的单一体例，将来算力将作为社会遍及的“资本”，以“好用，用好”的普惠形态办事算力消费者。构建可延续成长的上下流算力消纳生态，需要AI根本硬件、AI根本软件和年夜模子利用的配合成长促进，此中作为AI根本软件的智算操作系统在中心层将阐扬相当主要的变化感化。

Alaya NeW智算操作系统——全栈AI立异，鞭策AI手艺繁华

凭仗九章云极DataCanvas公司十余年在人工智能平台、“通识+财产”年夜模子矩阵和前沿Agent智能体的AI软件产物实力积淀和行业理解，内置算力治理内核、人工智能办事、年夜模子和智能体的Alaya NeW智算操作系统，经由过程自上而下的一体化立异，直击痛点，加快赋能智算中间成长。

●NeW Architecture面向AI的新软硬一体架构

Alaya NeW凭仗进步前辈的异构纳管手艺实现周全撑持各厂家GPU算力，经由过程高机能的IB、RoCE收集架构设置装备摆设优化的收集调集通信算法，专为年夜模子设计的高机能存储举措措施，和Serverless弹性高机能计较架构，全透明的资本调剂治理，让用户得以从硬件资本治理中抽身、只专注AI焦点练习和推理使命。

●NeW Kernel进步前辈的AIDC OS系统内核

Alaya NeW实现了跨中间算力智能调剂，设置全功能Kernel和轻量Kernel来周全纳管分歧类型算力中间和集群；面向年夜模子使命，Alaya NeW供给专用调剂算法和策略，并经由过程故障感知、拓扑感知调剂、GANG调剂、动态公允调剂等能力实现更进一步的调剂优化，周全晋升算力可用性。

●NeW Storage专为年夜模子设计的存储举措措施

Alaya NeW为年夜模子需求匹配壮大的逾越多智算中间的数据平台NeW Dingo，经由过程多中间存储、语料专用紧缩算法、文件系统物化视图、文件系统与向量数据库融会、原生平安策略等存储手艺，不但实现70%-90%的空间节流，50%的收集IO节流，其语料处置速度同时晋升高达10倍。

●LM Infra年夜模子根本举措措施

Alaya NeW经由过程开箱即用的高机能模子练习和推理办事（经由过程算法加快、编译优化、内存优化、通讯加快实现练习效力晋升100%、GPU操纵率晋升50%、推理速度晋升4倍），平安的高机能私有化模子仓库，和动态模子推理办事和资本同享，成为高机能、高可用的年夜模子软件根本举措措施。

●NeW AgentTeam Up on Demand

A开云applaya NeW内置壮大的Foundation Agent基座，周全撑持常识治理、数据阐发、多模态智能体开辟；完全的Agent开辟东西链，面向开源社区高度兼容和开放；撑持一键摆设Agent，和弹性、矫捷的运行时情况撑持，为多样化Agent在各行业营业场景利用按下加快键。

方磊指出，Alaya NeW可谓是划时期的前沿人工智能手艺融会立异之作。Alaya NeW供给史无前例的交互模式，从Infra到Agent的各层AI能力，Alaya NeW都可以或许以便捷交互的操作系统情势显现。Alaya NeW不再是简单的AI软件，不单可以或许操作算力的纳管、调剂、调优，它更是一个或一组Agent，用户经由过程简单的交互指令便可实现复杂的年夜模子练习等AI使命，可以说是用户专属的“数字化人工智能专家团队”。Alaya NeW正在经由过程全新的交互变化，打破年夜模子和Agent利用壁垒。

中国始终积极拥抱智能变化，鼎力推动人工智能立异成长。九章云极DataCanvas公司的智算操作系统产物，恰是公司十余年立异人工智能根本软件研发和办事的又一力证，将来，公司将以Alaya NeW智算操作系统为抓手，与人工智能生态火伴加快构建稳健可延续的智算财产生态，为我国智算经济成长输出自立立异的AI动力！