當前,以大模型為代表的通用智能技術發展浪潮對現有人工智能軟硬件支撐體系帶來新挑戰新需求,人工智能軟硬件系統更加強調應用、算法、關鍵軟件棧、底層硬件全方位協同發展,亟需推動標準化的兼容適配與系統化的協同創新。在此背景下,人工智能關鍵技術和應用評測工業和信息化部重點實驗室人工智能基礎軟硬件工作組(以下簡稱“工作組”)與中國信息通信研究院圍繞軟硬件標準化兼容適配、面向典型任務場景的系統能力等方面開展標準編制工作,促進大模型、開發框架及平臺、底層軟件棧、人工智能芯片、智能計算集群等基礎軟硬件協同創新發展。
標準編制工作主要圍繞兩方面開展:一是通過制定軟硬件接口要求及遷移適配技術標準,降低不同芯片之間模型適配的成本;二是面向云端訓練、云端推理、高性能計算等場景需求,制定端到端的人工智能軟硬件系統能力技術要求及測評規范,客觀評估軟硬件各層級協同優化水平,推動訓推系統整體能力提升。
目前,AISHPerf(Performance Benchmarks of Artificial Intelligence Software and Hardware)人工智能軟硬件基準及標準編制工作已有30余家單位共同參與,覆蓋芯片、框架、算法、平臺、應用產業鏈多環節領軍主體,現持續征集標準參編單位,并啟動工作組副組長單位申報和第二批成員單位報名工作,共同推動我國人工智能基礎軟硬件協同創新與生態建設。
(來源:中國信通院CAICT)