2024人工智能 预训练模型第3部分：服务能力.docx

《2024人工智能 预训练模型第3部分：服务能力.docx》由会员分享，可在线阅读，更多相关《2024人工智能 预训练模型第3部分：服务能力.docx（25页珍藏版）》请在课桌文档上搜索。

1、人工智能预训练模型第3部分:服务能力成熟度评估.目次朝WIV引WV1MS12馔怒性引用工件一131.Q*w*w*w*14绿略i?J25W1.tEm!-em!-te-S2IJ9fv9f*-t(.一*ffvee*-.,，.，.一.，&3Mfi1.tfrU7成劣度珅级费或及刈定U1 *三*三tMttaHBMM*tt(taMm*I47.2 Mmiiif1.t-U7.3 /H优化展IS7.4 内定文生产热16IHR1.iI孤帙曳匕成为人工虢使MIW的中空技术FrM在用较产业堂革中发体.0作附.阳内外多企业和研究机杓IH融开发自余神州转嫁模型产丛初评月榜单.Sm附户不以评价业内产M的技术内T和国务使力.C

2、RTXXXXXH在规定我用依调缭楔型的技术要求.许泅fti标和联务能力,四中：德分构成，一涌1尊分，通用要求，H的在于定义切备或使用大戏校KiT炼银卒的人I：那能能蜕的技术辔净梁椅和相关方活动,并提出通用住术妥求.绷2筋分：W;鞘指M、方法.H的在f定义收训域检中制内容，指标班贸和评方法.图3新分：版务俺力或拈收讨估,H的在尸定又夫爆悔Kv练悔察版多价力成出收Ht,*某.城定k蝗检ftid机察眼务的培力辿求、成熟收等筑及W信方法.人工智能预训练模型第3部分：服务能力成熟度评估1袋困东N件班出f侑“然鹏国务俭力阳策和糙热度学洸媛定f攸Mift线电低分能力许估指标和评忖力法.木N件电用于麻务提伙力

3、和关求方对付“施制型W：陵件邛台,慢牛定切及推理运开吼务的度力进行全hftt.也可你为揖？瞋训练校生取务能力建设同的规划.设计和实现,2规孩性引用文件下丸文件中的内灌血过文中的燃荒IHI利浦构成本女竹必不可少的条款.R中.在HMJ的qMJN件,ttiMI朝对鹿的假木辽也尸木文f不注U1.H的引网文忤,孔最初代不（乜括所仃的惚线体）送用广本女件.Gft-T41t67-2022伯尼技术AXWftt术昭CBZTIUXX2O2X.I人工W陡双训味银整第I傀分通用要求3术偌和定义QVI8672022.CB/TXXX112tt2X.1界定的以及下列本请和定义运对于本文件.预讥第H禁平台pm-trirdno

4、d1.ptforv为开发或使用拓缘般说松供各英变深的软硬在Id“妗&立,台不假调药懵中.3.2预1.t模型系炊pre-trainedMe1.ystM依训城权型与依国维校史平台的理成.与预训处校生里务相关的湎动.过程等的柒言以及缎加美曲校公能力子项的史合,3.3型谶符pre-trainedfwde1.service，侬、戌的稹，母般P及传iiJ三里乐我的照寿以及MftMF或提供上持褥求力业务涵M的晟多.比：trWi1tWRrtW三.情调的校F/A1.5.游内故2开侬:融展务HU腾族汇擀浜制服务.1-21.12.Z1.有修效TA三accessibiIitytoo1.kitJ1.1.f文博RiM练傥

5、号开发、定初及块用的软件集介.卬$W1.BCn13W2:2016.26jtt)下列痴略诩壮H1.T沐文ft.U:AXVfit(Artificia1.InSnf的nc)CFU:中央H8单元(Centra1.ProcessingUn1.1.)IX点双信战北冷同步动右随机存储比：新加比特以太网(GieabitEtbornet)RUF耻rA炎氏传的j化学习(ReinforccirntIdIn1.iZfrSAS:印行SCSI(Seria1.AttachedSCSI)STQ:中行Mj热技术附件(SJa1,WvrpdTechno1.ogytttw1.0rviatdFine-*7uning)55.1预正幡横型

6、檄务笑型但“施用不服务包括型轨流件Tf；服务.但，孤出R开发出现K芬.fW雄侵型推理改死用雇务,兄费1表1独讥嫉模型加务类型说明XMWrMarWttHHMwrtKur等）钱力*用AUI悔HJP必灯;C加力力/Ift入.N仙科92把由拈木家给及凌阳活动，依足方方在性健、米等与面的求.5.2M%f力Ki为开发定川能力1.梃供笈N热怆V设计、开发及定WIH务的能力,口务效描.校以生产定W2个邂力子域：c）怆不报Wg用城：基F预川珠榄不及K氟枝男供推H或送伸眼务的能力,包括他“捶理、应用Tfr.11tttt3个能力/我IIIIIn力工发fM能力了A1.轨理件VR*1111.AItW强复M珞母网i1.晚

7、冬W1KbMM:5TWHrtiE，隹金”-IAaNniM,*fJU1.1.M的MHInSHtFHI-MMm:脸用Kf1.am丁if【：V出区合*制tMm,MM.111.1.TcIf*1.W8hj一M，.W.&WWMM.此用性MWtt也A格式对.中横生开败别ftt11A11if1.v1C帙曼上户定加W1S1.QIt板F调第m,3ftMRVJKttRf1.*fma11frw惶也wAnIftk力用雁AU务小月里务及事找笊里务定惟一支tm，印CrtWHcMM:i文.正文文本MMMss:531成依施普级划分及刘定收训妙施V服务能力成拈以筹级划分为能胞务能力侑优化和成热度专线的抱升应通过渐近的方式实理.A

8、Uet基秘应用假至3修自定义生产融殊W罐横个基KiH木夔灿步款.做务U杂收正步提升.定“化耗力也令,成余度谦步帝裔扬等城分为达础能力要求和用“肥力要求,而向涉足的战阳场.公诉加附腐要求.但训城校整服务能力.X双能力直城.脩力了嫉龙州收分圾评分处表3根密和色侑相反的成熟度得分.劝阻相应的服务能力成为收1+级，un.f1.noUttHtt1.华“GWa化电力.E网已“HHI%快FhG调电优化，EMfi1.i1.写校”常用的钻H怜WtaS11.ItHF警，WhftM1：W.GJ1.WffffiWOWrEH.Yu):1格式CSm:01VKOKrthd:OW532能力成熟Ii分般规则做务他力城然攻分级可

9、乘用计分机化的方火追打.服务他力成赛I度等然的评分可至号如下公式.U中.外能力匕域即能力广域的W分可分岗适用和为公式遇打讨伍：H）限於度?俎和分fc（T力王总k肋主”靴直M片中.伍力卡域k为构成成拈收Vf信备考大的碓力卡城.）健力1九k叱度得分E,(RDfMIiRt)三1.1.)K中.能力于域j为能力土城MF的健力子域.c）能力f&J收病发初分3fRM够枸电服务对能力fM的各个f卜善个技术要求的谪世&5.33卷力项投雉收下做务&款预调第机软班件干白也务、KiI1.练构不开发定御祖务.K山炼榜中报界反应用策方.策务组会包括M盟梃伏RH1.株IeP收段件Tft寮号都孜”娘校壁开妞M1.1.1.分.

10、和双供全密家务，H体见我使用成购趣ifM梗Etft应收用不阿的限务嫄务界I含类型6定不何的健力夕炊及松女,构建不同的能力子项济估费素，*4疹训练楂出那务及题为组合X也加Stcc11ri5付“蟋粮型开发定切当慢包Hg定量1、anMM:相中3f*11MMtttt1.cH1.iIsX?!Wt1.*IM11w.ft*tawMM:川中*1,Ip1.fiu1.能履布K健Nf色3#.WiIMW里开发定M隆务.fi111维检型IW员限用*务收依什平台.他气科及定切.检型如R阿玷禽1/3.1/3.1/3、naA1AMm.(W中ftVX(Mss;(W中6注估指标61劫:硬件邛台6.1.1硬件&1._6.1.1.1

11、 计真费源依训场M平台的计式债源.杉门以下奏求，用于T缪任务的计W设冬应符合CWf42018202K1.1.I和&1.2.1规定的安求Yn曲Y3,费劣/MU!Y:火2用于推理任务的计算设备,应符合T420IgW26.1.1.2.6.1.Z,26.1.3瓶定的襄乐tJiIf拄比任务的计尽冬务.宜通拮.根生11gi:s6.1.1.2 河路毋源修训WVTH的网络资源.歌回以F於求：、2冏f5fUU的电数/阿络桓支持23712,MwE愫”锹宽.劫速匕撑谢炼仃亿匕万一髻一极型；b）血友外名租户小网图离能力.Zd汕dNR传三U安3c）应支折枝踣聚台.（IIPeer-1.ink.UCP哈（0寅支外跨役番健路

12、聚合电（M-IX）.契务较路可窜性I/除|Y.C|：nn8偿At耳校柒支界井”5叼,实现修iftfrmfr三11tr:MY2,用/班皆Mt1.与次高偏必知任沏的计Wr*.W）TM也不败1185除Y4xImFM实力性复求量的11?!任务的计歹我.mYWn坳出廿及在不超过jn除IYgM1.捡务FCaIft。中木D石吐点不值TSToktfrci*s“院Y3出火MY应实现敏能即本或也,吗冗余策。次孰租户皱85、Quotas用户认证城,业务网段的铢内：d）应支持向，效|KJ1千亿Q以卜帮教IgP”糠显阳中玉珠1.K瑾文竹也也同，立下的收3。分冲.11干，及以卜号收械4谢株理程中cxkpoinN件保时Ii

13、Mzf1.过15分钟.明YUSMI：R明丫3,|:及黄恪川YMu叶K1.Mtt:字论W中，3懦字11.i).r11:.4J三n4W字灯.无照H11*)jcm除晔I：612小及工兵健能力一w-1：6121&MIAY依训掩检依平何出也续IJX.n/以卜妥求:Ia）应允许朋户“定义新的模型呢、投失的数.优化送等娟件：b）底一供或则横训假性能分析工”：c）丁规仇训行；汶阳0控WUXidMtfe,酋助加f训纸俣奥谢曲做Mii_.Y4仪/侑&TR111ftQH户j（f殳电R.同对甯定用班护更避引入於抬H,_.c）ft0nKM.WHtttt!te及曲匕同酎宾尼砒中史新岁入芟物&，1）支油收据加彼和依处理名步

14、井忏或水仪：2）支持收猊门功敏机炳找：3）支持单皆点缀“：OMA：外全AM并行幽，松擀的M4帙里加杀时发.力代家配设并行绿路，自动生成分成并行第外cN一扑RHt维伊垠C方根域U1.第.域勒向贼屎6122ftttSTMI:Yum:以杈伤谓，KW或皎剑U志业功得：W1.fe川叼侑恒也博中谓母、MHW.Bi训练检敌千台的（HR处屋工,扑合加卜仁求：ffiftf1.EH.包在如下嘤求：n应”备改擀址为谙器津我：21宣支持施令IUK的白印虫成和标注，W超提供数法功能,并提供侬操件示例，c）宣松供数据标注或豪.电戊A1.根系实现门动IJ1.标注d*提怏多步并行淞木纹机M支持依此加毁ICftht耳：a巾挑佻

15、单，：匕筑绒。技木的训殊故找处Rja”极短.MN.Yvin:它丸&调赛M熊分N1.：U：W除Y4n:收1.&21J1.*制格式Y4fuu.3tfiVcIJah.自解何IEn值:0H.段后：0V.*ARU*).髭附齐*4X0宗汾.左对齐.*乡境戕/给。K-h,c.*tM.I“齐力/&*miM-T5HX.*i!RM-14.9之代格式YMuc:提条MM.11WWttTM碌.6.1.2.3E调工具fi74tt,nnv!*f1.jBmgmg1.ZjEM向弟5面向修训饿极2培构的噌Ga法用.5TIM吱rBi口法用学|址aaf1.mgma支持口动四收Si闺野Ff1.St依W战抵然也兜出灿盘以今以仅I1.地上

16、芽收M4：,皎TN等她微Ui此MmXWVftWHira,ftSC：ha)n幽/说AyI-IK力MMB2MVttiett*U*M4?,舞向加。4N展引场冷WRVM1.N1.TZdIgrnA1虫s小，Ni裁MIsVMVMJ1kWWMMttU!WUIiMf三QV1.印制*劝货”?N海=W!W*151qJiWYW9三wwwq,Ym求WW夕或诉IftBM加加海：野利3隅出Jift我丁附（U：*通U用#H,M工训讪-A-MUHiS*9ZIb*一郎&现福用川草MH通WB何AWJN-MWfiI1.-WWtfy如名不K也出“找海计彳猊,如总用部*期双时力而净处到UW山柚。5M小帝窿比耶彳GE)“支”I酶华*-V

17、Z1.MA0：值劭KfM%/小wMJT0MNswmpmbo1WfN果本Wi1.M史受竺吧XMqVKX小七式TAiHIV?伪SQYMWtfs11三S-rqtryMC4f!：*V权W.H1.#8*必我伊:MkMre1.。：95明(WUMWCJtt-)M八041.*MytM01.J旧KWAWHWH!MW*，一号W1.UrtM4ftWWWViri3旧人隰I”NMIi：I*6WIwWhJiMi*WW*i”二U.1.包侬UuKiw,4#I#啪耳WfaI物M1.1rVWUWTM峡一I!料玉用百：*描，川司W工W4&娥HWi1.乡4再沿蝌M明工46过-StSZ9A-朋中*切丁，曲灶主薪田打1.U/K&MRJ京

18、谛依Mgk翼句（尊：H明鎏祝科林7维当山球我牡、四球抖H境,号IWg小即出JZittWTCMZW9沿淞羽由彝猛正出淞MdN若承劭M融因乐烈出7会8余翌、用WX1.ir）BWWHSR牛1府好笑觥S*NIKiiiZ处1漏诊时枭巾，战薪训部手0:M中第WIn忖H加班牛德他f、知肘V制物IJIhJHWfTMBt*9FW(Qaa-nWidwwawwbwKwW:P:阳W戏沿2“、刀力以不mwMYStfMWftUSTH%K.3oA1.y0H匕)覆8qcyA*Jft白演X如4(UOtt：“岁网引DUf,tt5WW4WWW(w-)1W6*曲fE-AiyM85小MWQ,1.aW11UWHY8%在出料而既M至潘.U

19、W好3H：I上弘牯帝期3人福诩专nnwtf!3J1.59飞三j三3、梆由N护1eIy可11三35MR9划&g?MKTSW5IWT亚可EYm，,.：FFimJU：iWT5W-：ii-35一一MIhiW1.1.r%JJJS-,7WWWtbTWIrTnJwTrSraIJTraWwuWnITrV*!渥一”一x)uu%c报不r8FHWWCW5TBTSWT11UWWSKWWEK?祁F次BW丫、&。27$屯忖戈制#R1.mMi,日R女变WiH枢r币cN之孙曜，曲以的W估：应用H归和用W段计W估计划：一CttttHiFM:提供专宗交比冲向,支杆少京供并输出旗吊613军台外台能力6131爱容性”训地检察平白版容

20、性S於如下要求，助应支持C接I】媒公用按传范平白：b1.2城*不同年东的桎r11H上宜嫡件化如此I法保障制U1.悔块、切的.小影胴现盯靡线的柒部性：Ii攵持井整容2神以上法度学习他架：I1.交小并箴*2酢以上授谢第大校里分加武计。加速库，双眼假木史物最新抬性.1Ot*t1.Sp?ed.取Wrufi1.M.U支将井收容2种以上模型加称.如0tnMMb.IIu1.iKintfFacc等：Q力沙。府U什荚空为梗1!叫烁Jai!ESM用HMN汁校f盼右什训饿的林叫对比,61.32可惶代训绦校祭平台可考性保用,林介以下4未,a)应玄扑音点城通仁不M用时.双川度新节点及含界处分通公金续H原任务：b法士外即

21、用对绥任方为名基根叫.丈孙自动恰端、附附故陛固热：保”故W的*/H：；.M(a：时旦曲hhcinr，从粉W精石慢H1.1.JX2船故依1.Zi1.ii1.欠/1进出石4&11耳以,设1必收公ft?在暨;&的V：B,遂免占先时心支持州性调壑福海，J1.法能帔拒摄工作负的变化,功左智整计算依源,如GpC业工QT、Mf短过门M化的版*分松IW攻机以便花川缥任务的小M饰0都能*痛软利用睁侪：仃亿卷数依训雄校生我牧的川越任务初定运行时间越过7天，wugi:iawm.IfMn皎仅依0所修贤热他比方端州名校飙源：砍除*U1.除衩Nx!制打N功;*！，4Y3,:Ht支持宋Hu1.级任务mi京4国,女的C功tt

22、.WW4W.以0R“他IRamg(IrU1.Ebgi3从IW淅/俄StehF匕卷做、力匕卷取我川练快不佻效的2珞任务核定运行时M&!过24小时：亿叁教修训梦检电食毂的谢筠任务故不侬或时间不超过1小时：F/攻、万亿多敢伏训炼模型仍级的谢练住务故的慎复M同不出过1小时J.蚓mw,61.3.3分布式并行优化但训域检察平台分右式并行优化健力.仍令以下较未Ia)应克特多和弁构暧件设备.软片&备.K备必挺壁运K驾迪鲤地2.陆|丫心&,|M%*.化b)Jfi支称分布式，“；伏亿CU侑R推蛆件.包瓶：分右式井竹训练推H板架、然度学习供里一号给、坦化通信界、咫妆化，制收现件：C)疑女拘联机步卡名机多卡环境卜的多

23、件我今分布K并行谢嫌，8械也不俵于&M并行.PiPfhnn并行.优化器,多副本并行等I0应交拮制机乡R名机名R环境下的分育式推1%。应克希软硬忤底门的高性废侑数处和弑和处里,如数据代读取.我媾分H等.6134留用性/M)d)e)r)崎y”门期廿米狂N冷屑【1.一,舱况佻可过化1：从或油作俎足以卜亚求：”幔义迭代伤测源1.JMa化：21穗小训蟒任然悠U在化IY*跄Y3*尚友仲,外之U工人,（SM仲不留I上9。I1.1.VttJ1.isue.,YaAr.1.1if1.uvu愧伟系/税衣n”kur中U1.nSKit冲Wf:怆阳平台援务：M媒伙推理训缪里务飘竹,inHK谢U的单H多卡U除.许jaKt信

24、可视化的虚惬山30理里多.组C行的数密滋、上科维法.爬坐他评估根块,仇文拜*和可视化内有.包N：1）支标多种可视化方式,知*依找用、地形图.3D图.我格，循示灯.曲线图.热力图32）支持不同物力性能Iftk就”比分析.如各次a雌俯米獭米,他失由收侦号的比条戏曲或I1.1.线憎第：3）H小M的女我矣电相格式提供的证的引极化炉糖如时冈字Wti猊侑找图.分类敦东的耕用.空河欧花的地图我小等：4）支持检整的照叶件可、化，带助用户理解祖里为何做山的定的展演，纲如将花JR变性.话因或热力用苗1.ttWKYh.!:我.卡短：MI4.K奄尔.IU田也0gX.4/楮.w字符.“中u%字行.6M3.瘴/豺：.不在

25、8行.无JnH亢与*号“就Y3,:亶段优UJ/化折格同iM*H务,加介各WtttW.Wft-Wtt.校am/优依族,除IYIK*七世识门域化外行川我喊I，除IYgMI：ff.fi除Y33:力信W供可祝化I.A4I5件温足以FW农：4性的指标“练恨型平性处在A侬崩求场坟中.W划过如卜希归酒附：D梅中述代Sga1.jeWamIb2）HKb1.程相器“杈（63模型ffi训除盯我计R健力单伫：FPSTPSq（）；M摊用M延、相咬及和叶率：C）西定及近馀楔也负期J训炼任务历定运行时间，d）先足!CiI炼根田负极的川母用咙也效成冬，代的冬与依描和朴充.6.2履堂开发定M1.3数寤能力在JI体坛;SF4能指

26、标的制试结果作力技语项.作现在酒试及在站果中.作为M务健力度独或怦/MMMm:人IEttI1.多：4娘生佗掰4同遇律国家“4（1.WW:冰务0品纨性佗测法理依）1籍Y2z:除力621.1数推接入校K开发定切的殷拒接入.符介如下要求，a）应支持从不同外松泵线摇入收抠.Wftp,美东收蛆叱h“hive、kafU：b1用“W个收黑O1.HgH敢以的%W历史.以，HGMMH总监剧：WftiZ.记录岐叔的特征、林餐.字段含义和岐树傕处理方法笥1.d）豆丈希多赛界构aw*wS的构化也柒。力的构化女本、图像.瑞齐的数M的U储.6.2.1.2数露处理数据处P1.符合以下要求，2置支持名种做死城以方式.国开收九

27、%“性：b）Ki三r.（或：应支持生少2种种世拊夕数擀的力法，5葩于大校契自动生成.人工标注:2）应能帙捻任务需求，明畴定义指做调任务的帆笠口电.：3）宣文小快用牛蛇和多粕对M加分欧嫩；0位兜佻指令敷描清洗方法.如去小提升楮令皎据成fib5）欢舞俱敷招好速处理引擎.1.1.?携*生的司肥力6.2.2.1模型设计依训地校本的贡计符合吸卜要:拈b)C)d)c)I)Q心支成及4；根瑁型构妁没汁，包/对根瑁图绪物、检”中包念的扬哂Mfig行QIh”提他校4设I帽&网络结杓槿*出庭旧修皎屿”处M和?Ii处理的按大功健支持匕H标的汹JgtAd-$：阳YM,.依IYICMI：支持受修收FY杓他戊讨.白祭不第

28、I训悔求中ti含曲山础Br遑行改计：MY3一止彼未设计就便依6M蹄窗构救*和3叱豹敢氟欧处0RiGttH豹袂4Qf1.fi.N抑8H标的M蜡彼书wa5*行赴Y2”:除阳MMI:I除IY1.gMI：RHanw4iWMn11j?.Wixaaft制造中晚也退却我比以不M依本他依禁性爱.格式IM“1：%PJXH.*:Vrt.:VC|1%uo在我GWHffjM化分配所安视地晚漫.：MIMmI：“电MMMMMm:及寅恪XqMM|:字怅中文)筌体南MM|:，MYw:邑J1.N全显皎GJAJ抬分务口外调技术.M5VaW4JWMtfMM.横恭刖媒贯文外忸索契恂投承,Wk段中的内（MhHh策有、Rr并行策略、自定

29、义通信算于井行颉略：R应文将多种做调方式,W适配次过利、指令似调、的学习、用川；的：1.超支N模型豉笥过程可神化,便于用户创建.宜行、管理EN设理，4；JZ3心SA上却逐HMjX仆上加Ad1.N木.JUI近文切对模型犁构遂行分块的设计：也会挎用3H发式桢中破缗/M加利用启发式怏中故编簟略.箫小校啦拽太空间：工支仲伸部4洛及索侑银史依编VW.通过相关方式瀚俄便型UT衢网路深哄,年度和分辨率从而用到更性的性能.f,盘”4ft?带廿7N,心杖刈*4.心一在戕微切.曲调时平的“劝化分虱班*拘巴依却；,.；F8fU中”U信谓；，心博”“，上的H也V1.1.*VMWVPVr支持面向首字这问的糠化,幻断化子

30、图融分、疗效&四肃式竹输：IOeW-持计时特定任务和班曲联状翁件相搂ii/定制优化:0*上扬小曳化过科的“用化和Ii差使洋蕨慢电岭处为过料制如开仁帙电大小、推i1.喧和精吱须失牙关辕拊你.6225模型桧江f训域检察的小任,符合如下以表Ia）应支持校察效果伴彷,M支好用户在她上传费试集城行效果件彷并能生成件俗数告Ib）应支持栗用多种枕索亚科指.如MCIOC,/确本.“网充第娜信箱杯；：c）这支持提供粮也济估中发现Jt得册决的用包,供用户优化模也：d）疑批供而向倒用族检电编试或使用亚次（含数树和收通指标），支持快速轮UT蟆型.6.1 2.6MfiM依训域校察的都*符合以下亶求Ia1应支持在分布式运行环境中卸*宣支持在E功和名区捡并耳坳中端*：b）VI支将怎Y多种精度（to1.FP16,JXT8等）的怆很：。M支”4虎掰环境（如混、虚陀机伤，：d） M支为自定式怅拜逻辄按人分布式推并用整：乃宣女收税置动态it尺J加IChMJ和动态分器事的范根|。Tt克特。我柒无关的校火彩身I力宣文持检见即根痂不同的皎片环境和应用案未.烛界坛行奴净Jtt住的的比堀检7版本Ih）在W1.急或才