2024基础模型的负责任开源-超越开源闭源的二元对立:负责任开源的内涵、实践与方案报告.docx
基础模型的负责任开源超越开源闭源的二元对立:负责任开源的内涵.实践与方案安远A1.北京大学人工智能研究院/北京大学武汉人工智能研究院北京通用人工智能研究院/A2024年4月执行#要1.开源片91巳成为包新的重要塞动垃一根据斯坦福格2024年A1.指数报告1,2023年全球息共发布了143个基础模型,比2022年发布的数翻了一倍还多,祖更高捌是开的。在这些新发布的模型中,有65.7%是开源的,相上之下,2022年只有44.4%,2021年只有33.3%的模型是开源的。根据全球开源社区HUggingFaCe的调研2,Uama1.利1.1.amaZ1.I在已值轴了3万个哥So多位专家预计,即将推出的Uama340OB将会是“首GPT4级别的开源模型。2 .如何海开期1已成为短期内真的未解决议之一本报告从安全治的肥探讨开3的政策和实H在制定相关政策时,各国需要综合考虑促进创新生发、技术的安全性与可控性、隐私保护、知识产权、伦理与责任、国际合作与标准制定,市场竞争环境、教育与公众参与等多个董这些维度与各国的战略考虑及监管取向相结合,共同构成了开源A1.的治理政策框架。全球范ES内,许多国家和地区,包括欧盟、美国、英国、法国、中国以及其他全球南覆家,都在积极制定A1.相关政策,开源内也成为多事政策探索的铁心尽管这些政策旨在平衡技术发展与安全需求,在监管取向和具体条款的设计上存在显著差异,这部分原因是由政策制定过程中缺乏关于血、收益及潸在影响的严谨证据。3 .前沿AI开源的主要争论领先的基础模型研发机构近年决定开源其模型或限制对其模型的访问,引发了关于是否以及如何开放能回增强的区础模型的争论。我们识别了两种主要士扬:*审慎开放的倡导者,他们担,谢沿A1.开源成为潜在不安全技术不彳逆,的,并主张在确保安全的星批上逐步推进开放;另KI1.是mIa开放的支寺者,他们认为前沿A1.开源是保时技术借任的一,径,强调开放性对于促进创新和透明度的重要性,并反对过度限制的做法。尽管在血与收益的评估、开源放、安保措施以及监管政策等方旃在分歧,(&两0认同开放住在推动技术利促建社会福祉*作用,以及沿A1.开源的潜在O,主费在开W座果M必要的评答安全辖此外,从企业视f滑.有关开源和闭源的讨论和实践*少*1»相宜利注的.'StanfordHAI.-2024A1.IrKJeXReport".2024-04-15.2C1.emDe1.angue1-Uama3Isofficia1.1.ythefastestmode1.fromre1.easeto»1trendingonHuggingFace-inJUStafewhours/.2024-04-13.4 .三U简单化的开放与封闭"论虽然开放基册模型带来了发展与安全之间的紧张关系不可能完全消除,但我们IHnR单化的*接角,探索更丰富的夏布政策设计空间.将A1.模型简单地划分为开源或闭源是一种过于简化的做法。开源A1.的概念尚未得到清晰定义,与开源软件不同,A1.模型的一源代图可能包括多种组件,这些组件的开放程度可以各异。此外,从“完全开放”到“完全封闭”的发布选项实际上是多样的,需要明确的标准和定义来权衡透明性、安全性和商业考°根据多个f饯的安全和治理评测,我们依然程得到开放或封闭模型哪个:有明显优势的结论.综合模型安全性评制,开放模型和封闭模型均显就对各种攻击的脆弱性。A1.研发机构治理评测指出,懊向于开放模型的机构和倾向于封闭模型的机构各有所口«)责任发布:更广义的负责任开源负责任开源之二:负贵任开源之一:在封闭发布中探索实现开源皆效收减的替代方IB俣进开放发布从构建到使用的全流程负费任实践I三wff1.IIR的AP1.访国牧可用权,、代叫Q败露可用开MH度无筌闲RIM的枚.KSIOMtB可用例FUEintOPtCPT-4MIGoog1.e)(Inf1.ea1.on1.(OpcnM)GPT-35(OpcnA1.I1.1.ama2B1.ooM2CPTNkmIMfm(Bqkxnce)(E1.cuthMU)开放基砒覆里本报告的讨论苑制设定参考了斯坦福将基础模型研究中,曲.开放基础模型”概念图35 .推动*"(量负责任开源的务实用开源是科学和创新的重要驱动A,但同时需要权衡其潜在½,对未来更强的前沿A1.不同程度开源可能弓I入更X的潜在区。因此.我们建议推动位责任开源,这包括两个层立:第一,促进开放发布从构便月的全g负责任实建议根据基础横型的痴周期H程阶段,设计构建和使肺段的负责任开源维度,并针对不同能那别的模型制定差异化的负责任开源要求。例如对于将数A1.模型,负责任主要体现在提施明度、晌保合规和促进创新。而1于能力2三:强的前沿模型,需要实施与模型的潜在聿相称的评测和安全端解措施3RishiBommasameta1.eConskferatKjnsforGoverningOpenFoundationMode1.s",2023-12-13,执行要第二,在封匍发布中爆家实惠开爆等效收款的代琮.建设开发者应考虑开源的曾佑案,在获得技术和社会效益的同时,毁有太龙勺匚脸。包括为受信任的研究原提供结树匕访问,以帮助识别安全或道德缺陷,封励独遂三邠审核等。虽然产格Jt史上或1讨论的是“负费任发布,但我们希望通过突出负责任开源微念,推动开源A1.安全治理的讨论,并促进负责任开源实践的发展。4.岫四类序郦体和国际合作分期提出我本报告是为中国的研发机构、Ai开霖社区、AM三MK三*.A1.投K掠置助方耳的,其用是作为基酬模型的负责任开源的决策和实践的参考。我们的励相关机构和专家迸力探讨负责任开源的内涵,实施负责任的开源实践和方机SUn身在全球JM1.内开合*,通过负责任开源助俄展中国家提升A1.技术和治理能力,推动形成具有E共识的息地模型治理框架和标准规范。开源A1.的负责任实蹑并非成不变,癌会随着技术发展和社会需求的变化而FBi演进。可以预口,未来开源与闭源的讨论将加深邓细化,可能会出现多创新的发布横和治理机制,以适应不断变化的环境和挑战。在这个过程中,各碱合作和对话将涿重要C术语定义本报mmuu负责任开(机学习Kf1.Uf1.关术语,主”斯坦福旭、ff*三ft: *Mf1.(FoundationMode1.):在规模广乏数据上训练的模型,使其可以适应广乏的下游任务:国内外学界通常简称为"型"。Ma开褰融开放相关术语,主”青俎福犬氏将研究机构: 开舞AI(OPen-SoUr8AI):概念尚未得到清晰定义,不同机构都脂来表示F同程度的“公开可用;开放源代码促进会(OSI)等机构正致,才明确定义开源AI。 开放8t(0PenFoundationMode1.s):基础模型在发布时,其权重是S可的:不严格区分时,也会称为一开源基础模型开放模型“开源模型。 Mm*Mf1.(C06edFoundationMode1.s):基梯模型在发布时.其权茂不是广泛可用,可能受一定限制或完全封闭:不严格区分时,也会称为“闭源基础模型封闭模型”“闭源模型"受限模型'。 负责任开源(ReePOEweOpefvSource):开源项率维护者和贡献者在开源过程中遵循一定的道德和法律标准,物保技术的构建和发布对社会和个媳安全和有益的,这可能包括安全性、透明度、可访问性、包容性、合规性、社区治理和转和创新影响等方面皿能那关术语,主摩AI安全峰会、沿m论坛: 沿AI(FmntierAJ):谶加通恻模型,能执行至的任务,并达到或貂过当今最先进模型的能力,最常必是基础模型,提供了最多的机遇但也带来了新的陶Etiift相关术语,主要”啜旭研究机构: 灾住CM(CateSfrophfcRfek):用可筋发物事件或过程,若发导致全球约10%或:三E多人口次生,或造成类似损害。致谢本报告的主要贯前者:安远A1.:琉(主要撰写人)、谢旻希、程远、段难文匕京大学人工皆爱研究院:杨耀东北京澄武汉大国能研究院:享凌云t京通用人工智能研究院:鼻思源感谢北京通用江智能研究院院口北京格人E智能研究院院松我教授,北京将座能研究院人I智幡安全与治理中,法任、北京格武汉N:智修研究院副院口长平教授.给予的悉,格导和宝贵建议_。播谢安远A1.伙伴潘汉口张玲、王婚闻内容的贡献。酸车滥金11各EHI极度布相关神,开M分取向不同11.1 欧盟皆Ai法案3创全球倒全面U监管法.设独特开源骼免规定11.2 美国至£AI彳油命令3关注广泛可滕模型权重所带来的挑战31.3 英国政策即谨慎对待开放与封闭之争,防范监管捕获G1.4 法国将开源A1.作为其“创新优先”发展A1.的核,液略之一71.5 中国工智能法的两份专家建议稿对开源问您做不同处理31 .G其他全球南苗家獭A1.匚磴与收益研究,以开放科学应对全球发展111.7d122 仅开放VB题开放,沿A1.开的主要争论132.1 争论主要在于前沿A1.的黑曲失控挈132.2 立场一:审慎开放,防范端的开放US须标准更是152.3 寸扬二:褪开放,边际子的严谨证据仍相当有限132.4 两种的的异同点242.5 争论之外的源三:是否开源主要取决于商业考量252.G/JS2G3开V8用案,是说的工法273.1 不周于开源软件,开源AI的概念尚未得到清晰定义273.2 从完全开放到完全封闭1之间存在多种模型发布选项233.3 基础模型安全性评测:开放VS封闭模型均显础对各种攻击的脆弱性333.4 A1.研发机构治理评测:顿向于开放VS封闭模型的机构各有所口383.5 负责任开源之一:促进开放发布从构建到使躺全流程负贡任实践433.6 负责任开源之二:在封闭发布中探索实现开源等效收益的替代像433.7 结534对推动负责任用!(的议404.1 基讹模型研发机构GO4.2 A1.开源社区G14.3 A1.治理、政策和限专家G24.4 A1.投资承资助方G34.5 负责任开源的国际合作G3V1.1各国积极发布基础模型相关政策,开源部分取向不同我认为,如何监管开源人I智能,是短期内最重要的未解决问题。i1.1.口库斯(GaryMarkus)Davx1.Harns.,Open-SourceA1.IsUnique1.yDangerous*,2024-01-12.EuropeanPar1.iamenteAHificiaIInte1.1.igenceAct,2024-04-23(IMHW),0GanVOiPiCe.PowergrabbyFrance.GermanyandIta1.ytrv,eaterstoki1.1.EU,sA1.bi,2023-11-20.各国在制定开源A1.相关政策时,通常需要综合考虑促进创新筋.技术安全与可控性、隐私保护、知识产权、伦理与责任、国际合作与标准制定、市场竞争环境、教育与公众参与等多个7®,这些维度与各国各地区的战略考虑或监管取向相结合,共同组成了对于开源A1.的治理政策框架。欧盟、美国、英国、法国、中国和其他全球南将国家和地区在开源A1.的治理上,虽然都希望能平衡发展与安全,但整体监管取向和具体条款设计有所不同。1.1欧®CAI法案创全球1M-1.K全和监管法,设独特开源依免规定2023年12月日,欧盟就OM法案5达成协议,该法成为全球獭针对AI进彼管的案。2024年2月日,欧盟理事会就务代表委员会就。:A1.法案3进彳蓑决,获得全票通过。2024年3月3日.欧洲议会以523票赞成、4G票反对和43票弃权通过了如法案这标志盟在A1.技术的监管上斑了世界前列。接下来OM法案3还需得到欧盟理事会的正式批准,<三.最跟难的遨阶段已经过去,距离最终出台仅一步之遥。M<AI三*>休假网于*曾优先,但也榻平-AIO控、保井中企法案自2021年以来一直在制定中。国时起.该技术已经发生7快速砥著的发展,该提案也经历了多次修订以跟上步伐。ChatGPT的出现引发了控制耳批模型的一轮修订。谈判在2023年2%达到用H匕程度。法国、德国和意用J为了保护本国的开发者,试图削弱对基叱模型的限制,最后嶷定的协议条款对被认为具有特别危险性的A1.的使用故出了限制,&丽“型公司和模型开源、开发的负担。到窗为止,欧盟主要通过以下这丝法案对开源模型或软件的安全管理做出规定:ItM主襄法案对开WAnttt2024年3月EAI法案免ItM研第0开发中做XKW开KAJMq免.但该SS免不适用于被认为会带来系统性瘠慢型、商业化的开薄AI产品。2024年3月用产品责任指令3该指令备麻所有A1.产品和系统,F三1.不Jt用F在*2024年3月网S弹性法案:,根据开源软件的所属和开发承.实施分蜃安全2020年10月开源软忤战略(2020-2023年)注二世界一流的公共服务,三鼻巨多地使月开源软件裁行构建.MS共享和重复使U软件、应第序,以及数变.信息和知设,以期通过共享源代码3R为知识社会作出贡献。欧盟对开源A1.或软件做出规定的主要法案(本报告的)注:网S弹性法案?£产品责任指令OM法案:欧洲议会已批准,还需欧盟理卑会正式批湛后缈欧盟A1法案3对开源A1.设定了包独特的规定。该法案规定,所有通用M系笠的开发者必须嫡保透明度,但如果A1.系缜是免费开源的,M可享方*别免。然而,此免不毫断HJit化的开妙1产品.上加那些提供付费技术克寺或通过户告覆盖成本的企业。里要的是,对开工(AI的这外免不遁府被认为JUrJME性口的IuI,格的例如任何使用T超过IE点*算次敷(F1.opSNmtdAieut,这些模型必须遵守3规定,包括提供详细的技术照和进彳鱼全测试。法案还特别提到,为科学研究和开发即开发的A1.系蜻可以豁免.4三.这也为根据开潺可证开发的科研膳的模型转为商业腌提供了可能,从薇过了部分安全法规。此外,欧盟幺产品费任指令3的草案,也扩灯A1.系蜕的活月范因.丽盖所有A1.产品,为了不妨用创新或研究,该指令也明确说明不应适断在商业活动之外开发或提供的免费且开源软件及其源代码。1a11.如J1.U活动中开复的免费开源软件T发脐产品胆件,M建也可IMtt此引复的债负责,£颜弹性法案b的草案进/引起争议.,尤其是关于上卷开源开夏者可央为下»安全轶承担责任的条款,引发了开源社区的广泛反响,一封公开信称该法案可能会对软件7EuropeanPar1.iament.,NewProduct1.iabi1.ityQrecbve*,2023-1214,开发产生寒婢效应之对此,欧盟提出了分层安全管理的概念,要求单独开发并控制产品内开源软件的商业实体需要承担所有的合规性责任,减轻了对开源软件基能或类似苑织下协作开发的或多拗作开发开源软件的管理压力,确保开源项国以在合理的法律框架内运行2024年3月,欧洲议会正式批准了£网各弹性法案3,之后还须得到欧盟理事会的正式通过才能成为法律,值终物要到2027年,这就给了各加间来满施律要求并梳理各种合规细节。在监管实践顼,敷盟设竹A1.办公室,负责监督并制定GPA1.模型的标准和测试实践|。同时,法案痢开源开发者采纳广乏接受的灾3实践.如模型卡和数据表,以提函明度和可追溯性,尽管具体细节仍待明确。结合该法律的广泛范围,法案将显著影响欧盟内开源A1.的开发和使用在臬些情况下,例如当一家公司单力/发开源A1.模型时,遵从规定与开发封闭A1.模型没有任何不同。这些新规则的复杂性可能会使其更巨难在欧盟内推广开源AI。从JErS的.在利!其他B»1、f1.*41.W*的情况下,制定出全球市曙建的般拿制度,剃了全球“环埴口洲化,即布尔效JT1.EAI法案34产品责任指令第胳弹性法案3以及欧盟GDPR、£数字服务法案等都是“布鲁塞尔效应.在数字治理领域的体现,A1.法案因可能对技术进步和产激展产蝴约,也受到了广泛质疑&这些法案的最终效果,还有待时间的检验。1.2美国里S1.济:命令关注由可曲模型权所带来的携战2023年10月0日,美国函发布关于安全.可靠和可信的AI彳诚命令”(以下简称A1.行政命令),该行R命令为A1.安全和保障建立T新的标准,意图保护美国儆的隐私,促进公平和公民权利,维护消费者和工顺利益,促迸创新和竞争,弼保政府负责任且有效收用U,提升美国在全球的领导力aEc1.ipseFoundationeta1.Open1.ettertotheEuropeanCOmmSSIOnontheCyberResdienceAc,2023-04-17.3Euracbve.*Upotocymakers,advanceonopensourcesoftware,supportperiodInnewcybersecurity1.aw*.2023-10-31.rtpe(×Hnnewcyt¾er6Curity1aw.丙UUArtik菌TZeI1.igseeAct.TheA1.Office:Whatisit.andhowdoesitwo<kT,2024-0>21.”AnuBradford,*TbeBrusse1.sENeC二107:1(2012).2,恰疑欧塞推出全球曲A1.法集.会形成效应还是Sa济?20240327.TeWhiteHouse.4ExecutrveOrderonteSafe.Secure,andTrUetwOnhyDeve1.opmentandUseofArtifioa1.Inte1.1.igence".2023-10-30.Md业USIWof1.hy<fevefc)pmetand3eofartificXnte1.1.gen8该彳油命令被外界称为物史以来童府为触31安金«所采取的岂WU,以确保美国在把握A1.的前景和管理A1.CK谢于光Jt位.同时也明确了美国政府下寸行1.fWt分工作为美国政府负责任创新烁合故略的一部分,该行®命令以美国政府之前采取的彳动为基础.包括促使15家领军企业图承诺推动A1.的安全、可靠和可信的发展。美国政府针对开源软件做出过一系列的监管规定,在此基册上,2023年发布的Am令和针对基她模型的必透明度法案3,也涉及了对开源模型的要求:ItM对开Wtt件的一定2023年12月号2023年A1.星史模型透明度法案:15旨在指导联邦贸易委员会制定标准,公开有关A1.基础模型训练数据和算法的信息,在将趣/济IfUMaMBI1.UE.2023年10月关于安全、可舞和可信的A1.彳说命令没有直接提到开源,速要求商务部B过公开咨询征求各利益相关例具11f两鹿1的双用MMM相关的潜在抽、利益、其他影响以及适当的政策和监管席的意口,并向总统提交报告。2023年3月CISA开源软件安全路姣图IC电关注开“件SftE魔、MttIMf等两类精有血,实彳妾国政府掰和关键基柚设施强心受点保护,强化开源转系统KHr联动协作。2023年3月2023年开洲$欠件安全法案3"强调了开爆软件件为公共总字施的Ktt.但需针对其安全性挑战MM1.Mt2022年3月匕022年保护开源软件法案3*建议美国3«安全和基础设施安全局(C1.SA)创建0MB1T以除低使面源软件系统的由美国对开源AI或软件做出康定的主要法案(本报告的)mBBC-USannounces'strongestg1.oba1.actionyeonA1.safety*,2023-10-31,'3USCongress.-A1.FoundabonMode1.TransparencyActof202,2023-12-22.'gCybersecvntyandInfraskuctureSecurityAgency.CISAOpenSourceSoftwareSectriiyRoadmap*,2023-03."USCongress.S917-SecuringOpenSourcoSoftwareActof20232023-03-22.aUSCongress.'S4913-SecuringOpenScuroeSoftwareActof2022*.2022-03-21.£关于安全、可靠和可信的A1.彳油命令3没有直接提到开源(OPenSoUr8)-词,偃对方巨具体的具有三可网UUR双tff1.fc三三iUM(Dua1.UseFoundationMode1.sviWideIyAvaiIabIeMOdeIWeightS)进行7规定,主要集中在第4节(弼保Ai技术的安全性和安保性)的第4.G4节。该彳政命令指出当双篁月途基址模型的权重极广泛可用寸,例如当它们在互联耻公开发布时,创新可能会带来巨郑收益,王&也会带来巨郑安全不施移除模型内的安全措施。,具体规定如下:在命令发布之日5270天内,商务部由通过通信和信息助理部口,并与国务卿协商,通过公开咨询过程征求私营部口学术界、南社会及其他利益相关者对于具有广泛可用权重的双膨基础模型相关的潸在、利益、其他影响以及适当的政策和监管型的意口并将收集到的意口,与其他相关机构负责厩商后向总娩提交一份报告。这个任务既需要技术洞察力,也需要政策制定的智意。对于开源A1.有可能促进如物和化学武器等危险材料好的问题,品彳费命令在第4.1结提到了化学/物V相射/核威胁(CBRN)的CK,美国国会国正在考虑多项法案”来应对这些威胁。第42J节要求原型开发者必须分享红队测试中的表现结果,对使伊F1.OPs调嫉的任何s,出了报告安全-试靖JMa关倒息的要求,另求班停列改相应的m是10»F1.oP这些规定旨在通过跨部冷作和公众参与来解决广泛可胎A1.模型权重所带来的挑战,M保在创新和安全之间取得平衡。通过这种木,彳弦命令试图制定出既能促进A1.技术发展.夕能保护国家安全和公共利益的政策框架。£2023年A1.基础模型透明度法案3则是在此基础上,要求联邦贸易委员会在九个朋制定标准,提凝M基叱模型在数据和操作邱透明度,并为开wa或基于其他基咄模组重新训练或调整的模型定气别弱定,显示T对开源A1.的一定靛。在早些时候,国会已经提出了多项关于开源软件的法案,如£2022年保护开源软件法案3和£2023年开源软件安全法案,旨在通过制定口安全".增强开源软件的安全性.并不其神为襄的公共数字“0Ir4CISA开源软件安全路线图b进寸强调了联合协作和安全责任.明确了开t件的敷字公共品住,犍关注开爆软件H5MwkJ8、供HMMMr等两类特有小。对此庚命,,不同,家和利注相关推不同漆或:一些智岸专家编,认为这是美国A1.治理的重要步骤,也有专家批评政府可能过度硬,政策制定者似乎准备回避开放式创新模式,这种模式臼使美国公司在修所有计算和数字技术领域处于全球领先地位。虽然以OpenA1.为代表的业界普遍赞成或到接受这样的要求,/&一些投资者、”型AI彳亚参与都13EdwardMarkey.'Sens.Markey.BixJdAnnounce1.egis1.ationtoAssessHeanhSecurityRisksofA,2023-07-18,ecutynsa>a1.石安荃丙事拜登AJ彳政令评论美国技术监置淑用我7或是回理开放式创新模式一20231101.学者的代表致函拜登总统2,担忧费政策制定过程中的声至限,并建议未来应为中“企业设计豁免机制,为郑台设:具体贵任,以追应不同的挈和能力坪。总的来说,美国的这些政策和法案在试图促进开源A1.的发展的同时,也在努>粥保其在不增加国家安全匚险的前提下进行创新和应用政府与公众的合作,以及透明和公正的监管是实现这-由的关键。1.3 英国政策辩谨慎对待开放与封闭之争,防范监管捕获英国的开源产业政策由来已久.政府翻a创新,并在开源技术的开发上投内Rt的资金和人才,这止其对0开放创新制AJ竟的物一脉相承。<J三同时英国政府也关注到开源模型MjI没没电的保护措,也可抽成指.四织在开发和发布基础模型的不同也,也为A1.的监管引入7复杂性。在英国举办的函全球A1.安全峰会上,在幺布莱切利A1.安全宣言等成果与共识之外,开源模型的函和利弊成为一个主要争论点22。英国还在峰会上宣布成R1.安全研究所,并将“开源系统以及采牌种形式的访问控制部署的系蜕”和“破坏保獐措施或利脚安全的模型权重”作为其优先事项之4。英国对于对开源A1.或软件政策期包括:政策辩对开KA1.的三32024年2月邠帮SJ和淑式AI3报告遇积极的市场成果将需要系列在开源和闭源基批上淮动前沿的模强尊牙政IWr开放wAi竞学21MartinCasado.We'vesubmittedatettertoPresx1.eatBKienregardingtheA1.ExecutiveOrdecand<spotentia1.forrestrictingopensourceAT.2023-11-04,效京要霜.为什么中国的参与必不可少?我参加生全球与智能安生峰会的所匚所思(万字间股.2023-11-03.2,UKGovernment,1.ntrcduoogtheA1.SafetyInstitute',2024-01-17.KUKParIiamen1.'Hseof1.ords-1.arge1.anguagemode<sandgeneratrveA1.'.2024-02-02.ht,)ub1.%os.paeamen1.u<PaJd5804dect"dcomnv54,'5402.tm.这-*逢在由使聊,Ift的是蚯管在利于受依管彳边或特殊利标,团而F是公共利裕的现Werjy1.i,"Regu1.atorycapture'sthirdfaceofpowf,.2023-02-07."Po1.itico.'Francebtsbigonopen-sourceA1.*,20230804.M曲报法aiCNI1.:法国和欧盟内智能政策的平食者12024-01-18.«安全内参.法国N管艳亥展现状.itS半指及启示.2023-03-25,8智东西.法国版OPenAJ杀R了.17Go亿+JSMOEfi!开H榜否.3«A100«*三JK2024-04-11.3,机制之箜.微软作,81舰模生对标GPTY.认识-r依例版OPCr6E202403Q1,a谒还阁左餐解福法20(专家ItC稿)重磅发布重现6I开2»发B1.内建知识十创新生则”,2024-04-1G.3,冯宓阁JO.三智做范法1.1(专家建9稿)重研发布,202403-07.3数字法治.重磅三发|中华AE共和B人三智能法(学者Stc稿.2024-03-1G.npsmwin.qq.11x,sZ2i926XJ5dJKIKNMr4ppUDw.M中央硼安仝*H2.电化办公箪.仝球笈皆影治口5q,202¾1032a4973tm.作为嗝的政ItmI1.2023年3月T中明创新的A1.监管型R开皿蠹彳以一砌“丽的交力,fioJ1.1.没中电的保扑也彳逢JtfM1.组织在开发和捱供耳砒模型的木上的差异.为A1.的监管引内泛的复杂住。英国对开源A1.或软件做出规定的主要政策的(本报告曲)2024年2月,英国上议院的通信和数字委员会发布,:大吾手(组和跳式AI3报告.强要重新进彳诚略平衡,以应对安全和社会国,同时把最新技术带来的机遇。报告提出多项建议,包括防Itt1.nr俘薪ggutatoryCaPtUre产、戏性>、JR予收管机构权:m.并睁独遂探讨了开放模型与封闭模型之间的竞争动态,以及政府应该如何在这两者之间采取弱,并处理潜在的监管捕获问题,广东在开放与封闭模型之间找到合理寸扬。报告认为开放模型通常成本低廉、易于获取,促进了技术的广泛尝试和社区驱动的改进,<三.在性能基准测试中可能不如封闭模型。封闭模型则因其先进技术被少数研究实验室控制使得其他企业难以进彳我术检专和实蛉。英国政府通过监管和政策引导,试图在这两种模型之间寻求平衡,推动各由前沿领域的发展。报告中还提到,积极的市场结果需要基于开源和闭源相结合的平衡发展,并关注罐开发者可能利断发优势造成的市场权熠化问题,并呼吁政府相开放W9IAJ宽“你为明的U即此外,英国科学、创新与技术部(DSIT)在2023年发布的ET中螭创新的A1.监管方去政策期中,其中谈到W蛆织对其显础模型的开发和分发进彳严格控制,其他组蛆则采取开源用开发和分发技术。开ta可以提高Mn对*tm的支痴力,但如累没考审的保扑措,也可iUUB.蛆织在开发和提供基础模型的笈上的差异,为A1.的监管引入了广泛的复杂性。英是开尊技术的导者之一,早在2004年就欹发布开源产业政策,并于2003年2创行7号E新,开加瞳利蛆织OPenUK于2021年2臣欧盟开源政策峰会发布了其三阶段粘报告指出开源技术为英国贡献了高大430亿英榜的经济增口,其国内预计有12.G万名贡献者参与了创建、开发和维护开源的工作;这一数字将近欧盟2G万名开源开发者中的一半。英国希望在政府内部画创新.躅开源思维,在外部帮助发展一个充满活加市场。综合来看,英国的A1.政策旨在通过交寺开放创新与市场竞争,同时确保陞的监管措施,来平衡技术创新与匚险管理的关系。这种策略不仅关注如何利用M带来的机遇,也产市对待由此可能产蝴社会和安全挑战。英国试图在A1.监管龙正辟到道路,借鉴不照搬美国欧盟和中国的做法,从礁持战略灵活性。1.4 法国需开KA1.作为其创新优先发展A1.的核,戢*之一法国政府爆重视A1.的发展,并将其视为国家竞争琰关键。在这一背景下,法国将开源A1.作为技术政策的核,期略之一,积极推¾螃开源A1.的发展。法B1.iMfceft多个酬合了"新«!发的要性,并主在治理之优先鼻创睛。2023年G月.H三欧洲科技峰会VivaTeCh上强调“我们相信开源z。法国的这T场与其在欧盟中的作用f乡成了一定的不协说,因为欧盟顿向于果取“监管优先.'的虎。然而,法国也意识到了在推动/4跻发展的同时,需要平衡与欧盟政策的关系,因此法国国家信息和良委员会(CN1.1.)作为法国的彳该机构,在执彳致盟监管政策的同时,也在枳极推动符合法国利益的AI创新政策汽ItH对开霖AIM件的SI定201G年£数字共和法案3增强数字领域的透明度、开放性和私成我保护.法案中明聃要求公共部ZM某些私廊EF放其数据,数据的由流通和使用.同时强调保护个用私和数据安全2023年5月CN1.1.CAI楙计划CNI1.不仅监肾致需保护法律的遵守,也发布了关于AJ和数据使睬)指导原则。这捶指导原则旨在确保A1.技术开发过程中的数变使恻守法律般定,同时保护屋的隐私权。2018年3月国家A1.故略ZAI造福月V这一战略计划通过公共投资越15亿欧元,胆推动A1.研究、创新和商业化。政策重点獭开源A1.平自和工具的发展,旨在建立个开JB协作的A1.M系猊。法国对开湖A1.或软件做出规定的主要法规或政策耕(本报告的)法国政府对于开源A1.的监管向于制定灵活的政策,以适应技术快速发展的需求,保证开源项郎活邠被过度监管抑制。政策明确淑创新和数据的开放使用,(&同时确保了数据全和用ft私的保护。这种平衡的监管框架为MiStra1.旗型等开源A1.项序供了发展的埋。法国的开源A1.推广策略也体现在对应的重视上。法国拥有强撤数学和信息科学整秘.这为其在R菖能领域的研究提供了坚实的基础2,法国政府通过PIA(InVeStmentSfortheFUtUrePrOgram)等项目,身寺律教育和培训,以及应鹿旦础研究及其运济价值的实现。法国政府通过投资研发和建殆作阳各,幽公私部必合作,推动了开源A1.的创新和应用其中,图灵奖得主、Meta首常A1.科学家杨加(Yann1.eCUn)的参与,使得法国在全球A1.研究领域的地位愈发显著。在产业层面,法国也涌现出了Tt在开源A1.领域具有国际影响ZW公司。例如,HuggingFace的联合创始廊是法国人,该公司已成为全球开源A1.社区的重要参与者。法国A1.初创公司Mistra1.A1.开发的旗舰模型对标GPT4.展示T法国在法型领域的强承力%Mistra1.AI的成功,部分归功于其能够巧妙地将6I技术与政治结起来,这也是法国政府编开源6I发展的一个例证“°此外,法国还有欧洲首卜致加6I开放科学研究的独艰脸室Kyutai。总体稀,法国政府通过一系列政策和措施,积极推广开源6I的发展,并国际舞上展现了其对6I技术的重视和粥。这些努邠仅有助于法国”全球6I竞争中保持领先地位,也为全球开源6I社区的发展做出了贡献。1.5 中国人I智能法的两份专耒建议稿对开源问做不同处理中国政府出了一系列政策来促进开源软件的发展,渤企业和研究机构参与开源社区,推动开源软件的创新和应用,这些政第也适脐开源6I项目Qg未发布针对基址模型开源的相关政策法规,相关返还“制定中。2023年10月,中国政府”第三届“一带一路”国际中作鄙论坛上发布了£全球后智燧治口倡3,围绕后智能发展.安全、治口三方繇境潮述了长智地治中国旗。“国际治口中,中国政府站.全球南耶(震再吁开JTOJMB技术,并倡导需要开展面向发展中国家的国际作与援助,不断弥卬智能鸿沟和治口能是距。对开A1.的"32024年4月左将能讨S法2.0版(专家建Qffi)32(2023年8月.0版,3月.1版今KWAmttTFBM.提出促进开源社区建设、制定专卬观指引、明瑜责任减免规则等府措甑2024年3月中华辱和国左智能法(学者建(;秘)X献开,=,访&体系,免量开的人nr*/*Ma可.免本决.2023年10月全球儿智能治口倡小»曲全球共同推动左智能键康发展,共享人三智能知识成果.开人I技术”中国对开源6I或软件做出规定的主要但q或建q稿(本报寓)2023年G月,国务院办公厅印发£国务院2023年度西三作计划3«其中显示.£后智能施法3草案等预符提请全国欣委会审3。35,已有两组专家对后智能法提出了建G稿,均对开源问题做出了探讨,明了”开(人I他发腰的程祖酬.具体福,左智能力范法2.0(专家建稿)相较于f中华“和国庆智能法(学者建q幅)计对开源61的制定专C规指引、明他责任减免规则、提供税收抵免优惠等具体费措施