2024生成式AI安全与风险性评价.docx

生成式人工智能的快速崛起评估安全风险2023年12月关TCETaS2致谢2执行摘要3建议81 .韧式人工礴E简介111.1 人工智能简史111.2 变革的步伐131.3方法论172 .评估政治数字和物理安全风险202.1政治安全212.1 数字安全282.2 物理安全332.3 权衡恶意飕然风险来源363 .生成式人工智能和未来智能能力：机洒局限433.1 扩大调查工具箱分析和总结433.2开源和商业模式创断与风睑管理524.治理政策和法规554.1信令和报告564.2 禁令和"红线”664.3 立J去环境的优势和劣势674.4全球落理684.5培训指导和保障74案例研究77案例研究1OSlNT总结77案例研究2综合数据生成80关于作者第84作封面和封底使用的图像是由OPenAl的DA1.1.-E2生成的。生成式人工智能的快速崛起：评估安全风险执行摘要这份CETaS研究报告探讨了生成式人工智能对国家安全的影响。这些调查结果和建议基于公开文献和对政府'学术界、工业界和民间社会50多名专家的研究访谈。瘴即璇口这是英国最全面的关于生成人工智能对国家安全影响的公开研究。生成式人工智能是人工智能的一种形式,可以根据用户建议生成图像'音频和文本等内容。一些人认为,大量可能的生成式人工智能用例是彻底改变个人互动和企业运营方式的机会。颓,从强人类生产力的形式是一项重大挑战也是技术襁突破国家安全界限的典型方式。生成式人工智能带来的安全风险可以被理解为增加现有的社会风险或带来全新的风险在大彝情况下生斌人工智能适合前者：虚窄舒息、欺怖J1.三辘待材料等安全风险并不是生成式人工智蒯蜘!腌而是通过技术在速度和规模上被放大,从而可育颉害更大t的的人。人口比以前多了。以这种方式了解国家安全状况应该会抑制对所构成威胁的前所未有"性质的无端频底里同时能够更有针对性地关注生成人工智能催化风险的威胁领域。生成式人工智能还提供了在国家安全界使用的潜在机会。目前,生成式人工智能工具太不可靠且容易出错,在国家安全的最高风险环境中不值得信任。这意味着它fi处没有准备好用于需要做出决策或需要可解释性以满足问责和监督要求的地方。对于刃陛可能想要使用生成式人工智能来破坏英国国家安全的人来说,准确性并羽R么重要如果大型语言模型（1.1.M）在生成深度伪造品或编写恶意软件方面表现不佳,那么攻击者的失败成本仍然很低。但从防御的角度来看类似的错误可能会导致重大的安全漏洞用户过度信任法学硕士的倾向可能会导致不愿挑战人工智能生成的输出。国家安全和技术讨论历来侧重于了解对手的威胁；意蹄成伤害的团体或个人。然而,希助沐向更广泛的支持的扩散要求思维方式的转变,以解释生成人工智能可能带来国家安全风险的所有无意或偶然的方式。这可以从"不适当的人工智能的可能实例范围中看出采用"定义为人工智能的不恰当和误导性的实现和部署辍。在关键国家基础设施(CNI)'例第'私营部'产阶人"DIY"实验等背景下对错过生成式人工智能翻顶峰的恐惧可能会影响对高风险用例的判断。对于明显恶意的生成式人工智能用例,威胁可以被理解为属于数字安全、物理安全和政治安全三类之一。4先岑十*#通过降低所需的专业知识程度生成式人工皆能可以帮助技襦力较差的用户尝个人现在可以形成的个性化关系生成式人工智能可能是试新颖的网络攻击技术并迭代地提人工智能聊天机器人的出现,吾盼睦政治力至倍增器高其复杂性。在于它们的持续可用和无限的耐心,虚假信息。这可能会改变激进彳郎蓝图的累积效应然而仍然存在一个生成文本、图像、酶晤蟒影响将超过其中任何一项不太确定的是是否这一过程中明显存在人为因素,当前漳生成人工智能不太可捱很快豆制这些方式可以有生成式人工智能将实现全新期,通过提高法学预土的可用性'可类型的网络攻击即使靠性和成本效益可以显着扩大规是最好的攻击者以前也不会这样做明确生成式人工智能可能增强恐怖模做附更令人印象深刻的故事讲分子企业的哪些阶段非常重述和个性化定制的活动,已经意识到最国要对于某些群体来说生个性化可以达到新的令人信服的水6在家重大长期关切成式人工智能可能更有助于美化选举前的几小时或几天内,簸和确定安全视角建准和欺诈而不是激进化武器说明选举结果将具有挑战性。抹黑恶意人工智爱官用信息手术监视'监视和地缘政治分裂诈骗者将受益匪浅公开的一代很大程度上来自生成式人工智可以到达但很难找到生成式人工智能可以在促进全球技术扩能。定性的生成式人工智能信息减少了散方面发挥重要作用该技术骚可以协助欺诈者与开发和执行关键信息的分离程度看起来更专业'针对性更强鱼叉式网络钓鱼,专制标准和增加潜在受害者的复原力负担腿量上讲,自主代理框架的发展可以实现大规模欺诈自动化尝试,语音克隆领域的改进是欺诈背景下特别令人关注的领域.儿童性虐待材料攻击计划如果WebAPI允许将大型预训练模型连接到物理系统,从而1浒物理系统采取直接操作贝这种风险会加剧世界醴瞰姓谈獭癖机器人到合成致命材料存在重大的技术飞跃湖I了初耐工酬而氐崩搀域的实用性演员值帮助凳试强制执行单一版本历史的真相未来的真相几代人。民主国家可能更容易受到剥削的创作特点生成式人工智能系统比独裁政权更重要。这强调需要了解文化和生成人工智彘使用的行为方面世界人工智能生成的CSAM的扩散是执法机构的一个重大担忧区分算实和"僮图螂难度将继续增加并带来漏网漏报的挑战与Itt疮时扰本儿童的图像时存在误报冈险从而将稀缺资源从这些儿童身上转移开来谁有。尽管生成式人工智能在国家安全风险极高的情况下并不可靠,但它瞰为国!卫安全和执法机构提供了各种机会。在情报分析背景下,生成式人工智能的作用最好理解为提高个人生产力。使用生成式人工智能作为情报周期的方向、收集'处理和传播阶段的"认知副驾驶",可以缓解分析师在"事实贫乏、意见丰富”的环境中所面临的传统挑战。第毗在成熟和熟悉的早期阶段涉及频繁人工验证的仔细部署至关重要。自主代理能够感知环境做出决策并在无需人工t预的情况下采取行动的人造实体可能会成为人工智能领域的一股加速力量。情报和安全环境因为它们能够不用其他数据源进行额外验证。理论上但物1队可用于快速处理X量用魏据提供初步风险评估,并生成假设供人类分析师进一步探索。然而在底层法学硕士能懒供可靠（一致'正确和安全且准确的响应之前,代理将面临提供不可獭喊不½三果的风险。应对这好威的关键缓解措施是问责制、透明度以及对代理采取的行动和系统执行的推理的人工监督。为了应对上述复杂的形势,政府必须制定具有三个主要目标的政策十预措施：提高对生成人工智能系统的可见性和理解；推广最佳实践;并建立激励措帆执行监管。建立政府和相关第三方参与者的信号和报告机制以及最高风险环境中的红线（例如关键国家基础设施内的决策是实现这些目标的重要方面。可解释性社会技术的抢占高风险自动添加标签或评估能力的快速提升可以挑战无形的与人工智能相关要了解惠思是上下文水印到检测工具对国家安全的全方位政策制定者对下一次在哪里人工智能生成特别强调披露何时使影!向AZ蘸颗评游戏规则变化准备不生成式人工智能内容是一个用生成式人工智估必须超越任何人的足不应该是可能的能井就适当使用和警能力用过的遗嵯技术的告发布明确的指导创新防止解决方案最近领先的情况生成式人工智个人模型，A人工智能开哪里的能的挑战多层,发者技术已启用社会技术的承诺可以采取虚假信息*系统方法避免释放不可逆转的然而滥用更好的评价是型号不带行动担忧结果将是需要之前的测试由没有坚持其易受故意攻相互依赖的水6了解如何政府机构但好直接人类击的弱点人际互动过程必须公开透明监督或授权。系统提供的可解释和系统因素相互作用篡改和恶意行为者的性和个人解稀人工智能力能输出的能力技术的生成模型的组成部分足以确保公众对其完全绕过它来放大不同类型的风险的信任结论本报告的撰写恰逢2023年11月举行的英国人工智能安全峰会，同时宣布成立一个由政府资助的新人工智能安全研究所,用于对最先进的人工智能模型进行安全测试。未来几个月对于确定新的人工智育跛全研究所的作用和范围以及英国更广泛地管理新兴人工智能风险的方法至关重要。在国际层面英国可以采取两项空跖动来缩小治理模式之间现有的差距:促进共享评估工g月确目标;渤国际监管专业知识和能力做出贡献。新成立的人工智能安全研究所的宣布是这方面的积极一步诵明须在计算、数据和人员这三个核心领域取得飞跃才能在这一努力中发挥有意义的领导作用。对值得信赖的法学硕士的研究本质上需要来自不同学科的专家,包括语言学'计算机科学、认知心理学、网络安全、和政策。最后实现这些全球治理目标需要最低水6的外交参与这确保人工智除快速采用不会取代人工智能安全研究。希望在人工智能安全方面发挥领导作用的国家必须避免让对"落后对手的恐惧通过高风险应用推动逐底竞争,从而破坏这项积极的工作。建议人工智能系统评估- 借助人工智能安全峰会的积极势头,我们以立BiJ采取行动新的人工智能安全研究所应采取的步骤来开发世界领先的人工智能评估生态系统：O优先考虑采用多层次的社会技术方法进行系统评估以便除了治理和应用程序之外还可以仔细审查新的系统特征。O为生成式人工智能模型和系统卡创建集中寄存器,它允许跨部门的决策者审查系统细节并就其风险偏好和对设想用例的适用性做出明智的判断。情报分析- 如果英国国家安全部门要部署生成式人工智能社区中,这些组织必须确保用户界面的设计包含有关输出的准确性和可靠性的明确警告从而最大限度地减少与过度信任或过度依赖相关的风险。- 此外,应详细考虑在国家安全背景下使用法学硕士可能如何影响保证和法律合规性。法学硕士的规堤杯透明性意味着从其中清除信息可能比现有数据库更具挑战性将研究资源瞄准开发"机器遗忘”等技术可能有助于解决这一挑战。自主代理- 法学硕士增强型基于代理的系统被委托执行自主操作行动应遵守一定的要求。英国国家安全界必须确保这些要求在内部得到满足并应通过行业合作伙伴和值得信赖的开源社区网络来鼓励这些部门同样如此：。遵守开放全球应用程序安全项目（OWASP）等框架的设计注意事项,以徵里'过度自治T的风险。这些使用中必须包含"人机交互"案例0记录代理人采取的行动和做出的决定。中介架构不得掩盖或破坏源自法学硕士的可解释性的任何潜在方面。0记录基于代理的系统在最坏情况下可以做什么。0在调试、开发和部署的每个阶段显示与使用1.1.M生成的输出相关的警告和注意事项。网络安全和培训-国家网络安全中心和内阁办公室幽淀政府安全生成式人工智!踱用指南激酶应与用户的熟练程度和应用程序中的网络安全风险保持一致伊加对于经验丰富的开发人员来说,人工智能代码生成带来了显着的效率提升应鼓励使用适当的验证技术进行藏。对于不趣悉安全工程实践的用户来说,关于人工智潴生成代码的局限性和审查的意识制I席关鳗。-为了鼓励了解好处和负责任的使用各部门应指定联络员组绸妹会议让用户可以在沙盒环境中使用生成式人工智能S用程序虚假信息和选举-选举委员会应与通讯办公室合作英国通信管理局（Ofcom）将为政党在即将至探的议会选举前使用生成式人工智能制定新的选举规则这些应界定生成播并应在选举委员会正式记录委员会。-Ofcom的工作重点应集中在公共教育活动上让人们了解生成式人工智能可以轻松地令人信服地代耕咯政治人物。激进化和恐怖主义-内政部和反恐警务部门应委托进行研究旨在为恐怖分子使用生成人工智能建立更严格的证据基础需要f更详细&蟠既了解可以利用生成式AT智惭激进停口招聘生命周期的各个阶段语音克隆-英国国家安全界应支持产学界联合旨在解决语音克隆领域的技术挑战的倡议这个分组应组织研讨会和圆桌会议牌学术界、InIk界和政府的领先音频专家对跨口音和语言的语音模仿的蹒技术进行评估这可能会导致成立T工作组负贡为语音模仿性能和检泱制定严格的评估指标生化武器英国生物安全战略提议制定国家生物安全战略生物监视网络其中包括实时生物威胁雷达监控威胁和风险。生成式人工智能应该被回顾性地纳入其中监测框架1还应与英国化学武器公约国家机构咨询委员会分享有关化学武器应用和技术的现状报告和简报。CSAM-内政部应就以下模型的法律地位发布更明确的指示：接受过CSAM以及交换模型文件而不交换个别内容的人员的培训即使尚未1妾受过CSAM明确培训也愚t什么行为构成非法使用生成式Al系统提供指导-由国家睇局领导的英国执法机构应与国际刑警组织协调创建用于生成CSAM的新模型数据库。这将补充现有的虐待儿童图像数据库(CAID).这可能是一个探索创建自动检测功能的6台,以检测这些模型何时被犯罪分子使用“'尽管没有直接提及生成人工智绕但提到了"新的、潜在的极端风险"、新的"网络生物安全风险”和更广泛的选用即"更多的人现在拥有以低成本进行高风险研究的必要技能*4WiRlhttpsy/www.gov.uk/government/publications/uk-biological-security-strategy/uk-biological-sedtyrtfOtegy-Mml1 .生成式人工智能简介生成人工智能(AI是人工智能的一种形式可以根据用户建议生成图像'音画收本等内容。这些建网际可以采用不同的形式：它邱娥图、音频样本(例如录音就要生成或总结内容的文本描述。生成式AI的著名示例包括DA1.1.E(0penAI)2、MidjOUmey3和StableDiffusion用于根据文本提示生成图像；秘ard(Google)4、ChatGPT(OPenA1)5和1.1.aMA(MetaAI)6用于从文本提示生成文本。1.1 人工智能简史生成式人工智能的子领域是经过人工智能领域数十年的实验和迭代而出现的需要理解这一背景才能理解我们今天所处位置的起源。2 OpenAIDall-Ehttpsresearchdalle。3 中途旅程。4 谷歌,巴德5 OpenAIChatGPT6 Meta-1.1.aMA简介：S三7650亿参数大语言模型"2月24日发表2023年图1.捕捉这个故事中最重要时刻的人工智能生成时间线7FrankRosenblattimplementsthefirstperceptronforimagerecognition.WarrenMcCullochandWaiterPittsdescribetheperceptron,inspiredbyaneuron.回956Heanticipatesafuturecomputerthat'willbeabletowalk,talk,see,write,reproduceitselfandbeconsciousofitsexistence".IMIDevelopmentofMYCINandINTERNIST-IExpertSystems.1.ighthillreportpublishedconcludesartificialintelligenceresearchfailedtodeliver.JohnMcCarthycoinstheterm'artificialintelligence".DartmouthSummerResearchProjectonArtificialIntelligence.McCarthy's1.ISPprogramminglanguagereleased;usedtodevelopexpertsystems.MarvinMinskyandSeymourPapertpublishresearchcriticalofperceptrons.Publicfailureofresearchonnatural-language1980sprocessing.MoresophisticatedneuralnetworkssuchasElmanstartbeingdeveloped.FundingforAlresearchcollapses.1990sJOrgenSchmidhuberdevelopstheconceptofatransformer.RichardSuttonpublishedTheBitter1.esson;arguesdatamoreimportantthanalgorithms.2022ToolsusingAlstarttobecomemorecommon.2000seTheeraofgenerativeAlbegins.ChatGPTreleased,capturingpublicimagination.GoogleBrainteamgeneralisesthetransformer.Significantsuccesswithmilitaryapplications,e.g.DynamicAnalysisandReplanningTool(DART).2017FirstinfluentialtransformermodelsGPTandBERTreleased.7如需更详细的时间表请参阴https:CetaS.turing.ac.uk/publications/rapid-rise-generative-ai1.2变化的步伐正如时间线所示人工翻的历史充满了炒作和过度承诺:从20世纪60年代自然语言处理领域首次公开失败J20168年微软的"性别歧视"和种族主义"联庆机器人Tay,人工智能已经享有盛誉交付不足一些人愤世嫉俗地将最近对生成式人工智能的触爆发视为这种模式雌续但生成式人工智能在很多方面都代表着人工智能可能实现的巨大变革以前专家团队会涉总家用户创图谢廛于任务的工具（例如路线映射或拼写检查）并且他（国以有效地为用户部署该工R的t帽设S边界。借助生成式人工智能用户对其使用方式拥有更大的自由度从而产生工具创建者永翊却髓的应用程序。9如图1所示,第f有影响力的TranSfOrmer模型于2017年出现。其中邮1.1.MSIoGPT（"生成式预训练TranSfOmner"OPenAlIl和BERT（"来自TranSfOrmerS的双向编码器表示"Google）12GPT和BERT都使用了类似的方法：对大型数据集进行预W练阶段,生成通用模型然后进行特定于任务的微调。这种方法允许模型应用于广泛的任务而磅产生大量的培训成本。通睡模型称为基础模型。13下表说明了用于训练1.1.M的参数数量和令牌数量14的急剧增加。158ElleHunt飞的JAI聊天机器人Tay从Twitter上学习了有奂种族主义的速成课程G2ffi>2016年3月24日httpswww.theguardian.corVtechnoogy2016mar24ayTniCTosofts-ai-chatbot-gets-a-crashcourse-in-racism-from-twitter9CemDilmegani"2023年100多个生成式Al应用/用例"AIMuItipIe-2023年10月26日generative-ai-applications/IoMichaeIRDougIasarXiv（2023年10月）https:/arxiv.org/abs/2307.05782*11 OpenAI竞过监督学习提高语言理解“2018年6月11日12 JacobDevlin和Ming-WeiChang加源BERT:最先三的自然语言处理预训瞅Ggle研究博客2018年11月2日https:blog.research.google/2018/ll/ff-bert-state-of-art-pre.html。13 RishiBommasani等人论基础模型的机遇和风险"arXiv（2021年8月）httpsy/arxiv.org/abs/2108.07258。14将标记视为数据的"原子"类似于语言中的音节15DanielGutierrezGPT-3简介"用避倜洋2020年8月25日https:/年5月）https:/arxiv.org/abs/2302.07730;MOhammed1.Ubbad"GPT4图数:N1.P游戏规则改变考的无限指南"Mohammed1.ubbadMedium2023年3月19Shttps（）mlubbadtheultimateguidetogpt4parameters-ffl!了解的所有信息nlps-game-changer-109b8767855a-年份（发布）模型#参数#代币2018年GPT1.1亿1十亿2018年伯特3.4亿30亿2019年GPT-215亿100亿2020年GPT-31750亿5000亿2022年掠根5400（乙7800亿2023年GPT-41.8万亿（估计）13万亿模型的复杂性是非线性的。随着皴数量的阊1厢1陈数据集大小的增加:熔硕号瞬表现出新的属性（标记为"新兴"）工6然而,模型使用参数的方式随着时间的推移而演变这意味着参数的数量仅提供了对模型能力附目略估计例如GPT-4是专家模型的混合体,类似于连接在一起的多个中型模型而不是f庞大的网络17从头开始开发法学硕士而不是使用所有的信息来微调预先训练的模型由此带来的安全不确定性18和数据中市风险19目前是资金最充足的组织的保护范围。因以HUggingFaCe和RePliCate为首的开源1.1.M社区自2021年以来大幅扩张每周都会发布更多经过微调的模型下面的非详尽表格说明了这种急剧的增长20，由此产生的模型对于业余程序员来说更容易下载和使用曾经是专家的领域现在任何具有Python基础知识的人都可以访问2023年ftS的GOogIe内部文件声称玮原人工智能（由Meta开发的1.1.M2023年2月泄露的1.1.aMA推动将超越Google和OPenAl并指出Wl（Google）没有护城河OPenAl也没有”.“来自开源的竞争社区正在推动C）PenAl等公司扭希其开放政策从而导致16JaSOnWei等人"大型语言模型的新兴能力*arXiv（2022年10月）https:/arxiv.org/abs/17MaximilianSchreineruGPT-4蝴、辘集、睇UtS三多息"TheDecoder-2023年7月11日httpsZhe18 NCSC-"思考I智全时2023年8月30日https:/WwW.ncsc.gov.ukblog发布/思考安全人工智能系统*19 NCSC-窕立法学硕士时要浅慎"NCSC博客文章2023年8月30日https:/www.ncsc.gov.uk/blog-post/exercise-caution-building-off-llms-20SulemanKazi和AdelElmahdy便大言模型（1.1.M）GPT-41.1.aMA2Mistral7BChatGPT零-Vectara博客文章2023年10月17日https:/VeCtop-大语言模型TlmS-gpt-4-美洲驼加托开花以及何时选择其中一个。2iDyIanPateI和AfZhaIAhmad"谷歌我们没有护城河OPenAI也没有：泄霜的谷歌内部信息文件声称开源AI将超越GoOgIe和OPenArSemianalysis2023年5月4日httpspgoogle-we-have-no-moat-and-neither从长远来看法学硕士可能担心下一次飞跃将在闭门后发生。获得更多增量效率提升：模型将更小微调所需的数据更少同时运行成本更低且更环保。23U1.2告歇APaChe201午可证允忤商业使用2023美洲位25甲lMeldJBm用J孑木用就2023羊鸵26从1.1.aMA进行微圜，不可用于商业用途2023天XPa羊洲31.M27清华大学大学TTATttK:中义/英义法学硕士；Apache坏可证允许商业使用AtSFiSji旧衣至国支IK国俎妣2024MPT7B3O>i033,T司IViosaicwi1./1标t111三rail!J三t三J牛年用干flf三fp和fflSW，田珠5-Rp¾2IUWlTUmJ21EHJ三三2023骆轮三/13B33IJWIMSYS俎职开源限非商业用途许可米惭差尔7R1利WK）笈人工MrAParhai许可证允许商W使用29¾Sii7¾数据块开源：萩得商业用途许可22WilIDoUgkigHCQVCn一开凝人王智献潮建立在大型科技公司的施舍之上，它会持续多久？”麻省理工学随支术评论,2023年5月12Bhttps20230512072950openource-ai-googleopenai-elether-meta-23 TianyiChen小"1.oRAShear:碉模矢照螭ar×iv（2023年10月）httpsarxiv.orgabs2310.1835624 Teven1.eScaouB1.OOM176B参数的开放式多语言语言模型"arXiv（2023年6月）https:/arxiv.org/abs/2211.0510025 HugoTouvron-u1.1.aMA:开放且高效的基础语言模型"arXiv（2023年2月）httpsy/arxiv.org/abs/23021397126 RohanTaori等人"Alpaca:弓孰、可就蜘-2023年3月13日,https:/crfm.stanford.edu/2023/03/13/alpaca.html27 ChatG1.M28 元1.1.aMA-29 人类克劳德2,30 MoSaiCM1.N1.P酮"MPT7B简介：开源'可商业使滕K1.M的新标准”MosiacM1.研究博客2023年5月5日31 技术创新研究所（TII）Falcon180B-https:/falconllm.tii.ae。32ErichElsen等人“蜥PerSimmOn8B"Adept隰2023年9月7日https:/www.adept.ai/blog/persimmon-8b，33Vicuna"Vicuna:一款开源配天机器人以90%*ChatGPT质母给GPT-4留下深刻印象"1.MSYSOrg博客2023年3月30日-https:/lmsys.org/blog/2023-03-30-vicuna/,34 MiStraIAI团卜uMistraI7B*MiStralAl喃2023年9月27日httpsmistral.ainewsannOUnCingmistral7b/35 MikeConover等人uFreeDolly:推出世界上第一个真正开放的指令侬法学硕士"DataBrickst解2023年4月12日https:WWW指令调整-1.1.M36这些"幻觉”可能导致普逅缺乏信任因"幻觉"而臭名昭著"尽管法学硕士的表现迅速提高但对于许多观察者来说法学硕士已经成为在技术领域37.甚三诉讼-9、不52（2023年8月）幻觉来源"ar×iv（2023年10月）https:/arxiv.org/abs/2305.14552AvishekChoudhury¾HamidShamszare-ChatGPT的采用破用的影响：-医学可25.1（2023）SabrinaOrtizThatGPT的幻觉刚刚让C）PenAI被起诉，这就是发生的事情"ZDNET2023年6月9日EmiIyOIsen-涮聊天机器人犯错后谷歌股价下跌100O亿美元"NPR-2023年2月9日https:WWW.npr.org/2023/02/09/1155650909/google-chatbot-error-bard-分享。BlayneHaggart姻幅ChatGPT提出信任问题的原因"世界经济论坛2023年2月6日https7www.weforum.orgageria202302vhychatgptraises-issues-of-trust-ai-scienceKarenhaoWl练人工智能所需的计算墟力现在比以往任何时候都快七倍"隔省理工学院技术评论2019年11月11日https:/WWWRichSuttonWe西澈UIr不亮耽88去（个人网站）2019年3月13日httpZvlnddeasBitter1.esson.html*TomBrown等人”语言曝是习者33（NeurIps2020）1877-901https:/proceedings.neurips.cc/paper_files/paper/2020/哈希/1457COd6bfcb4967418bfb8acl42f64a摘要.html当谷歌的巴德在第一次开发中出现"幻觉"时39公开示威后Alphabet市值短暂损失100O亿美元这种幻觉体现了法学硕士如何模耦真实与虚假、可界与不可靠之间的界限。去年,人工智能在日常生活中的应用从主要是拼写检查转变为通过ChatGPT制作十四行诗或通过DA1.1.-E制作艺术。随着人工智能系娥得更晓善可勾抚法!敛诞十四行诗中的文本是否是由人类生成的。真实内容和虚假内容的混合或分层只会让这变得更具挑£批。这种模糊性有可菖懿一步降低世界各地的机构信任。40由于计算能力的增长以及通过互联网访问更大穗据集人工智能应脚麻围日益多梢匕。据OPenAl称自2012年以来用珏Il练最大人工智能模型的计算能力每3.4个月就会翻一番41RichardSutton在其2019年颇具影响力的文章痛苦的教训中指出42更多数据的可用性比改进底层神经网络架构和训练它们的算法发挥了更大的作用。数据质量也会显着影响模型的成功；"S如果数据集很大以引入低质量数据为代价,进颜度可哙或慢。三36 RObinEmSIey"ChatGPT:这些不本觉它们是捏造和伪造.,（精神分裂症随着组织和个人寻求保护受版权保护的材料,新技术和立法也可能会减少高质量数据，44生成式人工智能的潜在经济影响很5ST化，OPenAI估计,大约80%的美国劳动力至少有10%的工作任务会因法学硕士的引入而受到影晌"。然之前也曾做出过类似的预测技术突破但球由璜嗡妙例如自动（前机器人率最高的国家颤日本（每10,000名员工264台机器人）往往失业率最低46最近的估计表明生成式人工智能可以在63个用例中每年为全球经济增加2.6万亿至4.4万亿美元（英国2021年的47GDP总额为3.1万亿美元）,但问题仍然在于如何这些额外的国内生产总值将分配给不同人群。1.3方法论本研究试图解决以下四个研究问题：- RQl:生成式人工智