数字经济中情感计算应用的消费者权益保护.docx

《数字经济中情感计算应用的消费者权益保护.docx》由会员分享，可在线阅读，更多相关《数字经济中情感计算应用的消费者权益保护.docx（27页珍藏版）》请在课桌文档上搜索。

1、数字经济中情感计算应用的消费者权益保护关键词：消费者权益保护具体交易范式数字经济情感计算算法规制20世纪末，美国计算机科学家罗莎琳德皮卡德提出了将情感引入计算机运算的设想，意图研发一种“能够对人的外在表现进行测量和分析并能对情感施加影响的计算”，也即情感计算。2021年我国发布的人工智能情感计算用户界面模型(GB/T40691-2021)国家标准，将情感计算定义为：“在人机情感交互过程中，信息系统对用户情感的采集、识别、决策和表达J近年来，随着图像识别、语音识别、人脸识别乃至体态识别等技术的奇点式发展，以感知型人工智能为技术基底的情感计算开始逐渐渗透到数字时代人们社会生活的方方面面，在教育、医

2、疗、传媒、就业乃至执法司法等领域被广泛部署使用。其中，由算法定义的数字经济自然是情感算技术应用的重要场景。研究表明,数字经济中情感计算的应用具有吸引用户加入、增强用户粘性、促进商品营销、提高交易效率与成交比率等多重功能。在实践中，如阿里巴巴、亚马逊等域内外大型互联网企业也纷纷将情感计算嵌入商业平台，促进商业目标的实现。由此可见，情感计算在数字经济中的普及已然是大势所趋。数字经济数字性与经济性的结合，决定了情感计算等前沿数字技术必然参与到数字经济生产、分配、交换与消费的各个环节。而在数字经济已经创造出新的消费场景、消费模式、消费动能的情况下，消费作为市场经济的最终需求和最根本动力，也就理所当然地

3、是情感计算应用的主要场景，消费者也就成为数字经济中情感计算应用的主要对象。但是，正如欧盟人工智能法（草案）认为的“情绪识别系统”在特定场景中具有不可接受的风险，因此应禁止其在部分领域的应用，我国2023年10月发布的科技伦理审查办法（试行）也将“对人类主观行为、心理情绪和生命健康等具有较强影响的人机融合系统的研发”明确为“需要开展伦理审查复核的科技活动”。数字经济中情感计算的应用在使消费者充分享受到具身性数字红利的同时，也可能与消费者的法定权利存在内生冲突，带来侵害消费者权益的多维风险。因此在情感计算被面向消费者广泛部署的当下，有必要立足于这一场景中的消费者弱势地位，结合情感计算自身的技术逻辑

4、和技术特征，构建一套强化情感计算应用中消费者权益保护的具体方案，以确保商业创新与伦理道德、技术发展与权利保障之间的价值平衡。一、场景考察：数字经济中面向消费者的情感计算应用样态现阶段，情感计算的实施总体可以分为两类：一是计算的结果仅用于被计算者本人，即通过情感计算帮助被识别者自身改变情感状态、优化情感体验，如医疗场景中通过情感计算改善患者情绪，治疗抑郁症、精神分裂症等；二是计算的结果由被计算者之外的主体应用，辅助其进行相关决策、实现相应目的，如招聘、执法等场景中的应用。当前的数字经济中，经营者对于消费者的情感计算应用显然就多属于后者。平台、商户在以下场景通过情感计算对消费者情绪、情感的收集与分

5、析，形成颗粒度极细的用户情感画像，以此促进消费者的消费与再消费。1.差异化广告营销区别于实体经济中广告牌、宣传单等传统低效的广告营销模式，数字经济中经营者通过情感计算可以识别消费者的客群属性与消费意愿，对消费者进行差异化的商品推荐，使特定商品、广告的投放更有针对性地覆盖特定需求群体，继而最终提升广告引流效果、提高商品成交比率。如平安银行的“广告推荐方法、装置、设备和存储介质”发明专利就是通过获取目标用户的网络评论，对评论内容进行情感倾向识别得到相对应的情绪关键词，然后“根据情绪关键词和类别关键词对初始广告进行匹配，得到待推荐的目标广告，向目标用户推送目标广告:如果说这种基于自然语言理解技术(N

6、LP)的文本型情感计算仍是当前数字经济中情感计算应用的初级模式，那么能够对各模态信息进行融合的多模态情感计算则因识别内容更加全面准确而被视为情感计算商业化应用的未来。例如，支付宝公司“虚拟世界的广告投放处理方法及装置”发明专利就表明，该专利可以通过对用户脑电信号和眼部图像的情绪检测模型分析，获得多模态情绪特征和情绪等级，并基于此计算候选广告的广告数据与所述虚拟世界的虚拟环境数据的匹配度，进行虚拟世界的广告投放。实际上在域外,这种商业业态已经十分成熟。BBC早在2014年就与科技公司CrowdEmotion合作，通过捕捉与分析用户访问网站、节目时面对不同内容的面部表情，将用户情绪分为快乐、惊讶、

7、悲伤等六类，为优化差异化在线营销提供支持。总部位于伦敦的初创公司Realeyes则在整合超过380万个视频会话中的6.2亿个情感标签的基础上，分析视频内容对观众情感的影响来增强广告效果。2 .定制化消费服务根据峰终定律(Peak-EndRule),数字经济中消费者的消费体验并不取决于消费过程中良好与欠佳体验的比重以及两者时间的长短，而是由“峰时”体验和“终时”体验决定。因此通过情感计算的情感识别，结合峰终定律在加购、结算等峰终节点为消费者提供更优质的定制化服务，进而事半功倍地提升消费者消费体验就是数字经济领域部署情感计算的重要原因。而基于情感计算提供定制化消费服务的最典型场景就是网络交易中经营

8、者依托NLP技术进行情感分析的客服服务，当前大量互联网平台均部署了人工智能客服体系，如京东的JIMI、百度的UNrT、阿里巴巴的AliMe等。平台、商户通过对消费者与客服沟通用语、商品购买评价等UGC(UserGeneratedContent)内容的分析，发现情绪化.不友好等处于情感图谱之中具有情感极性的表述，并借助用户情感安抚、情感生产式语聊等手段针对特定消费者的个人特征和特定问题进行专门解决。此外，语音情感计算、视觉情感计算乃至生理信号情感计算也已经开始被用于为消费者提供定制化服务。如哥伦比亚研究人员研发的ANEMA分析工具可以通过对广告歌曲声学特征与消费者各种情绪之间关联的情感分析,在特

9、定服务场景下为消费者提供适当的歌曲，刺激消费者特定情绪的发展。亚马逊研发的Rekognition软件依托机器学习与计算机视觉(CV)功能，可以通过图像或视频的情感分析为消费者在身份验证、智能辅助等方面提供服务。在欧洲，Moodrise.Fika等健康类、医疗类平台还尝试通过设备连接消费者收集心电图、脑电波等生理信号，对消费者不同情绪下的身体或心理状态进行分析，进而为其提供专门的健康或诊疗方案。3 .其他个性化商业决策除上述两种场景外，情感计算还可以通过更深度的应用，实质性、直接性地影响甚至决定经营者面向消费者的其他个性化商业决策。以当前互联网经营者普遍应用的算法个性化定价为例,作为被广为诟病的

10、大数据杀熟背后的技术机理，算法个性化定价就是通过对用户数据碎屑.隐私信息的全方位收集形成“千人千面”的用户画像并判断消费者的差异化支付意愿，最终做出“千人千价”的个性化价格决策。而在其中，情感类信息作为消费者主观意图的直接体现，显然就是经营者价格决策的重要参考因素。例如在算法个性化定价常用的RFE用户活跃度定价算法模型中，经营者根据用户最近一次访问时间R(ReCency)、访问频率F(Frequency)和页面互动度E(Engagements)三个方面的指标对用户进行个性化定价。其中对于消费者页面互动度的评价，就会来源于对消费者在人机交互中发布评论、神态表情甚至浏览速度等方面的情感识别与分析。

11、英国公平交易局（OFT）在2013年发布的一份关于算法个性化定价的专项报告中指出，知名在线约会交友软件Tinder根据对用户特征的分析在全球范围内进行了大规模的个性化定价，不同消费者开通软件会员的价格最多可以相差六倍之多。而作为“情感资本主义”的产物，通过对用户在平台上右滑“喜欢”、左滑“跳过”、亲密表述、上传图片等行为的情绪识别与情感分析，判断用户对于线上交友的“焦虑”“紧迫”程度，进而预测其支付意愿的高低，就是Tinder之所以能够进行普遍性个性化价格决策的重要原因。二、风险检视：数字经济中情感计算应用与消费者权益的内生冲突在数字时代智能技术已经成为现代社会主要风险来源的情况下，基于情感计

12、算在数字经济中部署与应用的广泛性及其本身构成与使用的复杂性，数字经济中情感计算应用所带来的法律风险将更加立体、弥散。具有侵入性、使能性、隐蔽性、化约性的情感计算，可能产生系统的消费者权益损害风险。1.情感计算侵入性与消费者隐私权、个人信息权的零和博弈第一，从技术逻辑来看情感计算天然地具有较强侵人性。情感计算的技术基础是各种算法、传感器对自然人数字痕迹、生物信息的感知与识别，其具有显著的数据前置特征。现阶段这种感知与识别一是基于设备内置功能的非接触式方式实现，如通过话筒对用户声音的录制、摄像头对用户面部表情的采集等；二是借助外设设备的接触式传感实现，如血压仪、心率监测器等。而如休谟所言，情感是“

13、不经先前的思想或知觉而原始发生于灵魂中或身体中的“。显然无论通过何种方式感知与识别消费者的情感，情感计算的应用都将侵入人灵魂的最深邃、最隐秘之处。这种侵入也以消费者的个人信息与个人隐私为燃料。第二，数字经济中情感计算的商业应用将进一步强化其侵入性。在数据已经成为基础生产要素的当下，数字经济中经营者拥有越多的用户数据就越具有市场竞争优势。数字经济中经营者对于情感信息的收集，一方面会尽可能地与消费者特定个人身份相关联，以增强推销、服务、决策的“个性化”，而这也将与个人信息的诸多权能形成冲突；另一方面还会最大限度地向消费者自身的敏感、私密领域深入，以增强推销、服务、决策的“精准化”，而这也可能对消费

14、者的隐私权造成直接侵犯。进言之，经营者采集到的用户情绪信息越多，对消费者的用户画像就越清晰明确，进而其获客（差异化广告营销）、粘客（定制化消费服务）、转化（个性化商业决策）的效果也就越佳，因而，经营者在情感计算的应用中也就不可避免地会产生不断窥探、收集消费者个人隐私与个人信息的商业欲望。情感计算自身的侵人性特征以及数字经济中商业化应用对此的固化与强化，将使其与消费者隐私权、个人信息权陷入此消彼长的零和博弈之中。在最大化利润的诱惑下，经营者不仅有着难以遏制的不断爬取、挖掘消费者个人信息与个人隐私的冲动，还会通过监控用户聊天记录、擅自开启语音相机权限等非法手段获取大量用户情绪碎屑，对情感计算进行数

15、据喂养。同时相较于传统技术，多模态情绪识别情感计算在采集数据的“量”和情感分析的“质”两方面的提升在使其具有更广泛、深刻的侵入性之时，也会产生更直接、现实的消费者隐私权与个人信息权损害风险。2 .情感计算使能性与消费者公平交易权的紧张关系情感计算作为一种“通用目的技术”(generalpurposetechnology),其存在的价值并非是为某一特定问题提供最终的完美解决方案，赋能具体场域、为具体场域的实践提供“改进开放机会的使能作用(enabling)”才是其最重要的意义。通用目的技术由于具有较强的改进延展性、广泛适用性以及与其他技术的互补性，其在具体场域与专有技术的叠加将进一步释放自身的使

16、能作用，为技术主体带来巨大的应用价值。然而，正如创新扩散理论所认为的，技术的创新与扩散将会加剧社会的不公：一是技术的早期采用者通常拥有更多资源也更有能力接受高成本的创新；二是技术的早期采用者会获得大量的额外利润，使其与后来者经济社会地位的差距进一步拉大。数字经济中，情感计算强大使能作用对经营者的单方面赋能也将会潜在冲击消费者的公平交易权利。公平交易权作为我国消费者的基本权利，实际上是近代以降平等权在商品经济领域的具体体现，其要求消费者与经营者之间交易过程与交易结果的双重公平。但是，数字经济中经营者情感计算的应用却可能对交易公平的实现带来现实障碍。具体而言，一是工具障碍。数字经济中，组织化的经营

17、者本就拥有更多的技术工具对个体消费者进行支配。作为前沿智能技术的使能性情感计算在赋能经营者、进一步丰富经营者技术工具箱的同时，消费者却对此缺乏必要的反制工具与反制能力，两者的关系可能进一步失衡。二是信息障碍。市场经济中，理性经济人的实现要求其应具有所处环境的完备知识，或至少是相当丰富、透彻的知识。市场机制本质上是一种信息机制，在具体交易中对于信息的掌控能力直接关系到交易者自身的价能力，由于具有侵入性的情感计算将方便经营者收集掌握消费者大量的个人敏感信息、隐私信息，因此情感计算将导致经营者与消费者之间严重的信息不对称,影响两者的公平交易。3 .情感计算隐蔽性与消费者知情权的潜在抵悟作为消费者权利

18、束中的前置性、基础性权利，消费者知情权是消费者公平交易权、安全保障权等其他权利的前提与保障。尤其是区别于在线下实体商户进行消费时消费者可以对商品的品质进行亲身的感触与甄别，在数字经济中消费者往往无法切身感知商品，因此在消费决策中消费者对于交易情况的知情就更加重要与关键。然而情感计算的双重隐蔽性可能会在多个环节制约着消费者的知情，具体表现在如下方面：第一，情感采集、识别的隐蔽性。数字经济中，消费者知情权所涵摄的内容“既包括现行消费者权益保护法（以下简称消保法）列举的与商品和服务相关的信息，还包括经营者的身份、信用，网络购物的交易规则、格式条款，物流经营者名称等一系列与网络购物各环节相关的信息二特

19、别是根据个人信息保护法（以下简称个保法）规定，个人对其个人信息的处理享有知情权。因此可见，数字经济中消费者的知情权具有全过程性。而如前所述，当前数字经济中情感计算的应用既包括接触式，也包括非接触式。在表情、声纹、体态等大量非接触式识别场景中，情感计算的应用不需要与消费者进行有形的物理连接就可以进行，消费者自身也难以觉察这一过程。再加之当前数字经济实践中告知同意规则的虚化，经营者应用情感计算对消费者情绪的隐蔽采集识别与消费者的知情权存在着严重的抵悟。第二，情感影响、干预的隐蔽性。情感计算本质上是一种阈下信息技术。阈下信息（SUbIiIninaIlnforiilation）的“阈指的是心理学上人的

20、感觉阈限，阈下信息也就是在人感觉阈限范围外的信息。阈下信息技术借助阈下情绪启动效应引导人们在阈下水平处理加工信息，以不自知、潜意识的方式影响人的情绪发展。从数字经济实践来看，经营者也正是利用情感计算这种阈下信息技术的隐蔽性，通过差异化、定制化、个性化的环境塑造、决策安排来潜移默化地影响、干预消费者情感，促进消费者消费。因此，一方面，情感计算对消费者情感的隐蔽影响为消费者营造了算法牢笼与情绪茧房，不断地投其所好将造成消费者消费过程中的知情窄化与理性消损；另一方面，情感计算的隐蔽实施将进一步放大自身的黑箱效应，使消费者对于情感计算影响自身消费决策的技术机理更难以产生充分的知情，甚至还会因为这种隐蔽

21、性造成对自身知情权减损的习焉不察。4 .情感计算化约性与消费者受尊重权的价值张力作为一种哲学思想，化约主义(reductionism)认为所有繁复冗杂的系统、现象均可被化整为零为低层次的部分与构件，从而对整体进行认识和描述。在数字经济中，情感计算的化约性体现为将消费者复杂的、多元的、感性的、脱序的情绪情感转化为简单的、单一的、数学的、规则的比特形式代码，从而依托技术机制对情感机制的解构、识别、表达与影响为经营者的商业行为提供支撑。然而数字经济中情感计算在将情感这一人类最复杂的意识以技术的方式化约的同时，其也在价值层面与消费者的受尊重权产生了难以调和的内在张力。具体而言，表现在以下两方面：其一，

22、代码化的消费者情绪解构与攫取。化约性的情感计算预设了人类情感的离散可数，认为人类的情绪、情感能够在采样定理规律的约束下被一种符号化、数学化的图式机制来完全解构,进而将人的情感作为一种脱离于主体的外在对象或客体进行控制与攫取。那么这就会产生赫拉利在未来简史中提出的问题:“人类有什么能胜过鸡的地方呢？”因为就算说人类有更深的情感、更高的智力，但在化约主义者看来，“情感和智力也不过都是算法罢了二情感作为人之所以为人、为道德人的理由，化约性情感计算对消费者情绪的代码化解构和攫取可能滑人拉美特利“人是机器”的机械唯物论陷阱，将使人成为技术的客体甚至是技术本身而引发人的主体性危机。其二，可误性的消费者情绪

23、识别与表达。情感计算的底层逻辑“基本情感理论”(basicemotiontheory)要求，情感计算的实施应当建立在两个条件之上：一是可以从外在表达识别内心情感；二是此识别真实可靠。然而，首先就心理科学而言，情感计算所识别的人的外在表达与内在情感之间并不存在必然的普遍的关联。如德国一项研究发现，悲伤、愤怒和恐惧等情绪与面部表情的关联就十分有限。而且，性别、种族、环境等差异也都会导致不同群体的情感表达存在区别。其次，就计算机科学而言，在心理学领域使用人工智能技术的核心步躲为从人的情绪情感中剥离出有意义的抽象表征，然后将这一表征放置在假定能够运行人类思维的机器之中，也即思维的模型化。然而，这一过程

24、充斥其间的常是产物/过程谬误一一过程的产物和产生这个产物的过程并不必然相似。实践中，情感计算鲁棒性的不足也已经产生了将咳嗽等高音调声音误判为攻击性情绪的情况。因此从心理学和计算机科学的双重可误性可见，情感计算可能误读、误判消费者情绪的代码化化约更难以称得上是对消费者人格的尊重。三、路径选择：数字经济中情感计算应用消费者权益保护的具体交易范式近代以来，消费者权益的法律保护主要存在着抽象交易范式和具体交易范式两种，而两者在价值导向、制度设计等方面均存在着差异甚至对立。抽象交易范式根据民法形式正义的价值追求,立足于交易主体的抽象平等，认为只要通过市场力量、意思自治的约束就可以消解市场交易中合同当事人

25、的力量不平等，因此无须对消费者进行特别的保护。具体交易范式则从具体交易环境下消费者的全方位和结构性之“弱”出发，主张通过专门的交易规则和交易模式保护消费者，以制度性的挽救弥补消费者的弱势地位，尽可能地实现经营者与消费者之间的实质公平。而基于两者的对比可以发现，具体交易范式应当是未来情感计算应用中消费者权益保护的应然路径。1 .具体交易范式消费者权益保护的证成区别于以缔约双方为主体展开的抽象交易范式下的消费者权益保护，具体交易范式通过在经营者与消费者之外引入国家这一角色干预、调平两者的不平等交易地位，形成了“经营者一消费者一国家”这一三元主体法律结构。而从这三个主体的视角：数字经济辐条式交易结构

26、形塑的经营者强势地位、情感计算大规模微型损害造成的消费者权益风险、国家干现代化模式转型要求的国家积极角色出发，可以发现消费者经营者维度体现出的市场失灵以及国家积极角色要求的有为政府，正是基于具体交易范式展开情感计算应用中消费者权益保护的逻辑起点。(1)数字经济的辐条式交易结构数字经济时代，互联网等技术在使经济领域的权力逐渐弥散的同时，数据、算法等数字资本的聚集又使大型平台企业等主体形成了新的垄断性权力，数字经济呈现出从“去中心化”到“再中心化”的演化进路。进而，数字技术在对零散社会关系的整合与控制中造就了“中心一边缘”的辐条式商业结构。这种结构下，较之消费者，经营者作为轴心居高临下地占据着绝对

27、的优势交易地位。特别是在情感计算的应用中，情感计算的单向度赋能以及经营者依托情感计算展开的差异化广告营销、定制化消费服务与个性化商业决策都将增强消费者对于“轴心”经营者的用户粘性,进而固化、强化数字经济中的辐条式交易结构。显而易见，数字经济辐条式交易模式形塑的经营者与消费者之间的地位落差远非是依靠消费者自身就可以弥补的。在数字经济场域下，经营者的强势地位使“互换性”这一抽象交易范式消费者权益保护的理论内核不再自洽一一抽象交易范式认为由于市场经济中商品服务的提供者和需求者之间存在角色互换，主体间的实力差异将因“今日消费者，明日经营者”的不断转换而抵消，故无须特别考虑消费者的特殊性，只要制定针对市

28、场交易过程的普遍规范即可。而显然，就数字经济中情感计算的应用而言，当经营者对消费者使用了情感计算，消费者当下或者未来能够进行角色互换以同样的情感计算技术进行反制与回应吗？抽象交易范式的消费者权益保护本质上是一种形式的平等，即从抽象的法律人格维度要求法律的平等对待。但其全然未虑及现实世界中个体的异质性，将市场主体之间经济、社会等方面的不平等置之一旁而不顾。其对于市场经济自由竞争后消费者实质弱势地位的忽视，将会导致强者愈强、弱者愈弱的马太效应，并可能陷入社会达尔文主义的行动窠臼。因此消费者作为数字经济中、特别是情感计算应用中的绝对弱势主体，应当被放置在数字经济的辐条式交易结构中进行权利义务审察。由

29、此也就不难发现，为何要在具体交易场景下强调对消费者的特别保护。（2）情感计算的集体性分散损害在德国法中，集体性分散损害是指单个损害事件对多人造成损害的情形，其主要表征为单个受害者遭受的损失十分微小，甚至不及最低损害标准，但所有个体的损害之和却达到了可观的量级。即其具有范围的广泛性、个体的细微性以及总体的规模性特点。集体性分散损害被认为是数字时代具有代表性的一种侵权责任类型，其也常被称为“大规模微型侵害”。在数字经济中，情感计算对于消费者产生的系统性权益损害风险就将这种损害体现得彰明较著。如上所述，数字经济中情感计算的应用可能对消费者的多项权利造成损害。而展开来看，第一，数字经济的辐条式交易结构

30、决定了这种损害的广泛性与分散性。在数字经济中任何不特定的消费者都有可能成为情感计算的“算计”对象。第二，实践中隐私权与个人信息权的损害常体现为“微型损害”，消费者公平交易权、知情权的损害则内嵌于市场结构而具有间接性的特征,消费者受尊重权又多依靠价值判断而非规则判断，再加上情感计算的隐蔽性将使经营者对消费者权益的侵害往往发生于无形之中，因而情感计算造成的消费者权益损害在直观上、个体上一般体现得并不明显。第三，数字经济中情感计算面向消费者的广泛实施将使上述面向个体的、分散的、微型的损害在整体上聚合,进而导致数字经济中消费者群体需要承担规模性的权益损害风险。要言之，在情感计算的应用中，消费者与经营者

31、所承担风险的质与量完全不同。就质而言，经营者所承担的是经济风险，而消费者除了承担公平交易权等权益受损所带来的经济风险外，还必须承担在隐私权等方面的人格风险；就量而言，经营者承担的风险是相对量化的、个体的，而消费者所承担的风险则是弥散的、群体的。情感计算的这种集体性分散损害突破了寄希望于维护交易主体抽象平等地位进行消费者保护的抽象交易范式假定。其对于消费者整体的大规模损害及其背后经营者聚沙成塔的额外利润攫取，要求必须着眼于具体交易对经营者与消费者的关系进行制度性纠偏。(3)国家干预的现代化模式转型强调机会自由、契约自由的抽象交易范式消费者权益保护本质上是功利主义法哲学的具象，而功利主义的平等观、

32、自由观势必会导致平等与自由的滥用，继而使消费者在所谓的“充分竞争”中成为最终的受害者。具体交易范式的消费者权益保护以及包括消费者权益保护法在内的现代经济法背后的国家干预理论的产生，不仅是价值层面对传统功利主义的深刻反思以及实质正义论对形式正义论的取代，更源于经济结构演变进程中市场内关于国家角色与“看得见的手”的认知更新与定位重构。所以这也是经济法的国家干预理论所强调的，国家的干预实践必须协同市场的干预需求，与场域中的干预需求相耦合。即，国家干预的模式应当契合场域（市场）的变迁。当前，在全力推进中国式现代化的进程中，现代化市场经济的新演化及其对消费者权益产生的新影响也要求国家对于消费者与经营者关

33、系的干预进行模式转换。迈向数字社会的现代化转型使数字经济成为推动中国经济增长的主引擎，消费也成为深化供给侧改革的动力源泉与双循环发展的核心支点。由此“传统的以生产（者）为中心的产销一一从生产、销售到消费的科层式和非对称性结构正面临解体和重构，新型的以消费（者）为中心的产消一一从消费到生产的扁平化和共融性结构正在形成二在数字时代“生产者社会”向“消费者社会”进行现代化转型的背景下，社会经济的发展必然要摒弃过去的“低成本发展模式”,即通过削减经营者义务与抑制消费者权利的方式来降低经济的发展成本，置换经济的高速增长。“低成本发展模式”本质上是一种生产者主权的市场经济，而早在18世纪亚当斯密对重商主义

34、进行批判时就曾谈道：“生产的目的是为了满足消费需求，只有消费者的利益得到维护时，生产者的利益才能得到保障。”所以经济社会的现代化转型需要消费者主权市场经济的塑造,而这就需要“全面提升消费服务质量”和“全面提升市场监管能力”，二者分别重在改善消费环境和提升消费者权益保护水平。概言之，市场经济现代化转型背景下的消费者权益保护以及由此推及的数字经济中情感计算应用的消费者权益保护，不仅需要国家的消极义务，也仰赖于国家积极义务的履行。抽象交易范式下国家“守夜人”的身份定位以及根据所谓自由竞争、意思自治而对于消费者权益损害采取的“鸵鸟政策”，应当为具体交易范式下基于现代化治理要求而调适的、更积极有为的消费

35、者权益国家干预模式所替代。2 .具体交易范式消费者权益保护的原则(1)倾斜式保护立场“作为最典型的弱势当事人，消费者在现代法上的登场显在地表明，传统合同法上人的冷漠抽象与社会现实中合同当事人的参差鲜活以及近代民法所设想的交易理想模式与现实模式之间的隔阂，随时代变迁而加剧J因此消费者权益保护具体交易范式的核心就在于，通过识别消费者较经营者的全方位之弱，对消费者进行倾斜式保护。就面向消费者的情感计算应用而言，如前文所述，数字经济的结构特征、情感计算的自身特性都强化了消费者与经营者之间的不平等关系。因此为构造实质平等的法秩序，就有必要植根法律父爱主义的价值立场、采取不对称家长制(asymmetric

36、paternalism)的行动策略，关注情感计算应用中消费者这一“处于社会弱势群体的、现实的人”，通过对“从身份到契约这一法律发展模式的反动”来对消费者进行倾斜式的保护。而“若平等权在立法者未依理智的，根据事务之本质以及有充分之理由，就径予为区别待遇规定，即属违宪之恣意二从宪法层面来看，具体交易范式着眼于具体交易对消费者的倾斜保护实际上体现的也正是“事务本质说”的平等权判断范式。(2)法定化权益保障消费者权益保护的具体交易范式作为对抽象交易范式的扬弃，在倾斜式保护立场的基础上，强调“通过消费者权利的法定化，实现具体交易中消费者权益保护的目标”。详言之，第一,“消费者权利，与其说是权利，不如说是

37、作为弱者的消费者的失地回复的手段”，具体交易范式下的消费者保护体现的是通过赋权消费者促使消费者与经营者关系天平动态平衡的过程。这种“失地收复的手段”与“平衡天平的硬码”如果得不到法定化确认，自然就会因缺乏执行力、公信力、权威性而成为空中楼阁。第二，具体交易范式强调的对消费者的赋权，其反面实质上就是对经营者权利、私法自治的消极限制以及对经营者义务的赋予，而国家干预对于经营者与消费者关系的介入，体现的也是公权力对市场机制的干涉。根据法治原则，任何权利的限制、义务的增予以及自由的干涉都应于法有据。因此未来也应当从追求权利法定、实然权利的立场出发，通过对情感计算应用中消费者应享有权利的规则化构造与制度

38、化确认，明确经营者的行为禁制进而确定政府介入两者关系的条件、权限与范围，实现消费者权益的法治化保护。(3)专门性规范塑造邓正来在中国法学向何处去中，曾批判了消费者权益保护领域的研究将消费者视为一个同质现代主体而忽略了其中差异性的倾向。就数字经济中被“情感计算”的消费者而言，如上文所阐释的，其可能的权益损害就与非数字经济环境下或者其他智能技术指向下的权益损害存在内在与外显的多重区别。具体交易范式之所以更适合情感计算应用中的消费者权益保护，核心在于其着眼于具体交易的特征可以发现消费者异质性或进行消费者细分，而非抽象交易范式所认为的消费者与经营者的抽象平等。有鉴于此，关注具体交易中消费者权益保护的具

39、体交易范式就应当根据场景公正(Contextualintegrity)的原理,通过解构与识别情感计算应用场景下的消费者与一般情境下消费者在自身特质、权益损害、维权困境等方面的差异，有针对性地进行专门性规范塑造，实现对情感计算应用环境下消费者的周延保护与倾斜保护。四、制度因应：数字经济中情感计算应用消费者权益保护的规则建构在数字经济中，面向消费者的情感计算应用具有较强的双刃性、反噬性、风险性，可能产生对消费者权益的系统损害。因此立基消费者权益保护的具体交易范式及其方法论指引，下一阶段应当根据数字经济的场景特征建构一套能够有效规控情感计算应用、有效保护其应用中消费者权益的规则方案。1 .边界设置：

40、数据最小化原则的全面嵌入2018年，欧盟实施的通用数据保护条例(GDPR)在世界范围内率先确立了“数据最小化原则二在我国，从民法典第1035条规定的“不得过度处理(notexcessive)个人信息的禁止性、不作为义务，到个保法第6条和第19条明确的个人信息收集保存应当“限于最小范围、最短时间”(IimitedtO)的命令性、积极义务，立法表述的变化也体现了我国立法者对于数据最小化的鲜明立场。因此在数字经济中情感计算应用与消费者个人信息权、隐私权存在明显张力的情况下，未来就可以通过数据最小化原则在情感计算商业化应用中的全面嵌入，为经营者的数据行为划定合理边界。首先是基于数据风险类型的差异化边界

41、构造。第一，将情感计算应用所涉及的消费者数据分为“有风险”和“无风险”雨大类。情感计算所涉及的消费者数据虽然大多为具有涉身性的个人数据，但其中也有部分数据不与个人关联、不属于个人数据。因此对于此类无害于消费者隐私权和个人信息权的数据，就无须进行专门的最小化规则限制。而对于人脸、声纹等能够定位到个人、具有权益损害风险的情感数据，则应当进一步划定差异化的处理边界。第二，将“有风险”数据分为“高风险”和“低风险”两类。如就稳定性而言，面部等生理数据较操作记录、肢体语言等行为数据更加稳定和不易改变、更易于指向个人；就隐蔽性而言，表情、眼动数据能够被秘密无接触地收集，而呼吸、心电等数据的收集则需要通过介

42、质或仪器；就危害性而言，人脸、声音较其他类型的数据在深度伪造普及的时代对主体的危害更加弥散。因此在情感计算应用的规制中，就应当将上述各场景中的前者判定为高风险数据，将后者判定为低风险数据。然后基于风险等级的不同，将高风险数据与低风险数据在数据总体体量与具体颗粒度等方面划定差异化的最小化边界。其次是基于数据处理流程的场景化方案设计。第一，在数据收集、储存阶段，如英国对GDPR数据最小化条款进行解释时强调的，企业拥有的个人数据取决于收集和使用个人数据的具体目的，它可能因人而异。基于情感计算应用的差异化、个性化、定制化功能，可以通过设定消费者信息门户等，使消费者能够自行访问并配置隐私菜单，确定情感计

43、算应用中经营者可以收集、储存的个人情感数据的类型、频率、数量、期限。第二，在数据使用、加工阶段，根据个保法第9条、消保法第29条赋予个人信息处理者、经营者的信息安全必要措施义务，可以要求经营者在情感计算应用中应优先使用隐私计算等去标识化技术、瞬时决策的数据实时处理技术、“用后即焚”的信息自毁技术等。第三，在数据传输、公开等环节，将推荐性国家标准信息安全技术个人信息安全规范(GB/T35273-2020)中的授权同意制度进行明确与细化，参照商业秘密保护制度中的接触范围控制原则,建立具有约束力的最小授权制度。即，经营者应当授权最少的操作人员接触最少的消费者个人情感信息，并尽可能地将完整个人情感画像

44、涉及的数据分割到不同的岗位和环节。2 .交易公平：伦理法治相耦合的禁制厘定数字经济中，情感计算的单方面赋能使经营者较消费者在工具、信息等维度具有全方位优势，再加之这种参差赋权内嵌于数字经济辐条式的交易结构，情感计算应用场景下消费者难以实现与经营者之间的实质交易公平。因此鉴于情感计算规制中伦理的价值评判有助于对法律的规范评价进行合目的性审查，情感计算应用中的消费者权益保护可以遵循情感伦理与消费法治相结合的原则，设定交易公平要求下情感计算的应用禁制，避免经营者在数字经济中依靠情感计算技术恃强凌弱。首先，经营者不得利用情感计算进行消费者歧视。就像有批评者质疑的，看似科学但存在严重技术瓶颈的情感计算对

45、人的差异对待与“种族科学”或“面相学”“颅相学”何异？在情感计算科学性尚不完备的情况下，经营者对消费者的情绪识别以及进一步的个性化、差异化、定制化服务与决策，应当实现情感计算数字红利的分配正义。详言之，在情感采集识别中，应当将消费者歧视禁止要求与数据最小化原则相衔接，禁止频繁采集甚至禁止采集特定用户的情绪、特定的情绪类型、特定环境下的用户情绪等，以此避免情感计算算法在自我学习中形成偏见。在情感画像表达中，一方面应注意到不同场景、情境下消费者情绪外现的差异性，避免将消费者的普遍性情感特殊画像于消费者个体,将消费者的个体性、偶发性情感普遍性地归于消费者群体或作为个体消费者的情绪全景；另一方面，对于

46、消费者情感特征表达、标签的设置不应采取诸如“易怒”“狂躁”等歧视性、主观性的表述。而在情感计算决策中，应当结合信息安全技术个人信息安全规范对于用户画像的合法性要求、衔接下文阐释的消费者情感计算拒绝权规则，明确经营者不得利用情感计算的识别分析对个人在交易价格等交易条件上实行不合理的差别待遇。其次，经营者不得利用情感计算控制操纵消费者情感。从伦理学的视角来看，情感作为一种主体性的信息表达，其不仅具有极高的伦理地位，还关系到社会整体正义。因此，为保障数字经济中的交易公平，经营者情感计算的应用不应产生对消费者情感的控制操纵作用。即，一是避免情感计算的“恶用二情感计算的恶用主要是指超越法律禁区与伦理禁区

47、的不正当目的情感计算应用。如利用未成年人、残疾人等特殊群体人性上的弱点进行针对性应用等。对于情感计算的恶意应用，应当被严格禁止。二是避免情感计算的“滥用”。情感计算不分场合、群体的滥用将导致消费者陷入算法牢笼、情绪茧房与情感意义上的全景监狱,并最终使消费者被经营者情感规训。根据以上要求，数字经济中经营者情感计算的应用应当尊重消费者的情感自由与选择自由，不能增加消费者的情感负担与消费负担，如不能针对消费者自身的情感状况以“贩卖焦虑”或进行“情感绑架”“道德绑架”等方式促使消费者消费。除此之外，数字经济中经营者面对未成年人、精神病人等特殊群体的情感计算应用，应当设定更严格的专门规则。3 .说明义务

48、：情感采集与应用的贯通解释从个保法第73条第2款可以看出，数字经济中情感计算的应用与自动化决策存在着一定的混同。经营者对于情感采集应用的贯通解释，与自动化决策的分析框架具有较强的互耦性。依据个保法第24条第1款的规定，数字经济中情感计算的应用“应当保证决策的透明度和结果公平、公正因此结合消保法第29条规定的经营者收集、使用消费者个人信息要“明示目的”“公开规则”，经营者应负有对消费者个人情感信息如何被收集、处理以及信息使用目的、状态等详尽内容进行解释说明的义务。首先，经营者应当对情感计算采集消费者数据信息的情况进行解释说明。如上文所述，由于消费者的情感信息与个人生物识别信息或个人身份信息具有较

49、强的交叉性，因此对于经营者此义务的强调也是情感计算应用中数据最小化原则的延伸。正如情感计算技术应用机理所揭示的，其定制化、个性化、差异化的服务与决策来源于对不同消费者情绪特征的标注、归纳与分析。因此经营者对于消费者情感数据信息采集识别的解释说明，核心就在于此数据信息与经营者后续推荐、决策等商业活动的相关性，即对情感数据也就是算法变量（情感变量）如何影响情感的计算、计算中不同情感信息的功能权重等进行解释。其次，经营者应当对情感计算具体应用的逻辑机理进行解释说明。经营者与消费者对于情感计算的对称知情，核心要义在于确保消费者对于情感计算的运行能够认识理解、对于情感计算的决策形成稳定预期。由于情感计算技术构成的复杂性，此处经营者的解释义务并不要求其对情感计算运行逻辑的每个细节进行说明，而是要求其在基础技术框架上对情感计算的机理、模型、目