算法应用不公该如何规制

● 网络游戏抽奖概率不明、网络消费促销规则繁复、网络搜索竞价排名推荐、刷好评隐差评使评价结果呈现失真、平台采用算法限制交易等侵害消费者权益的行为屡禁不绝、备受诟病

● 一些常见的网络消费领域不公平算法应用具有技术性和隐蔽性，潜移默化地影响着消费者的购买决策，消费者很难通过个体力量与之抗衡

● 应加强算法应用的有效规制，一方面加强机构设立和立法规制；另一方面加强监管协作和机制建设

□ 本报记者 侯建斌

随着平台经济快速发展，网络购物、交通出行、旅游住宿、订餐外卖、网络游戏等网络平台逐步兴起，这些网络平台通过大数据、人工智能等手段为消费者提供了更丰富的产品或服务，与此同时，一些侵害消费者权益的行为如影随形。

大数据“杀熟”，也只是冰山一角。近几年，网络游戏抽奖概率不明、网络消费促销规则繁复、网络搜索竞价排名推荐、网络直播推送违反法律规定和公序良俗、刷好评隐差评使评价结果呈现失真、平台采用算法限制交易等侵害消费者权益的行为屡禁不绝、备受诟病。

“这些问题的背后，核心是互联网平台对算法技术的应用。”中国消费者协会近日召开网络消费领域算法规制与消费者保护座谈会，中国消费者协会秘书长朱剑桥坦言，技术进步和应用总体上有利于增进人类福利，同时也会造成新的困扰和伤害。在网络消费领域，可能会减少消费者选择的时间成本，但是也会让消费者面临信息安全、歧视对待等消费风险。

“流量至上”“利润至上”的算法应用，可能会使经营者行为有悖法律、有失道德、有违伦理。“网络经营者应当严格遵守法律规定，诚信应用算法，反对利用技术手段，欺骗、隐瞒真实情况，欺凌消费者。”中消协呼吁，在算法应用中，网络经营者应当加强自律，守法经营，承担应尽义务和责任，同时，各行业组织应加强引领和督导，使网络经营者合理合规地应用算法，净化行业风气，促进良性发展，有效维护消费者合法权益。

此外，应加强算法应用的有效规制。中消协建议，有关行政部门加强相互协调，细化监管职责；完善执法依据，做好规章废改衔接；加强对算法应用的分级标识和分类管理，对涉及公共利益、生命健康、财产权利等的算法应用强化监管，对具有市场支配地位的平台经营者的算法应用强化监管，对涉及价值观、道德观特别是未成年人教育的算法应用强化监管。

大数据杀熟维权难

集体救济机制待建

2019年3月，北京市消协发布的《大数据“杀熟”问题调查报告》(以下简称《报告》)显示，88.32%的被调查者认为大数据“杀熟”现象普遍或很普遍，没有被调查者认为大数据“杀熟”现象不存在。有56.92%的被调查者表示有过被大数据“杀熟”的经历。

其中，被调查者在购物类、在线旅游类和打车类App或网站经历大数据“杀熟”最为常见，其他依次为外卖类、视频类和电影类App或网站。其中，经历过前三类App或网站大数据“杀熟”的被调查者分别达到44.14%、39.5%和37.17%。

北京市消协副秘书长陈凤翔指出，表面上是通过数据，针对消费者推送服务，但从深层次看，大数据“杀熟”的本质是部分经营者对消费者个人信息过度采集和随意使用，使消费者的知情权、选择权、公平交易权以及个人信息保护权利未得到充分尊重和保证。

短期来看，大数据“杀熟”或许能给企业赚取更多利润，但从长远来看却透支消费者对品牌的信任。专家认为，大数据“杀熟”背离最基本商业伦理和企业价值，违背诚信经营原则。

究其原因，陈凤翔分析说，一方面是算法本质是互联网的一个编程技术，这种编程技术由人为参与和输入，有的编程者并不懂得法律，编制过程中会触及消费者的底线，或者侵害消费者权利。

另一方面，技术演算出来造成消费者的伤害。这种伤害可能是初期算法的歧视，或者算法在计算机背后所产生的副作用。

《报告》显示，遭遇大数据“杀熟”后，26.72%的被调查者选择向消协或市场监管部门投诉，25.56%的被调查者选择不再去这个商家消费，17.43%的被调查者选择忍气吞声、自认倒霉，11.71%的被调查者选择与商家理论并要求赔偿，10.46%的被调查者选择卸载商家App或删除网址，8.13%的被调查者选择在社交网站或向媒体曝光。

大数据“杀熟”具有隐蔽性，维权往往难以举证。陈凤翔建议，通过公益诉讼方式，推动社会各界协同共治。

中国政法大学副校长时建中同样认为，大数据“杀熟”是商家滥用数据优势的一种典型行为。商家是数据绝对优势占有者，滥用数据绝对优势，损害消费者利益的行为并不鲜见。大数据一旦“杀熟”，针对的是该种消费模式的所有消费者，而非具体消费者。

解决大数据“杀熟”需要建立集体救济机制。时建中坦言，对于个体消费者而言，不一定能够发现“杀熟”，而且发现之后不一定能够保存证据，即便保存之后也不一定会寻求救济，因为救济成本太高。

大数据“杀熟”是价格歧视的一种。中消协披露，有些经营者利用算法进行的价格歧视还包括对不同地区的消费者制定不同价格；多次浏览页面的用户面临价格上涨；利用繁复促销规则和算法，实行价格混淆设置，吸引计算真实价格困难的消费者。

不公平算法很隐蔽

消费者容易被压榨

算法本身是一种技术手段，经营者可以利用算法提升经营效率，为消费者提供更丰富、更优良的产品和服务。

“算法从技术角度来说，的确对于互联网经济的发展有很大的贡献。”对外经贸大学法学院教授苏号朋认为，要客观认识到的是，算法对于商家来说，是一种重要的营销或者销售工具；对消费者来说，亦不能否认算法，尤其是推荐算法给消费者带来的便利。

在苏号朋看来，算法的正面意义在于，一是降低复杂定价成本；二是降低频繁改价的成本；三是显著提高定价决策的质量。

当然，商家也可以利用算法钻法律的漏洞，实施违法违规行为，侵害消费者的合法权益。由于商家存在对算法权利的垄断，如果这种算法垄断被滥用，消费者基本无能为力，因为无论是取证本身，还是举证，以及证据被相关执法机构采纳的可能性，目前都存在巨大难度。

“商家借助算法这种技术手段，扩大了商家和消费者之间的技术鸿沟。”苏号朋坦言，不公平的算法对消费者所造成的侵害，不仅损害消费者的公平交易权，而且侵害了自主选择权和知情权。

中消协此前根据消费者投诉、有关调查和相关报道，梳理出网络领域涉及消费者权益的算法应用问题包括推荐算法、评价算法、排名算法等不公问题。

比如，通过监测分析消费者的消费行踪轨迹，如浏览过的页面、广告、商品服务、话题等，有针对性地对消费者进行商业营销。朱剑桥坦言，这类推荐算法利用消费者的数据画像，实施所谓的精准推送。许多消费者误以为自己看到的与旁人无异，导致知情、选择不足。有些经营者通过算法应用推送的商品、服务内容，甚至违背法律和公序良俗。

还有部分平台及平台内经营者为获得好评，运用刷单等方式，编造虚假高分评价，或者隐匿中评、差评，使真实评价无法显现。“虚假评价、评价失实呈现，不仅破坏经营者之间的公平竞争，也对消费者购买决策产生误导。”朱剑桥认为。

此外，平台经营者制定各类排名榜，声称基于消费者好评率、销量等，对各行业或商品服务类别进行排序，引导消费者选择，但具体如何计算得出的难以知晓。

一些线上经营者开展有奖销售、抽奖兑换，特别是部分网络游戏公司经常推送游戏道具抽奖活动，虽然公示中奖(掉落)概率，但是其算法程序不透明，实际中奖概率缺乏管控，屡遭消费者诟病；还有一些平台利用所处优势地位通过算法在流量分配、搜索排名等方面设置障碍和限制，控制平台内经营者开展交易，影响公平竞争和消费者选择。

“一些常见的网络消费领域不公平算法应用，具有技术性和隐蔽性，潜移默化地影响着消费者的购买决策，消费者很难通过个体力量与之抗衡。”朱剑桥指出，如果任其无序发展，一方面不利于市场经济的公平有序竞争，不利于经济可持续发展；另一方面也会使消费者面临数据算法压榨，成为技术欺凌的对象，甚至被算法扭曲价值取向和道德观念，沦为平台经营者的掌中“玩物”。

不断加强监管协作

有效规制算法应用

中消协认为，互联网条件下，由于信息占有、技术应用等原因，网络经营者处于更为强势的地位。在算法应用中，网络经营者应当加强自律，守法经营，承担应尽义务和责任，维护消费者的合法权益。

时建中认为，算法公平监管或者公平治理，必须要解决诚信、透明和公平问题。此外，除对应用算法的企业所实施行为进行道德评价、法治评价外，强化企业社会责任的评价也是一个重要路径。

清华大学法学院副院长程啸指出，算法问题可以通过技术解决。比如，鼓励针对市场有垄断地位企业的算法采取反制措施的算法研究，用算法针对算法，让算法之间形成竞争关系，从而重塑市场竞争机制。

中消协建议，加强算法应用的有效规制，并呼吁社会各界通过力所能及的方式，共同做好社会监督，促进算法应用的公平、合理，防止经营者利用算法作恶。一方面，加强机构设立和立法规制。在个人信息保护法、反垄断法、反不正当竞争法、价格法等相关法律中，增加算法应用的相关规定。

一是国家设立算法伦理专门机构，负责算法应用伦理、规则、标准制定，不公平算法应用调查、处理等，并指定相关政府部门负责，加强对算法应用的有效监管。

二是明确算法应用结果一致性要求。规定算法搜索结果应同时呈现公共选项，即所有用户运用同样的搜索方式，应可得到相同的结果。且相关结果应作为优先选项推送，保障消费者有效便捷获取。

三是保障算法应用的透明、公平、诚信。明确经营者使用算法应做到可知、可查、可逆。发生争议，负有向有关行政部门、司法机关、第三方机构提供算法、后台数据、相关资料及进行说明的义务。做到算法应用的可验证、可解释、可追责。

四是明确举证责任倒置规定，强化算法实施方的举证责任，明确其伪造、篡改证据的责任和后果，解决消费者举证难、鉴定难的问题。

另一方面，加强监管协作和机制建设。朱剑桥说，互联网领域算法应用十分广泛，建议有关行政部门加强相互协调，细化监管职责；完善执法依据，做好规章废改衔接；加强对算法应用的分级标识和分类管理，对涉及公共利益、生命健康、财产权利等的算法应用强化监管，对具有市场支配地位的平台经营者的算法应用强化监管，对涉及价值观、道德观特别是未成年人教育的算法应用强化监管。

朱剑桥指出，要加强对算法的事前、事中、事后监管，通过对算法应用进行必要的目的审核、法律审核、道德审核，以及建立黑名单制度等措施进行有效管理；建立算法投诉审评机制，保障消费者和社会各界的投诉、监督权；培育第三方技术鉴定机构，强化对算法应用的技术审核力量；保障互联网经济持续健康发展，有力维护消费者合法权益。

与此同时，朱剑桥建议，有关司法机关加强对算法应用案件的分析研究，推动出台有关司法解释，充分发挥司法机关的审判和监督作用，强化经营者举证责任，加强对算法应用问题的实质审查，通过司法判例弘扬公平正义，强化对消费者权益的保护。

制图/李晓军