算法歧视等不公平现象存在全球加强“大数据杀熟”监管力度

数字化时代，消费者拿起智能手机的每一刻，都是在召唤算法。算法可以决定人们在抖音上看到哪些视频，以及在拼多多上看到哪些商品。

近年来，基于消费者大数据的算法技术的应用，在提升网络消费体验、提高经营效率、推动平台高质量发展等方面发挥着重要作用。但由于“大数据杀熟”、算法歧视等产生的不公平现象存在，也侵害了消费者的合法权益，扰乱了公平竞争的市场秩序。

在这样的背景下，人工智能伦理倡导者呼吁，应该给消费者决定是否允许自己被算法“操纵”的权利，因为大多数时候，消费者并不清楚自己的行为正在被算法“算计”。

算法经常会被称为“黑匣子”，科技公司往往只对他们的算法系统如何工作以及它们的用途做出基本解释，很多时候开发这些算法的技术人员也并不清楚算法为何会得出某些结论。

11月18日，上海率先在电子商务领域出台地方性指引，制定发布《上海市网络交易平台网络营销活动算法应用指引(试行)》(以下简称《指引》)，规范网络交易平台网络营销活动算法应用行为，为平台经营者划出合规底线。

《指引》明确平台经营者不得利用算法实施不正当价格行为，不得利用算法对消费者实施不合理的差别待遇。此外，平台经营者利用消费者个人信息开展网络营销活动算法应用时，应当按照《个人信息保护法》的规定，保证算法应用结果的公平、公正，不得对消费者在交易价格、交易机会等交易条件上实行不合理的差别待遇。

《指引》还规定，平台经营者不得利用算法仅向消费者提供针对其个人特征选项的搜索结果，不得利用算法对平台内经营者进行不合理限制或附加不合理条件，不得利用算法滥用市场支配地位。

今年8月，国家网信办就已经出台了《互联网信息服务算法推荐管理规定(征求意见稿)》(下称“征求意见稿”)，多条内容对接《个人信息保护法》。根据《征求意见稿》要求，算法推荐服务提供者应当定期审核、评估、验证算法机制机理、模型、数据和应用结果等，不得设置诱导用户沉迷或者高额消费等违背公序良俗的算法模型。

上海大邦律师事务所高级合伙人游云庭对第一财经记者表示：“除了今日头条和抖音这样公认的算法驱动的平台，新浪微博这样的用户生成内容的平台，以及滴滴、美团、饿了么这样利用算法管理平台的公司，也都受新规监管。”

在全球反垄断的大潮下，各国监管机构近期也加大了对算法不公平的打击力度。人工智能专家认为，对于创造和使用算法的公司来说，提高透明度至关重要，对AI的特定用途和应用进行监管之前，对于算法透明度的出台法律是必要的。

在美国，立法者正在重新审视科技公司应该如何改变使用算法的方式。美国众议院最近提出一项被称为《过滤气泡透明度》的立法，要求大型科技公司允许用户访问不受算法影响的平台版本，也就是消费者将有权利选择打开或者关闭被秘密算法操纵的功能。

虽然《过滤气泡透明度法案》针对的是大型社交平台，但它也将不可避免地影响其他公司，例如Spotify和Netflix，这些流媒体巨头也非常依赖于算法驱动的策略。

立法的变化突显了人们越来越意识到算法在数字化时代扮演的核心角色。如果该立法通过，也将从根本上改变完全围绕算法管理建立的公司的商业模式。

算法作为数字世界的运转规则，目前科技平台还没有建立合规、有效的算法伦理体系与机制。业内人士认为，算法合规需要企业自治与协同监管相结合。

中国数字经济百人会专家委员会委员柳峰对第一财经记者表示：“大多数用户是很难对企业的算法做出判断，用户需要能够对算法的知情权和选择权进行控制，也就是选择打开或者关闭算法推荐。”他强调，应该对算法应用进行综合性的系统治理。

柳峰对第一财经记者表示，从技术上来看，用户“一键关闭”算法不难实现，但难的是如何监管，法律的规定如何落在具体的监管实施细则中。他认为，这是一个科技巨头与立法监管博弈的过程。“这样的监管政策要推动起来也很困难，大公司肯定会游说反对。”柳峰说道，“当然我们也应该承认，算法并不是任何时候都是不好的。”

算法歧视等不公平现象存在 全球加强“大数据杀熟”监管力度