中国西藏网 > 即时新闻 > 国内

以有力监管对抗不公平算法偏见

发布时间:2021-12-13 11:16:00来源: 科技日报

  以有力监管对抗不公平算法偏见

  观点热搜

  ◎李彦文

  习近平总书记在中共中央政治局第三十四次集体学习时强调指出,要规范数字经济发展,坚持促进发展和监管规范两手抓、两手都要硬,在发展中规范、在规范中发展。

  近年来,随着互联网经济快速发展,一些大型平台企业如雨后春笋般发展壮大,它们借助大数据、人工智能等现代信息手段,业务遍及网络购物、交通出行、旅游住宿、订餐外卖、网络游戏等。然而,平台企业在提供产品或服务的同时,也暴露出一些不容忽视的问题:有的通过大数据杀熟;有的通过网络直播推送违反法律规定的内容;有的刷好评隐差评......

  许多企业需要利用人工智能辅助决策,依靠算法开展“经营诊断”,获得决策信息、确定经营策略,保持竞争优势。但算法的本质是互联网的一种编程技术,需要人来参与,既然是人在操作,难免存在主观色彩,造成不公。

  例如,部分西方媒体报道,美国医疗保健风险预测工具被发现具有严重的种族偏见;苹果公司的信用卡算法,存在歧视女性的明显问题......可以说,数字经济时代,消费者在看不见摸不到的算法面前,成为“弱势群体”,权益亟待保障。

  若任由不公平的算法无序发展,既会破坏公平竞争的市场环境,又会使消费者成为技术欺凌的对象,从根本上影响数字经济的发展。因此必须严格监管,切实解决算法不公的问题,可以从以下几方面采取措施。

  第一,加强监管顶层设计。习近平总书记指出,要健全市场准入制度、公平竞争审查制度、公平竞争监管制度,建立全方位、多层次、立体化监管体系,实现事前事中事后全链条全领域监管。对于算法的规制,不管是事前监管还是事中、事后监管,不管是否进行伦理审查,都要坚持从严,实现监管全覆盖。要建立分层分类监管机制,加强对算法应用的分级标识和分类管理。对不同的算法,确定不同的监管等级和尺度,对涉及公共利益、生命健康、财产权利等的算法,必须强化监管。要严格目标规制,对监管目标严格监控。要加强伦理审查,对涉及价值观、道德观,特别是未成年人教育的算法,必须严格审查,坚决扫除不公平的土壤。要加强典型案例建设,围绕群众关注的侵害消费者权益的“二选一”、大数据杀熟等问题,列出一批典型案例,提高社会知晓率。

  第二,加强相关法律制度建设。习近平总书记指出,要完善数字经济治理体系,健全法律法规和政策制度,提高我国数字经济治理体系和治理能力现代化水平。要加强算法领域的立法建设,尽快出台有关法规,填补相关法律空白。司法机关要加强对算法应用案件的研究,尽快出台有关司法解释,通过判例强化对消费者权益的保护。要建立算法投诉应诉机制,全面保障社会各界的投诉、监督权。要加快培育一批技术鉴定机构,强化技术审核力量。

  第三,加强反制措施的算法研究。针对有垄断行为企业加强监管,“用算法针对算法”,从技术上破解不公平问题产生的根源。引导平台企业加大投入,深化开展算法研究,推出有价值的成果,破解技术不公,重塑市场竞争机制。对于可能产生侵害消费者权益的算法,要采取措施积极预防,把隐患化解在萌芽状态;对已经发生的不公平算法,要积极研究应对的新技术、新手段,一时解决不了的,就先停止平台相关业务运营。针对大数据杀熟、价格歧视类的问题,必须采取果断措施,坚决取消。

  第四,加强规制机构建设。政府有关部门可以考虑设立专门机构,负责算法应用伦理、规则、标准制定,对不公平算法及时开展调查、处理,加强对算法应用的有效监管,确保经营者使用的算法可知、可查、可逆,一旦发生争议,能够向司法机关、第三方机构提供数据和相关资料,做到算法应用的可验证、可解释;要完善算法实施方的举证责任,彻底解决消费者举证难、鉴定难的问题,有关部门要加强协调,细化监管职责,实现分工合作、相互配合;要提高监管技术和手段,把监管和治理贯穿创新、生产、经营、投资全过程。

  (作者系山东社会科学院副研究员)

(责编: 陈濛濛)

版权声明:凡注明“来源:中国西藏网”或“中国西藏网文”的所有作品,版权归高原(北京)文化传播有限公司。任何媒体转载、摘编、引用,须注明来源中国西藏网和署著作者名,否则将追究相关法律责任。