哨子已经吹响治理算法滥用刻不容缓

 新闻资讯     |      2021-10-13 10:09

  新闻一:2021年9月29日,国家互联网信息办公室等九部门联合印发了《关于加强互联网信息服务算法综合治理的指导意见》。意见提到,维护网络空间传播秩序、市场秩序和社会秩序,防止利用算法干扰社会、打压竞争对手、侵害网民权益等行为,防范算法滥用带来意识形态、经济发展和社会管理等方面的风险隐患。

  新闻二:当中国人享受和谐的国庆假期之际,美国科技业界迎来一场超级风暴。原Facebook产品经理Frances Haugen公开站出来曝光,Facebook此前进行了一系列社交媒体影响力研究,研究结果显示Facebook目前的算法和产品会放大仇恨、传播谣言、引发社会动荡,影响青少年身心健康。但面对这样的研究结果,Facebook高层不仅没有进行积极整改,反而为了公司利益选择了掩盖问题。

  近期,这两条新闻各自在中美科技业界引发广泛关注,核心都指向了近年备受各方关注的“算法滥用”。

  美国科技行业的Frances Haugen被誉为“吹哨子的人”,成为英雄般的人物,他的公开“反水”引起了美国各方对巨头算法滥用的反思。

  中国方面,算法问题治理更为积极,九部门以罕见的高规格发布了算法治理新规,具有积极的行业意义,或将对全球普遍存在的算法问题治理提供借鉴。

  在《关于加强互联网信息服务算法综合治理的指导意见》下发前后,我接受《环球时报·英文版》等媒体采访,谈了我的一些看法。在我看来,算法滥用是全球互联网行业共同的行业难题,各方都在积极探索治理方案。《关于加强互联网信息服务算法综合治理的指导意见》的印发非常有必要,它的意义也是在于维护消费者以及用户合法权益、创造竞争公平的清朗网络环境,同时这项政策的印发,以及之前已经出台的《网络安全法》《数据安全法》《个人信息保》等法规,将共同为防范算法滥用带来的诸多市场和经济、社会问题,提供助力。

  ①大数据杀熟。大数据杀熟是滥用算法最典型行业问题,包括用更贵的手机打车费更多、更有钱的消费者住酒店价格更高、开通会员价格不一等现象,都是巨头型企业滥用算法技术和行业支配能力,为了攫取利益实施的非正当手段。

  ②愚昧民智的奶头乐。算法技术支持的新闻推送、短视频推送大行其道,用户无需思考被主动投喂,享受一时欢愉的“奶头乐”,丧失了独立思考。长期下去人的判断力和智商降低,知识面也会越来越狭隘,一些低级谣言也就有了传播的温床。

  ③操纵。个别互联网巨头,控制了大量媒体和社交媒体,公器私用,通过算法优势,利用屏蔽关键词或者放大关键词等方式,引导走向。

  就像任何信息技术一样,算法是一把双刃剑,它的背后是AI以及大数据、云计算等技术体系,关于算法的“利”,我在之前的文章中已经提及多次,包括城市智能体、智慧工业、自动驾驶、语音识别等等,都离不开算法的赋能。算法的价值怎么拔高都不过分,这里不再过多叙述。

  但是,关于算法的“恶”,我们还没有足够的认知和重视。俗话说,它山之石可以攻玉,美国方面Facebook的算法“放大仇恨、传播谣言、引发社会动荡,影响青少年身心健康”这样的问题也应该值得我们警醒。事实上,Facebook为代表的科技巨头算法作恶远不止于此,这几年Facebook的算法推荐,一次次引发社会撕裂和敌视,造成短期无法抚平的裂痕。

  哨子已经吹响,治理算法滥用刻不容缓。近期九部门算法指导意见的出台就很及时,或将产生深远的行业影响。

  当然,这还不够,我们的广大科技企业尤其是那几家巨头型企业,也要履行企业主体责任,秉承“科技向善”理念,明确“什么能做什么不能做”,运用科技技术更好造福人类。

  PS:本文作者丁道师,现已在蜻蜓FM开通《丁道师杂谈》频道,欢迎大家点击原文链接,收听音频版的内容。

  2014年丁道师作为自媒体代表,牵头起草《中国自媒体的自律规范》,并在网信办座谈会上分享,引发广泛关注。

  现在是企鹅号、一点资讯、百度百家、今日头条、艾瑞专栏、雪球财经等主流科技媒体和新闻客户端的专栏作家。