通过抓取用户日常的使用数据,分析得出人们的行为、习惯和喜好,进而精准化地提供信息、娱乐、消费等各类服务。近年来,算法推荐技术为人们提供了许多便利,与此同时,“大数据杀熟”、流量造假、诱导沉迷消费等不合理应用也给我们的生活带来烦恼。
3月1日起,国家网信办等四部门联合发布的《互联网信息服务算法推荐管理规定》(以下简称《规定》)将正式施行。
本文转载自微信公众号“央视新闻”(ID:cctvnewscenter),原文首发于2022年2月28日,标题为《大数据“杀熟”、诱导沉迷消费?新规出手了!》,不代表瞭望智库观点。
1
算法无处不在滥用问题不断
对于普通用户而言,算法摸不着也看不懂,却在广泛影响着我们通过各种平台获取互联网信息服务。为了打破算法摸不着也看不懂的“黑箱”,《规定》明确要求保障用户的算法知情权和算法选择权,应当向用户提供不针对其个人特征的选项,或者便捷的关闭算法推荐服务的选项。
《规定》要求算法推荐服务提供者应当坚持主流价值导向,积极传播正能量,建立完善人工干预和用户自主选择机制,不得利用算法实施影响网络舆论、规避监督管理以及垄断和不正当竞争行为。
2
不得实施差别待遇剑指大数据“杀熟”
同样的送餐时间、地点、订单、外卖平台,会员却比非会员多付钱;同时同地打同类型车到同一目的地,某打车平台曾被用户发现熟客反而收费更高……近年来,一些企业利用个人信息搞大数据“杀熟”,对不同群体进行差别定价,实行“价格歧视”,让消费者十分反感。
对此,《规定》提出,算法推荐服务提供者向消费者销售商品或者提供服务的,应当保护消费者公平交易的权利,不得根据消费者的偏好、交易习惯等特征,利用算法在交易价格等交易条件上实施不合理的差别待遇等违法行为。
专家强调,《规定》还明确保障用户的选择权、删除权等权益。通过向用户提供不针对其个人特征的选项,或向用户提供便捷的关闭算法推荐服务的选项,并提供选择或删除针对其个人特征的用户标签的功能,避免消费者被算法“算计”。
3
保护劳动者合法权益避免被算法所“困”
2020年9月,一篇名为《外卖骑手,困在系统里》的文章备受关注。文章称,在外卖平台系统的算法与数据驱动下,外卖骑手的配送时间不断被压缩。为避免差评、维持收入,外卖员不得不超速、违章,遭遇交通事故的数量急剧上升。
据了解,互联网平台优化算法主要通过大数据分析算法模型计算出业务经营的最佳策略,与此同时,与算法相配合的还有一整套严格的绩效考核机制,一旦违背部分算法规则,则会在考核中失去“优势”,并可能带来了一些恶性应对行为。
对此,《规定》专门提出,算法推荐服务提供者向劳动者提供工作调度服务的,应当保护劳动者取得劳动报酬、休息休假等合法权益,建立完善平台订单分配、报酬构成及支付、工作时间、奖惩等相关算法。
清华大学人工智能国际治理研究院副院长梁正称,由于机器还在发展阶段当中,针对一些劳动工作场景,把决定权力交给机器,有很大的潜藏的公平性、可靠性的风险。
4
确保算法公开透明严防刷量控评影响舆论
在娱乐行业,部分流量明星动辄可以拿到上亿甚至十几亿的商业回报,明星商业平台无所不用其极地制作话题进行炒作。品牌方也深谙此道,甚至运用手段刻意制造不同粉丝的矛盾,掀起骂战来博眼球、拉流量。
雇佣网络“水军”实施流量造假,鼓动“饭圈”粉丝互撕,刷量控评……在这一过程中,还有一些算法推荐服务提供者干预热搜,影响网络舆论。
《规定》要求,算法推荐服务应遵循公开透明的原则,鼓励算法推荐服务提供者综合运用内容去重、打散干预等策略,优化规则透明度和可解释性。建立健全算法机制机理审核、科技伦理审查、用户注册、信息发布审核等管理制度,不得利用算法操纵榜单、控制热搜等干预信息呈现。
5
防止诱导沉迷消费保护特殊群体利益
如何防止诱导用户沉迷、过度消费,保护未成年人等特殊群体的权益?《规定》提出,算法推荐服务提供者应当定期审核、评估、验证算法机制机理、模型、数据和应用结果等,不得设置诱导用户沉迷、过度消费等违反法律法规或者违背伦理道德的算法模型。
针对未成年人,《规定》提出,算法推荐服务提供者不得向未成年人推送可能引发未成年人模仿不安全行为和违反社会公德行为、诱导未成年人不良嗜好等可能影响未成年人身心健康的信息,不得利用算法推荐服务诱导未成年人沉迷网络。
监管如何落地落实?《规定》明确,事前监管,确立算法备案、算法评估等制度;区分监管,确立分级分类的思路;系统监管,建立多元共治的局面。
专家认为,《规定》着力完善治理体系,实现事前事中事后全流程、全链条监管。算法推荐服务提供者如违反相关规定,会被处以警告、通报批评、罚款等,必要时还将给予治安管理处罚和追究刑事责任。
凡本网注明“XXX(非中国微山网)提供”的作品,均转载自其它媒体,转载目的在于传递更多信息,并不代表本网赞同其观点和其真实性负责。
大众网·海报新闻记者张稳吕乐田阳孙震泰安报道时值深秋,泰安市邱家店镇姚家坡村迎来了一年中最忙碌的时节——作为全国最大的“秋裤村”,每
2022-10-29 18:34
在中国,每12秒有1人发生卒中,每21秒有1人死于卒中,脑血管病已成为中国居民第一位的死亡原因,早期预防显得尤为重要。每年10月29日是“世界
2022-10-29 18:39
10月28日上午,全国首个航运企业集成化审批服务平台在青岛自贸片区启动。该平台运用数据中台、AI人工智能、电子签名等技术,将涉及水路运输、
2022-10-29 18:37
海报评论员朱延鲁10月28日,山东公布了2022年前三季度全省经济运行数据。根据地区生产总值统一核算结果,前三季度,全省生产总值为64409亿元,
2022-10-29 18:31
作为正规医院,南昌丰益肛肠医院在改善就医环境、降低就医费用、优化就医流程方面下功夫;实行的无假日医院制度,为上班族看病提供便利;通过
2022-10-29 17:53
10月28日,山东发布了前三季度的全省经济运行情况。前三季度全省生产总值64409亿元,同比增长4 0%。跑赢3 0%的全国大盘,经济大省山东交出了一
2022-10-29 15:41
大众网·海报新闻记者解强民通讯员姜雁群济南报道10月28日,济南轨道交通3号线二期设备工程开工活动在稻香站举行,标志着济南轨道交通3号线二
2022-10-29 15:32
大众网·海报新闻记者梁雯济南报道11月9日至10日,2022全国中小企业数字化转型大会将于山东国际会展中心举行。本次大会主题为“创新引领发展数
2022-10-29 15:36
大众网·海报新闻记者孙杰济南报道10月28日,由中国联合国协会主办、外交部国际司支持、山东大学承办的第十八届中国模拟联合国大会开幕。此次
2022-10-29 15:42
测评每天护肤一小步变美就更进一步啦,因为对于好肌肤,我们不管是化妆还是素颜都会显得好看,今天想和大家分享一下本人亲自测评护肤品--郑
2022-10-29 14:12