大数据“杀熟”?新规出手了:“算法”必须公开透明!

时间:2022-03-03 09:18:21       来源:腾讯网

通过抓取用户日常的使用数据,分析得出人们的行为、习惯和喜好,进而精准化地提供信息、娱乐、消费等各类服务。近年来,算法推荐技术为人们提供了许多便利,与此同时,“大数据杀熟”、流量造假、诱导沉迷消费等不合理应用也给我们的生活带来烦恼。

3月1日起,国家网信办等四部门联合发布的《互联网信息服务算法推荐管理规定》(以下简称《规定》)将正式施行。

算法无处不在 滥用问题不断

对于普通用户而言,算法摸不着也看不懂,却在广泛影响着我们通过各种平台获取互联网信息服务。为了打破算法摸不着也看不懂的“黑箱”,《规定》明确要求保障用户的算法知情权和算法选择权,应当向用户提供不针对其个人特征的选项,或者便捷的关闭算法推荐服务的选项。

《规定》要求算法推荐服务提供者应当坚持主流价值导向,积极传播正能量,建立完善人工干预和用户自主选择机制,不得利用算法实施影响网络舆论、规避监督管理以及垄断和不正当竞争行为。

不得实施差别待遇 剑指大数据“杀熟”

同样的送餐时间、地点、订单、外卖平台,会员却比非会员多付钱;同时同地打同类型车到同一目的地,某打车平台曾被用户发现熟客反而收费更高……近年来,一些企业利用个人信息搞大数据“杀熟”,对不同群体进行差别定价,实行“价格歧视”,让消费者十分反感。

对此,《规定》提出,算法推荐服务提供者向消费者销售商品或者提供服务的,应当保护消费者公平交易的权利,不得根据消费者的偏好、交易习惯等特征,利用算法在交易价格等交易条件上实施不合理的差别待遇等违法行为。

专家强调,《规定》还明确保障用户的选择权、删除权等权益。通过向用户提供不针对其个人特征的选项,或向用户提供便捷的关闭算法推荐服务的选项,并提供选择或删除针对其个人特征的用户标签的功能,避免消费者被算法“算计”。

保护劳动者合法权益 避免被算法所“困”

2020年9月,一篇名为《外卖骑手,困在系统里》的文章备受关注。文章称,在外卖平台系统的算法与数据驱动下,外卖骑手的配送时间不断被压缩。为避免差评、维持收入,外卖员不得不超速、违章,遭遇交通事故的数量急剧上升。

据了解,互联网平台优化算法主要通过大数据分析算法模型计算出业务经营的最佳策略,与此同时,与算法相配合的还有一整套严格的绩效考核机制,一旦违背部分算法规则,则会在考核中失去“优势”,并可能带来了一些恶性应对行为。

对此,《规定》专门提出,算法推荐服务提供者向劳动者提供工作调度服务的,应当保护劳动者取得劳动报酬、休息休假等合法权益,建立完善平台订单分配、报酬构成及支付、工作时间、奖惩等相关算法。

清华大学人工智能国际治理研究院副院长 梁正:由于机器还在发展阶段当中,针对一些劳动工作场景,把决定权力交给机器,有很大的潜藏的公平性、可靠性的风险。

确保算法公开透明 严防刷量控评影响舆论

在娱乐行业,部分流量明星动辄可以拿到上亿甚至十几亿的商业回报,明星商业平台无所不用其极地制作话题进行炒作。品牌方也深谙此道,甚至运用手段刻意制造不同粉丝的矛盾,掀起骂战来博眼球、拉流量。

雇佣网络“水军”实施流量造假,鼓动“饭圈”粉丝互撕,刷量控评……在这一过程中,还有一些算法推荐服务提供者干预热搜,影响网络舆论。

《规定》要求,算法推荐服务应遵循公开透明的原则,鼓励算法推荐服务提供者综合运用内容去重、打散干预等策略,优化规则透明度和可解释性。建立健全算法机制机理审核、科技伦理审查、用户注册、信息发布审核等管理制度,不得利用算法操纵榜单、控制热搜等干预信息呈现。

防止诱导沉迷消费 保护特殊群体利益

如何防止诱导用户沉迷、过度消费,保护未成年人等特殊群体的权益?《规定》提出,算法推荐服务提供者应当定期审核、评估、验证算法机制机理、模型、数据和应用结果等,不得设置诱导用户沉迷、过度消费等违反法律法规或者违背伦理道德的算法模型。

针对未成年人,《规定》提出,算法推荐服务提供者不得向未成年人推送可能引发未成年人模仿不安全行为和违反社会公德行为、诱导未成年人不良嗜好等可能影响未成年人身心健康的信息,不得利用算法推荐服务诱导未成年人沉迷网络。

监管如何落地落实?《规定》明确,事前监管,确立算法备案、算法评估等制度;区分监管,确立分级分类的思路;系统监管,建立多元共治的局面。

专家认为,《规定》着力完善治理体系,实现事前事中事后全流程、全链条监管。算法推荐服务提供者如违反相关规定,会被处以警告、通报批评、罚款等,必要时还将给予治安管理处罚和追究刑事责任。

转自:央视新闻微信公众号

来源:哈尔滨日报

关键词: 大数据杀熟新规出手了算法必须公开透明