诱导用户沉迷、过度消费？促进算法应用向上向善
设置诱导用户沉迷、过度消费的算法模型，已成为备受诟病的网络消费和娱乐现象。
“有的游戏你玩不过去它就给你放点水，导致你像中毒一样停不下来；或者看你反复浏览某件商品，它就显示两件八折、三件七五折这样的优惠，让你尽可能多买。”中国电子技术标准化研究院网安中心测评实验室副主任何延哲说。
规定提出，算法推荐服务提供者应当定期审核、评估、验证算法机制机理、模型、数据和应用结果等，不得设置诱导用户沉迷、过度消费等违反法律法规或者违背伦理道德的算法模型。
中国政法大学数据法治研究院教授王立梅认为，算法推荐服务提供者应当坚持主流价值导向、促进算法应用向上向善的基本要求。规定提出不得设置诱导用户沉迷、过度消费等算法模型，正是将科技向善理念落实为具体业务要求的体现。
“规定提出了要防范出现此类情形，需要相关企业切实做好算法的评估工作，从算法推荐的逻辑、面向的用户群体、浏览和消费行为等多个角度出发进行综合分析。”何延哲建议，为防止算法导致的沉迷或过度消费，必要时还应引入第三方进行评价和评议，以保证评估的中立性。
刷量控评影响网络舆论？确保算法公开透明
利用算法注册虚假账号、雇佣网络“水军”，实施虚假点赞、转发等流量造假，或者鼓动“饭圈”粉丝互撕谩骂、刷量控评；屏蔽信息、过度推荐，操纵干预热搜、榜单或检索结果排序……一些算法推荐服务提供者在开展个性化推荐、热点榜单、信息发布等活动时，还存在影响网络舆论的现象。
根据规定，算法推荐服务应遵循公开透明的原则，鼓励算法推荐服务提供者综合运用内容去重、打散干预等策略，优化规则透明度和可解释性。建立健全算法机制机理审核、科技伦理审查、用户注册、信息发布审核等管理制度，不得利用算法操纵榜单、控制热搜等干预信息呈现。
“针对微博存在的刷量、刷榜、控评等干扰、扭曲真实的用户声音和信息传播等问题，我们一直在努力整治。”微博有关负责人坦言，这些问题屡禁难绝的背后，也有真人刷榜行为比较难发现、对已形成完整产业链的相关黑灰产难以从技术上禁绝等困难的存在。
世辉律师事务所合伙人王新锐认为，规定要求网络平台以显著方式告知用户其提供算法推荐服务的情况，同时要求具有舆论属性或者社会动员能力的平台将算法相关情况予以备案，通过这种“普遍公开+部分备案”的方式来解决算法不透明带来的现实问题和普遍忧虑。
