“算法严监管”时代来临:四部委新规剑指平台“大数据杀熟、二选一”

  发布时间:2025-03-17 10:58:16   作者:玩站小弟   我要评论
摘要:北京高勤律师事务所合伙人王源对《华夏时报》记者表示:“算法一定程度上决定了信息的内容,决定了用户能看到了哪些信息,将对舆论、价值观产生影响。因此,算法单独剥离出来进行规范是十分必要的。未来3年, 。
摘要:北京高勤律师事务所合伙人王源对《华夏时报》记者表示:“算法一定程度上决定了信息的算法熟选内容,决定了用户能看到了哪些信息,严监将对舆论、代临大数价值观产生影响。部委因此,新规算法单独剥离出来进行规范是剑指据杀十分必要的。未来3年,平台算法将是算法熟选一个被监管的重点。”

“算法严监管”时代来临:四部委新规剑指平台“大数据杀熟、代临大数二选一”

华夏时报(www.chinatimes.net.cn)记者 徐芸茜 见习记者 程阔 北京报道

大数据时代下,部委算法成为连接人和虚拟世界的新规枢纽。而算法的剑指据杀不规范使用也导致了算法歧视、信息茧房、平台大数据杀熟、算法熟选饭圈文化、诱导沉迷等问题。

1月4日,国家互联网信息办公室、工业和信息化部、公安部、国家市场监督管理总局联合发布《互联网信息服务算法推荐管理规定》(下称《规定》),自2022年3月1日起施行。

值得注意的是,算法推荐服务被从互联网应用中单独剥离出来为其单独制定管理规范,实属国内首次。

北京高勤律师事务所合伙人王源对《华夏时报》记者表示:“算法一定程度上决定了信息的内容,决定了用户能看到了哪些信息,将对舆论、价值观产生影响。因此,算法单独剥离出来进行规范是十分必要的。未来3年,算法将是一个被监管的重点。”

“对算法单独剥离出来进行规范,即是规范算法推荐行业的客观需求,也与国外实践相一致。”西南政法大学数字经济与法治研究中心研究员邓若翰告诉本报记者。

此外,《规定》还对“大数据杀熟、诱导沉迷、二选一”等问题做出了相应规定。

为何对算法单独剥离出来进行规范?

算法被单独剥离出来进行规范实属国内首次。

据了解,目前算法推荐技术是指利用生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类等算法技术向用户提供信息。但算法自身的特质导致了一系列的问题。

算法根据用户兴趣将大量同质化内容被推送给用户,用户长期只能获取有限来源和单一倾向性的信息,导致用户被束缚在“信息茧房”中;而算法机制的不完善,导致外卖骑手在算法的“逼迫”下,陷入了“送餐只能越来越快、越来越不顾自身安全”的困局;而兴起“电饭煲测试”,则是暴露了电商平台上的算法歧视。

邓若翰表示:“算法系统因其自身在形成、运转和更新层面的诸多特质,其具有一定程度的独立性。”

他从技术层面向记者指出:“机器学习算法的培育更多采用‘设计者输入训练数据,算法自主学习这些数据’的方式进行,因此,即使算法的设计者也仅能掌握输入算法的数据,而无法把握算法学习的结果;其次,算法在运营过程中,通常会根据市场产生的新信息和自身输入的数据进行自我更新,进而保证其对于市场环境变化的适应性,但这也使得算法的更新和发展在一定程度上不受算法设计者和运营者的控制。而算法黑箱的存在使得算法的设计者和运营者仅能把握算法的输入数据和输出结果,而具体的分析和决策过程则难以被设计者和运营者知晓。”

“倘若不对算法进行单独的规范,并针对算法系统的特征设计相应的监管措施和风险防范规则,那么仅对算法运营企业进行约束的规制模式更多容易陷入‘隔山打牛’的窘境,即企业不仅不知道该如何约束算法,同时也倾向于将算法引发的问题归咎于‘技术失灵’,进而免除自身的管理责任。”邓若翰指出。

此外,邓若翰还认为,“算法推荐引发的信息茧房、思维诱导等问题已逐渐对整个社会公众的舆论、文化和价值观念产生影响,进而具有一定的公共属性,这也是监管部门应直接对算法予以规制的重要原因。”

禁止“大数据杀熟、诱导沉迷、二选一”等

算法作为互联网时代的产物,其双刃属性带来了正反两方面的影响,如何扬长避短,发挥其正面效果成为重点。

目前,我国已对网络安全、数据安全、个人信息安全等作出相关顶层设计。

在2020年印发的《法治社会建设实施纲要(2020-2025年)》中提出制定完善对算法推荐、深度伪造等新技术应用的规范管理办法。而随后陆续出台了《网络安全法》《数据安全法》《个人信息保护法》等法律和《关于加强互联网信息服务算法综合治理的指导意见》等政策文件。

而此次《规范》从信息服务规范和用户权益保护两方面制定了详细的规定,避免算法的负面效果。

国家互联网信息办公室有关负责人表示:“出台《规定》主要基于以下两个方面的考虑:一是深入推进互联网信息服务算法综合治理的需要。二是积极促进算法推荐服务规范健康发展的需要。”

针对“二选一”的问题,《规定》第十六条明确了算法推荐服务提供者不得利用算法对其他互联网信息服务提供者进行不合理限制,或者妨碍、破坏其合法提供的互联网信息服务正常运行,实施垄断和不正当竞争行为。

“大数据杀熟”的问题在第二十一条也作了明确规定,算法推荐服务提供者向消费者销售商品或者提供服务的,应当保护消费者公平交易的权利,不得根据消费者的偏好、交易习惯等特征,利用算法在交易价格等交易条件上实施不合理的差别待遇等违法行为。

此外,对向未成年人、老年人、劳动者和消费者等主体提供算法推荐服务的,《规定》的第十八、十九、二十明确了具体要求,如不得利用算法推荐服务诱导未成年人沉迷网络,应当便利老年人安全使用算法推荐服务,应当建立完善平台订单分配、报酬构成及支付、工作时间、奖惩等相关算法,以及不得根据消费者的偏好、交易习惯等特征利用算法在交易价格等交易条件上实施不合理的差别待遇等。

算法驱动行业将迎来洗牌

“《规定》的出台意味着算法推荐相关行业开始迈入‘算法严监管’的时代。”邓若翰表示。

以算法驱动的企业势必要面临成本提升和盈利被压缩的情况。他表示:“《规定》提出的算法安全主体责任、算法评估验证机制、信息安全管理机制等算法管理机制以及算法解释义务、自然搜索结果提供义务等义务,必将在很大程度上提高算法驱动公司的合规成本。大数据杀熟、信息茧房等问题的扼制亦在一定程度上限缩了算法驱动企业的盈利空间。”

“企业正从数据驱动向算法驱动的转变,现在并不是数据掌握了多少,而是谁的算法更为先进、有效。”王源向本报记者点出此类企业的现状。

如何寻找新的、规范化的盈利增长点亦成为摆在算法驱动公司面前的难题。

邓若翰认为,“可以预见,相关公司必然将迎来‘阵痛’,在此期间,资金基础薄弱的、营利模式不成熟的、算法系统不完善的企业可能面临被淘汰的可能。”

邓若翰还补充道:“《规定》的出台仅仅是走出了算法规制的第一步,其中算法评估验证、算法解释等部分机制存在规定较为模糊的问题。要充分发挥《规定》的制度功效,标准化必然成为下一步亟待解决的问题。譬如,算法推荐服务的‘基本原理’包括哪些,应解释到什么程度,‘适当方式’包括哪些方式等等,均有待进一步完善。”

贵州数据宝产品研究院院长李可顺告诉《华夏时报》记者:“市场监督需要有效,必须企业整个运营过程及数据需要足够透明。算法设计的技术多样性、计算过程复杂,且部分算法解释性差,无法足够透明,会影响市场监督的有效性。”

不过,记者了解到,目前我国并没有算法的相应标准和实施准则。因此,“算法规制”的时代已来,但仍还有很长一段路要走。

责任编辑:徐芸茜 主编:公培佳

  • Tag:

相关文章

  • 鄂我多斯:电煤中经暂开同必需100%降真国家价钱政策

    8月17日下战书,鄂我多斯市能源局会同市收改委、市市场监管局妄想召开齐市电煤中经暂开同签定如约兑现传递会暨现阶段煤冰保供稳价工做布置会。团聚团聚团聚传递了5月份以去齐市煤冰价钱真止战波及煤价问题下场线
    2025-03-17
  • 卡萨帝空调降级处事系统止业尾推“10免处事”—万维家电网

    正在2016热年枯膺“2016-2017年度空调止业下端引收产物”的卡萨帝云鼎空调,正在2017年新热年市场酣战适才推开序幕之际,借助正在业界尾推的“10免处事”降级止业处事尺度的同时,重新界讲下端家
    2025-03-17
  • 志下征选产物体验夷易近:引收空调业“细品小大战”—万维家电网

    进进互联网时期,传统家电业也正在里临宽峻大转型,“互联网+用户体验”成为中国家电新的着力面。做为最先拥抱互联网战智能化的空调企业,志下正在9月8日正式建议了“产物体验夷易近”招募用意,聘用斲丧者减进
    2025-03-17
  • 海我中间空调挑战43㎡故宅圆7心之家住房梦—万维家电网

    东圆卫视播出的第四期《胡念刷新家》节目中,一家7心的43㎡上海老房刷新名目挑战了旧房刷新极限,日本一级修筑师本间贵史出马仅衡宇安拆路线等“藏藏工程”便耗时一个月。最值患上面赞的是,本去正在别墅、下端
    2025-03-17
  • 商品快捷下止连累煤冰市场

    ● 本周市场情景综述本周,产天市场需供转强,最后及商业户推销自动性降降,煤矿推煤车削减,煤价小大幅回降。心岸下库存压力呈现,市场激情较强,煤价延绝上涨。小大宗商品的快捷下止也对于煤冰市场组成压力。期货
    2025-03-17
  • 空调病问题下场多?志下智能王88款让您省心抵家—万维家电网

    经暂正在空调情景下工做战糊心的人,果空气不流利,情景患上不到改擅,会隐现鼻塞、头晕,导致会导致与皮肤过敏特色相闭的症状,如皮肤收松收干,易过敏,皮肤变好等。那类征兆每一每一被称之为"空调综
    2025-03-17

最新评论