以下文章来源于青十五 ,作者青十五
首先要声明一下:本文仅为从业人员发表的个人观点,不作为法律意见,仅供参考。
1、定义
前六条基本上是各种管理规定里的例行条例。
第二条 ……前款所称应用算法推荐技术,是指应用生成合成类(图片视频AI生成)、个性化推送类(推荐、Push)、排序精选类(热榜)、检索过滤类(搜索)、调度决策类(外卖、网约车等)等算法技术向用户提供信息内容。
而广告又是比较容易引起用户关注隐私问题的场景(常见案例:输入法DMP带来的广告精准投放),所以这块还是要看后续怎么界定。
2、内容风控
接下来第七条到第九条是对互联网平台内容风控提出的要求,可以预见大厂未来对这块的投入应该还要持续增加,中小厂可能会找一些第三方的解决方案(比如数美之类),对内容安全行业和从业人员持续利好。
第八条 算法推荐服务提供者应当定期审核、评估、验证算法机制机理、模型、数据和应用结果等,不得设置诱导用户沉迷或者高额消费等违背公序良俗的算法模型。
第九条 算法推荐服务提供者应当加强信息内容管理,建立健全用于识别违法和不良信息的特征库,完善入库标准、规则和程序。发现未作显著标识的算法生成合成信息的,应当作出显著标识后,方可继续传输。
发现违法信息的,应当立即停止传输,采取消除等处置措施,防止信息扩散,保存有关记录,并向网信部门报告。发现不良信息的,应当按照网络信息内容生态治理有关规定予以处置。
但怎么说呢,AI生成是基于生成对抗网络(GAN)的技术,本身就是用一个生成器和一个判别器来对抗,直到判别器也真假难辨的时候生成器生成的图片或视频方能出山。所以这块对AI生成内容的鉴定,无论是人还是机器来做,我觉得未来都是一个大的挑战。
3、核心条例
接下来的第十条到第十八条,是围绕各互联网算法推荐场景做出的规定,我们一个一个来聊。
第十条 算法推荐服务提供者应当加强用户模型和用户标签管理,完善记入用户模型的兴趣点规则,不得将违法和不良信息关键词记入用户兴趣点或者作为用户标签并据以推送信息内容,不得设置歧视性或者偏见性用户标签。
当然这里面可能不仅仅是标签名字的问题,用户画像使用的数据源也要符合条例当中的规定,否则这两个标签改成「喜欢异性」、「喜欢刺激」不就好了?
第十一条 算法推荐服务提供者应当加强算法推荐服务版面页面生态管理,建立完善人工干预和用户自主选择机制,在首页首屏、热搜、精选、榜单类、弹窗等重点环节积极呈现符合主流价值导向的信息内容。
第十二条 算法推荐服务提供者应当综合运用内容去重、打散干预等策略,并优化检索、排序、选择、推送、展示等规则的透明度和可解释性,避免对用户产生不良影响、引发争议纠纷。
第十三条 算法推荐服务提供者不得利用算法虚假注册账号、非法交易账号、操纵用户账号,或者虚假点赞、评论、转发、网页导航等,实施流量造假、流量劫持;不得利用算法屏蔽信息、过度推荐、操纵榜单或者检索结果排序、控制热搜或者精选等干预信息呈现,实施自我优待、不正当竞争、影响网络舆论或者规避监管。
第十四条 算法推荐服务提供者应当以显著方式告知用户其提供算法推荐服务的情况,并以适当方式公示算法推荐服务的基本原理、目的意图、运行机制等。
第十五条 算法推荐服务提供者应当向用户提供不针对其个人特征的选项,或者向用户提供便捷的关闭算法推荐服务的选项。用户选择关闭算法推荐服务的,算法推荐服务提供者应当立即停止提供相关服务。
算法推荐服务提供者应当向用户提供选择、修改或者删除用于算法推荐服务的用户标签的功能。
用户认为算法推荐服务提供者应用算法对其权益造成重大影响的,有权要求算法推荐服务提供者予以说明并采取相应改进或者补救措施。
第十六条 算法推荐服务提供者向未成年人提供服务的,应当依法履行未成年人网络保护义务,并通过开发适合未成年人使用的模式、提供适合未成年人特点的服务等方式,便利未成年人获取有益身心健康的信息内容。
算法推荐服务提供者不得向未成年人用户推送可能引发未成年人模仿不安全行为和违反社会公德行为、诱导未成年人不良嗜好等可能影响未成年人身心健康的信息内容,不得利用算法推荐服务诱导未成年人沉迷网络。 第十七条 算法推荐服务提供者向劳动者提供工作调度服务的,应当建立完善平台订单分配、报酬构成及支付、工作时间、奖惩等相关算法,履行劳动者权益保障义务。
第十八条 算法推荐服务提供者向消费者销售商品或者提供服务的,应当保护消费者合法权益,不得根据消费者的偏好、交易习惯等特征,利用算法在交易价格等交易条件上实行不合理的差别待遇等违法行为。
同时,这三条的主管部门也不是网信办,具体到监管执行的时候还是要联合其他部门(比如教育、人社、消保等)来处理的。
4、监管措施与罚则
《规定》的第十九条到第二十六条是约定的具体监管措施,比如分级监管、备案等,其余第二十七条开始是约定的罚则,都是法律条文中比较常规的内容,就不一一细聊了。
第二十条 具有舆论属性或者社会动员能力的算法推荐服务提供者应当在提供服务之日起十个工作日内通过互联网信息服务算法备案系统填报服务提供者的名称、服务形式、应用领域、算法类型、算法自评估报告、拟公示内容等信息,履行备案手续。
其次,备案哪些内容?比较被关注的是算法自评估报告和公示内容,光看名字也看不出啥来,具体还是要看执行要求。
不过既然有公示,那就到时候可以看看公示到什么程度了,我觉得至少各家热榜算法公式应该是要公布出来了,而不是像之前这样藏着掖着。
对于各互联网服务平台来说,《规定》不仅仅是让算法更加透明、更加白盒化,同时也对平台的内容风控能力提出了更高的要求。
关于DigiMax
DigiMax有趣,新鲜的数字营销行业热点,一网打尽!