内容建设既包括 “建” ，也包括 “管” 。网上内容建设要善于抓住“两端”，一端是“顶部的优质内容”，即不断利用新技术、新形式、新渠道生产并传播符合广大人民群众利益和社会长远发展的高品质内容；另一端是“底部的底线管理”，即要及时滤除和屏蔽不良信息、发现并纠正错误观点。内容风险管理平台是一个新事物，需要主流媒体积极尝试、共同探索，更需要各级主管部门的深入指导和具体支持。
内容风险管控平台应具备四个特质
“希望有一个权威、公正、专业的第三方机构为内容风险管理提供服务”——在一次研讨会上，这一呼声成为各网络平台的共识。但是，应由什么样的第三方机构来提供内容风险管理服务？各方认识却并不相同。归纳各方讨论，一个真正科学的内容风险管控平台应该具有四种特质。
一是“政策密集型”特质。近年来，我国互联网内容建设与管理不断完善，出台了一系列针对网络内容建设与管理的政策法规。政策密集出台，意味着“互联网内容安全”已经成为国家和社会关注的重点。这使得内容专业审核具有了重要的政治意义。内容专业审核机构就像党和政府行政管理之外的“另一只手”，可以从信息的源头把控好政治方向、舆论导向和价值取向，配合主管部门进行网络内容安全建设。同时，从日常和微观层面上看，虽然意识形态是动态的，但对意识形态的管理在长线和宏观上都必须保持一致，所以，内容专业审核机构要通过内容风险管控水平，体现出自身对于政策的深入理解和动态把控能力。能不能准确地把握中央和各部门的政策，也是内容专业审核机构“政策密集型”特质的表现。
二是“技术密集型”特质。在目前条件下，人工已经难以单独承担并完成网络内容审核的工作。借助大数据、智能算法等技术，互联网信息传播的效率和精准度大大提升。但每一种技术架构、每一行代码、每一个界面，都代表着选择，都意味着判断，都承载着价值。比如，用大数据进行用户画像、精准推送，本身就包含这样的价值观念——“用户偏好的就是好的”，“平台的打开率比一切都重要”。短视频平台上，“精选”的内容能获得更多关注，然而什么样的视频可以被“精选”，同样隐含着产品开发者的价值选择和利益诉求。技术越来越成为价值表达的手段。技术引发的问题要善于通过技术的手段加以解决。在内容审核与风险管理上，技术可以发挥很大的作用。一些网络平台正在努力发展、完善技术审核系统，理论上，已经可以依靠技术手段识别并控制90%以上的内容风险。有理由相信，人工智能等技术的发展和运用将会极大提升内容风险管理的能力和水平。
三是“管理密集型”特质。对网络内容审核要做到“一把尺子量到底”。这需要统一标准、统一思想，形成统一操作。因此，对于内容风险管理平台，加强团队内部管理是保持内容持久安全的核心要素。但严格审核不是机械、死板的操作，要在审核过程中重视处理好效率、效果、效益三者之间的关系，使其相互促进。通过不断完善内部管理机制、培养能力超群的审核人才队伍，可以极大提升内容审核的效率，最终帮助网络平台降低内容风险、提升整体效益。
四是“人才密集型”特质。人工智能可以通过算法建立各种模型来自动、高效地发现并处置内容问题与风险。但客观上看，其发展水平尚处于“弱智能”阶段，以目前机器学习水平还无法满足爆炸式增长、情况多变的互联网内容审核需求，尤其是涉及时政、财经、文史等深度内容，需要专业人士的深度介入，才能确保不出问题。因此，人工干预、人机结合是当前仍无法替代的一种审核模式。这赋予了内容风险管理行业“人才密集”的特征。
内容风险管理平台应秉持五个原则
内容风险管理平台是一个新事物，需要主流媒体积极尝试、共同探索，更需要各级主管部门的深入指导和具体支持。而作为合作双方的主流媒体和互联网内容平台，特别需要重视遵守一些基本原则，可以概括为“两个不变”和“三个有利于”。
一个“不变”，是各内容平台对于自己内容的调性标准和最终责任不变。第三方内容审核，本质上只是一种基于合约的劳务服务，内容平台不能指望通过一份商业委托合同，就把内容把关的责任甩出去。第二个“不变”，是内容平台是否拥有合法资质的法律地位不变。如果一个内容平台没有相应的业务资质，不可能通过与主流媒体的内容审核合作，就使自己的业务合法化。
而作为第三方内容风险管理平台，主流媒体应该成为主流价值的传递者与捍卫者，牢记新闻舆论工作职责使命，切实通过内容审核业务，弘扬社会主义核心价值观，但是，同时也要始终牢记：作为“第三方”，始终只是接受了服务外包，既不能包揽内容平台的终审责任，也不能与没有资质的内容平台共享自己的资质。
三个“有利于”，之一是内容风险管理平台要有利于行业主管部门信息传达和贯彻落实。内容风险管控平台应成为主管部门和平台、网民之间的沟通者，通过细化、量化审核标准，将主管部门要求落实到位；之二是要有利于整个行业的内容风险控制水平提高和规范发展。互联网内容风险管理不是一家企业的独奏，而是多领域企业的合唱，通过内容风险管理平台的建设、标准制定、技术研发，加强互联网企业合作，共同为净化网络环境贡献力量；之三是要有利于各平台降低内容审核的成本，丰富内容供给。平台化旨在将专业的事情交给专业机构来处理，不仅提高效率，降低成本，还要让更多网站更放心地投入内容生产，通过精准的辨别激浊扬清，通过不漏判、不错判更好地鼓励网站进行内容生产传播，实现更丰富的正能量总供给。
积极尝试建设内容风险管理平台
人民网是“网上的人民日报”。在报社编委会和相关主管部门的指导下，人民网正在尝试将内容审核业务作为在新时代、新条件下延伸业务范围，扩大影响力、提升引导力的创新尝试。
一是积极建设“内容审核云平台”。搭建审核平台，吸引其他网络媒体和互联网平台入驻，通过平台对自身和外部内容进行集中审核、统一管理，实现审核操作标准化和智能化，利用集约效应，提高审核效率，降低相关网络媒体和平台内容风险管理成本。
二是完善技术平台和评价体系。网上信息管理，网站应负主体责任，政府行政管理部门要加强监管。要把指示落到实处，就要从源头上厘清责任，将网上信息管理细化为量化指标，便于评价。
三是推行绩效考核与培训机制。结合“管理密集型”和“人员密集型”两大特质，不断完善审核团队人员的绩效考核方式，调动每个人的积极性，做到人人尽责；规范人员管理，加强日常培训，设立审核员、审核师、高级审核师等职称序列，不断提高业务能力与岗位认同。
四是充分利用智能化手段。海量内容信息需要借助技术手段进行初步审核，网上内容信息的多样性和复杂性又需要人力审核的及时介入，为此，平台需要加强对大数据、云计算等技术应用的研发，形成“AI+人工”审核机制，满足内容审核的广泛性和特殊性要求。
五是组建高级专家团队对“精”“专”内容进行审核。为了准确判断和处置网上少量而重要的深度、专业类内容，平台还聘请业内和学界资深专家牵头，与相关管理机构、行业主管部委、专业研究机构建立常态沟通机制，针对审核中的疑点、难点内容进行专业的终极把关。
人民网希望通过不断尝试并落实以上措施，真正建立起切实有效、服务社会的内容风险管理平台，为主流价值护航，提升舆论引导力，为营造天朗气清的网络空间做出更大贡献。