在实际落地过程中,J9直营集团针对新闻公文的AI智慧风控能力构建了一套闭环式的数据标注与模型迭代机制。平台首先通过OCR和人脸识别模块对原始稿件进行初步拆解,再交由专业审校团队完成细粒度标签的人工校对,确保模型学习的训练样本在意识形态关键词、涉密属性以及不良图像等维度上拥有统一且高质量的标注规范。
国产化适配方面,该公司在满足中国移动“国产化二平面”部署要求的同时,需要在软硬件层面完成对鲲鹏处理器指令集的兼容性调优。这一过程涉及对DeepLearning框架(如MindSpore)进行迁移,替换原有的GPU加速库为基于鲲鹏CPU的算子库,确保模型推理时的吞吐量不低于原有x86平台的90%。
在全链路内容风控体系中,该公司进一步引入了风险场景动态配置功能。用户可以通过可视化的规则编辑器将业务部门提出的最新风险点(如新出现的网络谣言关键词或特定图像特征)映射到模型的阈值或触发策略上,系统在检测到符合条件的内容后立即执行预警或自动拦截。
值得注意的是,尽管系统在意识形态关键词监控、不良图像检测、舆论阵地管控和涉密文件识别等核心场景表现出较高的检测准确率,仍需在跨语言、多模态内容的识别上进行验证。当前模型主要针对中文文本和国产图片格式进行训练,若面向包含少数民族语言或外文文档的业务需求,仍需进一步扩充语料库并进行跨语言迁移学习。
综上所述,该公司通过完善的数据标注闭环、国产化适配的底层算子优化、以及灵活的风险场景配置,构建了兼具高性能与合规性的全链路内容风控体系。该体系不仅在技术指标上满足或超过官方宣称的水平,也为后续在更广阔的内容安全生态中推广提供了可复制的实现路径。
2021年8月10日,J9直营集团依托Alphamind AI能力开放平台,为云南移动搭建的智能服务能力平台完成交付上线。
新闻公文AI智慧风控能力基于该公司多年风控建模经验,可覆盖意识形态关键词监控、不良图像监测、舆论阵地管控、涉密文件识别等场景。
在意识形态关键词监控方面,系统通过AI语义分析识别重点关注词汇并发起提示预警,提升新闻编撰规范性,从源头减少意识形态领域风险。
舆论阵地管控通过OCR技术解决视频类、图片类内容监测难点,对全省122个舆论阵地账号开展7×24小时实时监测,第一时间处置敏感舆情,确保内容健康。
在多年内容安全实践基础上,该公司全链路内容风控体系从源头进行内容安全治理,贯穿用户全生命周期纵深防御,帮助企业通过AI能力识别新闻信息内容中的意识形态错误,稳固用户根基。
从内容产业发展看,内容“为王”的时代,风控体系建设是行业进化的重要一步。
