2022年4月，健身达人刘畊宏因为穿羽绒服跳健身操而上了热搜，一时成为趣闻。事情源于此前直播因刘畊宏胸肌太发达，被直播平台判定过于性感而被断播，刘畊宏故意穿上了羽绒服进行直播。大概率这是一次误判，来自直播平台的智能审核系统，而非审核人员所为。

今天，智能审核系统在各种社交平台和发布平台已经很常见。面对海量的内容审核压力，基于人工智能的智能审核系统被广泛应用来对各种内容进行审核和标注。然而，受限于技术水平，误判时常发生。为了减少误判，各个智能审核系统都在尽力优化AI模型以提高判断的精准度。除了精准之外，一个好的智能审核系统还要高效而且好用，能降低内容人工审核压力和审核成本。

据CNNIC发布的第49次《中国互联网络发展状况统计报告》，截止2021年12月，中国网民数量已超过10亿，网民人均每周上网时长达28.5个小时。在这个人人都是自媒体的时代， UGC(User ，用户生成内容)也呈现爆炸性增长，如快手和抖音日增短视频都达到了千万条以上长。

人们在享受丰富的信息带来的便捷的同时，也有违规信息甚至反动的信息出现，不仅给企业营销、经营及品牌造成极大伤害，更为严重的是一些违规内容危害国家安全、危及社会稳定和青少年健康。

为了避免不良信息的发布，各个社交平台都建立了一支数量庞大的审核队伍，如快手、抖音都有数千人的审核团队，的审核人员超过1.5万人。实际上，不只是大型社交平台，如电商、金融、媒体、游戏、房地产等很多行业都离不开内容审核。然而，在海量内容面前，单靠审核人员人工来把关越来越不现实：一方面，海量的内容审核带来的成本压力与日俱增；另一方面，人工审核的时效性无法满足直播等各种实时发布的需求；另外，国家有关部门的监管力度在不断加大，要求越来越严。

智能审核的出现有望改变这一窘境。智能审核系统基于自然语言处理、语言识别、语义理解、图像分类、目标检测、深度学习等人工智能技术，自动提供各种内容的安全识别，大大改善了审核的时效性和效率，同时大幅降低了成本。

今天，随着人工智能技术的不断成熟，计算能力的不断增强，智能审核的算力瓶颈基本不再，技术人员正在持续优化模型，提高精准度。虽然现阶段还不能完全取代人工智能，但已经能通过预审、预标注等大大减轻审核人员的负担。不难预见，随着数据的不断丰富，智能审核的普及程度还将进一步提升，AI在内容审核中也将有更大作为。