吉联睿观点 > 用户简介审核具体包含哪些类别,以及用户简介审核机制流程是什么?

用户简介审核具体包含哪些类别,以及用户简介审核机制流程是什么?

发布日期:2024-02-28 22:42:10 浏览次数:1045

用户简介审核主要包含4个类别的审核:

1,图像审核

2,文本审核

3,语音审核

4,视频审核

 

 

1,用户简介图像审核:

用户简介应用场景:

·视频内容审核:对视频帧中的图像、字幕进行审核,搭配语音识别技术,对视频内容进行全面审核。

电商平台内容审核:针对商家的广告宣传文本,通过图文审核判断是否符合新广告法,在双11、618、黑色星期五等购物节,快速的对商品信息进行审核,保障平台内容安全

UGC内容反垃圾:对论坛、贴吧等UGC内容中的图片、文章、评论进行合规性检查,并针对恶意推广、低质灌水内容进行审核,降低平台违规风险、有效提升平台内容质量、吸引更多用户与优质资源

 

用户简介图像审核具体内容:

违禁图库甄别:基于违禁图像规则,提供对封禁图片的识别服务

公众人物识别:检测图中是否包含明星、球星等公众人物的人脸

用户头像审核:对图片中人脸的年龄、性别、遮挡、占比、清晰度等进行审核,筛选合适作为头像的照片

图文审核:检测图片的文字是否包含敏感内容、广告等违禁内容

广告检测:检测图片中是否包含水印、二维码、条形码

违禁识别:检测图中是否包含吸烟、饮酒、赌、纹身、竖中指等违禁物品或违禁行为

直播场景审核:检测图中是否包含在卫生间、车内、床上、无意义(纯黑/纯白)等直播行为

恶心图像识别:检测图片中是否包含病变组织、流血恐怖等恶心内容

图像质量检测:对图像的清晰度和美观度进行打分

自定义图像黑名单:对用户黑名单中的图片进行拦截

自定义图像白名单:对用户白名单中的图片直接放过

 

2,用户简介文本审核

用户简介文本审核应用场景:

用户评论过滤:对网站用户的评论信息进行检测,审核出涉及暴力、恶意推广等内容,保证良好的用户体验

注册信息筛查:对用户的注册信息进行筛查,避免违规用户通过用户名实现违规信息的推广

文章内容审核:对UGC文章内容进行多个维度的审核,避免因内容违规导致的APP下架等损失

 

用户简介文本审核具体内容:

违禁词库甄别:提供对敏感事件、违规词语及监管要求封禁词语的识别审核服务

违禁违规:对暴力行为、恐怖描述、赌、毒、枪支弹药等违禁内容进行识别

恶意推广:对文本中带有售卖意向的软文广告,微信、QQ等个人联系方式等违规内容及变体进行识别

低俗辱骂:对文本中的侮辱谩骂、人身攻击、消极宣泄等内容进行识别

低质灌水:对网络社区常见的乱码、水帖、刷屏等无意义的灌水信息进行识别

广告法审核:对广告法中要求的不能出现的违规词进行检测

 

3,用户简介语音审核

用户简介语音审核应用场景:

IM社交音频内容审核:在社交软件中有大量音频内容,可对音频内容的合规性进行审核,包括违禁审核维度

直播/短视频音频审核:针对直播、短视频中的音频内容进行审核

 

用户语音审核具体内容:

违禁词甄别:提供对敏感事件、违规词语及监管要求封禁词语的识别审核服务

违禁违规:对恐怖描述、赌、毒、枪支弹药等违禁内容进行识别

恶意推广:对文本(音频识别后的文本)中带有售卖意向的软文广告,微信、QQ等个人联系方式等违规内容及变体进行识别

低俗辱骂:对文本(音频识别后的文本)中的侮辱谩骂、人身攻击、消极宣泄等内容进行识别

低质灌水:对网络社区常见的乱码、水帖、刷屏等无意义的灌水信息进行识别

广告法审核:对广告法中要求的不能出现的违规词进行检测

 

4,用户简介视频审核

用户简介视频审核应用场景:

IM社交视频内容审核:在社交软件中有大量用户上传的视频内容,可以对视频内容进行检测,保证良好的用户体验。

PGC/UGC视频内容审核:针对电影、电视剧、各类网站中的长短视频,可以对视频内容的合规性进行审核,避免因内容违规导致被封等损失

 

用户简介视频审核具体内容:

违禁图库甄别:提供对封禁图片的识别服务

公众人物识别:检测图中是否包含球星、明星等公众人物的人脸

图文审核:检测图片的文字是否包含违规广告等违禁内容

广告检测:检测图片中是否包含水印、二维码、条形码

违禁识别:检测图中是否包含吸烟、饮酒、赌、吸、纹身、竖中指等违禁物品或违禁行为

直播场景审核:检测图中是否包含在卫生间、车内、床上、无意义(纯黑/纯白)等直播行为

恶心图像识别:检测图片中是否包含病变组织、流血恐怖等恶心内容

图像质量检测:对图像的清晰度和美观度进行打分

自定义图像黑名单:对用户黑名单中的图片进行拦截

自定义图像白名单:对用户白名单中的图片直接放过

 

 

用户简介审核机制:

  先审后发:

用户上传的内容并不直接显示在线上,外部用户不可见,而是先存在系统服务器中,由机器进行既定的逻辑判断和内容运营人员在后台查看之后,符合平台规则才能发布。

优点:解决了低质量信息泛滥的问题,能有效避免违法/广告信息、低质量内容损害产品的调性。

缺点:降低了信息的流动性和时效性,且给内容运营人员带来的工作量比较大。

  先发后审:

一种事后处理方式,即优先保证信息流通与时效性,先让内容发布在线上,再去审核是否符合规则。

  内容处理方案:

审核成功:发布成功,精华,推荐,话题转移至对应圈子,加*处理;

审核失败:删除,沉帖,前端提示禁止发布,内容复原(最近一次内容覆盖本次修改内容);

账号处理:冻结,解冻;


用户简介审核中容易疏漏的点:

在用户简介审核中,总有一些疏忽,犯下无心之过,导致内容安全问题。就此,成都吉联睿审核团队分享了日常审核中最容易疏漏的点,希望能帮到大家:

 

1,图片中与背景色相似的水印(微信、联系方式等),未察觉;,

2,相同的刷屏内容,未处理干净;

3,垃圾信息分拆多条发送,单条无问题;

4,短链、外链跳转后违规;,

5,OCR违规,图片旋转等;

6,涉政、违禁的网络用语或者黑话(419、上车等);

7,政治人物被查后,全信息扫描;

8,隐晦的推广行为(非明确的联系方式、广告词);

9,藏头诗、藏尾诗包含违规内容

10,没有多维度拦截拦截监控有害信息,昵称、头像、评论或者注册行为IP、设备ID、手机号等

11,成人番号判断;

12,小语种有害信息;

13,特定圈子的特定名词(耽美、BL、SM、幼齿、慕残等);

14,多图组合违规;

15,联系方式变形(阿拉伯、字母、繁体字);

16,盖楼形式的违规字符图;

17,直播中不经意拍摄到违规内容;

18,旗帜、地图、产地等易被疏忽的细节;

19,干扰词、变形词易漏;

20,通过内容引导到其他平台,从其他平台进行违规行为;

21,头像有问题处理后,该用户的昵称及其他UGC内容被遗漏,没有全方位处理;

22,未紧跟监管规则,被监管部门打时间差,比如英烈保护法发布后查出暴走漫画;

23,影射、暗喻等图片或文字,易漏过。