内容审核实践|即时通讯 IIM电竞M 场景
发布时间:2023-02-27 04:53:25

  一些用户使用即时通信 IM 产品开发实现自己的聊天业务,但对于聊天之间的消息无法很好的去管控内容是否违规。

  基于数据万象 CI ,对象存储 COS 推出的内容审核功能,可以帮助用户实现IM消息的审核服务,在发送出来的消息是违规内容时,不允许发送(先审后发)。

  内容审核的处理主要在步骤6、7、8。步骤6:发送审核请求对消息内容进行审核。步骤7:返回处理结果。步骤8:根据结果判断是否发送消息或是否撤回、删除消息。

  按照文档说明登陆、 获取SDKAppID及密钥信息、 创建应用、 下载DEMO源码、 配置密钥、 编译运行(部分平台需要)

  如:替换服务器地址后可以直接访问,timSdkH5Demo 为代码目录,可按需修改。

  访问后显示如下页面,可下拉选择用户登陆,两个用户登陆不同账号即可实现聊天功能。

  回调URL配置>

  编辑:填写回调URL后确认保存。具体回调参数及说明可访问 第三方回调简介 。

  事件回调配置>

  编辑:选择需要的回调事件,以“单聊消息”为例,选中 “发单聊消息之前回调”IM电竞im新闻,会在发送消息前请求回调URL,一系列判断后返调结果。

  这一步需要保证的就是,即时通信IM可实现消息发送、即时通信IM控制台回调配置完成,且在发送消息时触发回调URL的请求,回调接口能够接收到请求数据。强调:回调URL接口需公网可见。

  对消息内容进行审核,不同的消息类型会调用不同的审核接口,接下来的内容会对不同的消息类型(文本和图片)进行举例说明。

  以下举例说明都是以审核IM消息内容为前提,如需审核其他内容,可见各审核文档的详细介绍IM电竞。

  开发工具:SCF 云函数 不一定非要云函数,服务公网可见即可,否则回调请求失败)

  IM发送消息后会请求回调URL,本例中对SdkAppid参数做了简单身份验证,如需要其他复杂验证可自行判断。

  include_once imMsg.php; // 自定义消息审核类,对文本和图片做出审核请求并对审核结果做出是否违规判断

  即时通信 IM 回调 App 后台的超时时间为2秒,且没有重试。如果回调超时,后续处理逻辑与没有配置回调时相同(例如,假设“发送群消息之前回调”超时,消息会正常下发)IM电竞。

  为确保回调成功率,第三方 App 应当尽可能加快回调处理速度,例如先发送回调应答,然后再处理具体业务逻辑。

  关于审核,为了开发者更方便、更快速地使用数据万象的基础图片处理和媒体处理功能,以及 CDN 的云闪图片分发功能,我们提供了 SDK,开发者可根据具体需求进行选择,详情请参见对应的快速入门文档。对象存储的 SDK 也集成了数据万象的数据处理功能,若您需要使用其他语言的 SDK,例如 C++ 、JavaScript 等,请参见 COS SDK 概览。

  走到这一步,说明已经对消息内容进行了审核并作出了是否违规的判断,接下来就是返回是否违规的结果即可。

  具体参数及含义或其他应答方式可见 第三方回调简介 或同页面左侧其他文档页。

  至此,IM发送消息、IM请求回调、消息内容审核、回调应答、消息发送结果,所有步骤均已完成。

  随着各种网络安全法律法规和战略规划相继出台,监管部门对网络内容安全监管将日趋严格,对消息监管也日趋严格。对于聊天之间的消息如何把控也成为了重要的问题?对象存储本次推出的内容审核功能,可以帮助用户实现IM消息的审核服务,对于违规内容进行审核把控,为您的网络安全保驾护航。关于更多内容审核请前往:IM电竞IM电竞