阅读(4042)
赞(10)
QQ小程序 图像安全审核
2020-07-10 14:27:49 更新
图像安全审核提供鉴黄、鉴政、鉴暴恐等多种类型的敏感内容审核服务,有效识别违禁图片,规避违规风险。
功能特性
审核类型 | 描述 |
---|---|
涉黄识别 | 检测色情、性感内容,有效降低人工审核成本,适用于各类社交平台、即时通讯应用,帮助平台规避涉黄风险 |
涉暴恐识别 | 识别图片中的恐怖分子、邪教组织、枪支弹药、血腥暴力等恐怖主义内容,帮助平台规避法律风险 |
涉政识别 | 通过人脸识别、图片泛化等技术检测图片涉政内容,帮助平台及时响应法律法规要求,规避舆论风险 |
广告识别 | 通过广告引导类图片的识别,帮助平台屏蔽广告信息 |
- 注意:您不仅在云函数中可以使用该扩展能力,也可以在客户端使用,文件读写权限策略与云存储一致,减去您额外的权限管理工作。
前置要求
- 已经开通云开发。
- 云环境已安装图像安全审核扩展,点击此处 查看安装情况
使用说明
- 安装扩展 SDK 到项目
npm install --save @cloudbase/extension-ci@latest
2. 注册扩展到Cloud对象
小程序中
const extCI = require('@cloudbase/extension-ci');
// 初始化环境
qq.cloud.init({
env:"test-x1dzi"
})
// 注册云开发扩展
qq.cloud.registerExtension(extCI);
云函数中
const cloud = require('qq-server-sdk');
const extCI = require('@cloudbase/extension-ci');
// 初始化环境
cloud.init({
env: cloud.DYNAMIC_CURRENT_ENV
})
// 注册云开发扩展
cloud.registerExtension(extCI);
3. 调用扩展 SDK
Cloud.invokeExtension(extensionName: String, options: Object): Promise
参数说明
参数 | 类型 | 是否必须 | 说明 |
---|---|---|---|
extensionName | String | 是 | 扩展名,传CloudInfinite |
options | Object | 是 | 扩展参数,说明见下方 |
options参数
名称 | 类型 | 是否必须 | 说明 |
---|---|---|---|
action | String | 是 | 操作类型,传:ImageProcess |
cloudPath | String | 是 | 文件的绝对路径,与cloud.uploadFile中一致 |
fileContent | ArrayBuffer或Buffer | 否 | 文件内容, 有值,表示上传时处理图像;为空,则处理已经上传的图像 |
operations | Object | 否 | 图像处理参数 |
operations节点内容
名称 | 类型 | 是否必须 | 说明 |
---|---|---|---|
type | String | 是 | 审核类型支持:porn(涉黄识别)、terrorist(涉暴恐识别)、politics(涉政识别)、ads(广告识别),可选择多种识别类型,如porn,ads |
返回内容
参数名称 | 类型 | 描述 |
---|---|---|
RecognitionResult | Object | 内容识别结果 |
RecognitionResult 节点内容:
|参数名称|类型|描述| |PornInfo|Object|鉴黄审核信息| |TerroristInfo|Object|鉴暴恐审核信息| |PoliticsInfo|Object|鉴政审核信息| |AdsInfo|Object|广告审核信息
审核信息(PornInfo、TerroristInfo、PoliticsInfo、AdsInfo)中包含如下内容:
参数名称 | 类型 | 描述 |
---|---|---|
Code | Int | 错误码,0为正确,其他数字对应相应错误。详情请参见 错误码 |
HitFlag | Int | 是否命中:0(未命中),1(命中),2(疑似) |
Score | Int | 审核分值:0 - 60分(正常),60 - 90分(疑似敏感),90 - 100分(确定敏感) |
Label | String | 识别出的图片标签 |
调用示例
小程序使用:
const extCI = require('@cloudbase/extension-ci');
qq.cloud.init({
env:"test-x1dzi"
})
// 注册云开发扩展
qq.cloud.registerExtension(extCI);
云函数中使用:
const cloud = require('qq-server-sdk');
const extCI = require('@cloudbase/extension-ci');
// 初始化环境
cloud.init({
env: cloud.DYNAMIC_CURRENT_ENV
})
// 注册云开发扩展
cloud.registerExtension(extCI);
您可以根据需要选择在【客户端】或【云函数】中使用,再按照如下代码调用:
async function demo() {
try {
const res = await cloud.invokeExtension('CloudInfinite',{
action:'DetectType',
cloudPath: "ab.png", // 需要分析的图像的绝对路径,与cloud.uploadFile中一致
operations: {
type: "porn"
}
})
console.log(JSON.stringify(res.data, null, 4));
} catch (err) {
console.log(JSON.stringify(err, null, 4));
}
}