面对30位反低俗测试员的吐槽，我们找来了“灵犬”一一解答

今天，“灵犬”反低俗助手正式结束了为时两个月的内测期，即将正式上线。1月底，我们曾面向全社会招募反低俗测试员，最终从超过5000位报名用户，选出了30位代表，包括政府部门工作人员，媒体记者、编辑，大学教授、学生，互联网公司产品经理和技术人员，自媒体人等。

感谢这些测试员。在内测阶段，我们根据他们的意见反馈，增加了大量人工策略，帮助完善“灵犬”小程序。增加的重要策略，包括：对于权威媒体报道和诗词类内容，予以算法推荐倾斜；对于时政等机器难以直接处理的内容，必须交由人工审核判断。

我们在这里公开测试员们对于“灵犬”的吐槽和疑问，并让“灵犬”一一解答。

1号吐槽人：刺猬公社记者

Q：最开始并不清楚这个东西是做什么的，辨识度不高。

灵犬：让我重新自我介绍下，我是一款鉴定低俗信息的小程序，脱胎于快手反低俗算法模型。给我一段文字或文章链接，我就能帮你检测它的健康指数。你可以把我看作是一个简便的低俗信息检测工具。

2号吐槽人：中国青年网编辑

Q：带图片和视频的链接，检测效果都不太好。

灵犬：目前使用我检测带图片、视频的链接，确实会有误差。因为图片、视频提取需要较长的时间，返回结果较慢，考虑到工具的即时性，暂时还不支持检测。

3号吐槽人：国家新闻出版广电总局工作人员

Q：输入文字，为什么必须超过10个字才能检测？

灵犬：如果你给一个人的爱越多，她对你的好感就会越强烈。对于像我这种机器呢，你给我的上下文、语境这些信息越充分，我判断的准确度就会越高。为了让我更敏锐，有充分的信息做出准确判断，请多给我一些字，不错是一段链接。

4号吐槽人：新浪记者

Q：不太清楚背后的算法机制，如何判断一段文字或网址链接是低俗？

灵犬：算法模型处理低俗内容的一般路径，是“收集数据－标注样本－训练模型”。我的母体，就是一个使用人工智能技术反复训练的反低俗模型。对于你输入的文字或链接，我会先进行提取、分词和语义识别，然后根据设定的规则，输出对应的分数、评级和结论。

5号吐槽人：阿里巴巴程序员

Q：“灵犬”与快手审核机制有何不同?

灵犬：如果我是一条犬，快手审核机制就是一支工作犬部队。换句话说，我只是快手审核机制中反低俗部分的一个简化版本。在内容审核方面，快手目前投入了4000多人专业审核团队，是国内最大的审核团队，并搭建色情、低俗、标题党、虚假信息、低质模型180多个，结合人工、技术手段，有效提升了内容审核的效率和准确度。

6号吐槽人：浙报传媒编辑

Q：希望在建模的时候，能考虑优质文章的来源对于健康度指数的影响。

灵犬：谢谢你的意见。在最新版本的我，已经对于权威媒体报道的内容，予以算法推荐倾斜。

7号吐槽人：新浪记者

Q：我测了“你饿不饿我下面给你吃”，这个有51%的健康概念，但我觉得挺中性的呀。

灵犬：不同于色情信息，处理低俗信息的一个难点在于，人们对于低俗的判断标准具有一定的主观性。色情信息很直接，低俗信息偏隐晦，对于像我这种机器就更难了。快手的做法是，把低俗的标准分为两个层次：几乎所有人看来都会一致同意的标准底线，和因人而异的主观判断。我认为你这个测试标题，是一个因人而异的话题，仁者见仁智者见智。

8号吐槽人：四川大学副教授

Q：我测了标题党“你永不知道云飞在2017年春晚唱这歌有多好听，花500000万也买不到”，结果是健康概率99%，可以获得算法推荐。

灵犬：我的母体是快手反低俗算法模型，所以对于标题党识别不太准确，就像你很难用温度计去测一杯水的深度。仅仅从反低俗角度而言，我认为这个标题并不低俗。但在实际审核过程中，快手有专门的技术模型和专业的内容审核编辑，做打击标题党工作，他们做得比我更专业。

9号吐槽人：中国人大教授

Q：我测“驿外断桥边，寂寞开无主”，健康概率只有12%。

灵犬：这是因为此前的我认为“寂寞”有低俗的嫌疑。这是我的缺陷。程序员已经通过人工策略纠正了。如果你现在测类似的内容，会得到较高的健康概率。最新版本的我，对于诗词类内容，也予以了算法推荐倾斜。

10号吐槽人：清华大学教授

Q：“今天有152年不遇的蓝月亮”（健康概率83%）和“今晚有152年不遇的蓝月亮”（健康概率71%），一字之差，健康概率差12%？

灵犬：一个字的改变，确实会影响我对事物的认知和判断。对于很多短文本、没有上下文的语句，我的判断不如人类那么准确。这也是为什么在快手实际审核工作中，需要庞大的内容审核编辑团队。算法仍有缺陷，我们希望借助更多人的力量，完善算法模型，更好地服务社会。

-------------------------------------------------------------------------------------------------------------------------------------

                                                     搜狗广告投放咨询电话：4009602809

                       我公司是非常专业的互联网广告公司，产品拥有数十种，其中包含：搜狗推

                       广、360推广、爱奇艺推广、网易新闻信息流广告、智慧树推广、百度搜索

                       广告、万能钥匙广告、日历广告、锁屏广告、惠头条广告、神马推广等

                       全行业广告投放请联系：北京巨宣网络科技有限公司

公司优势

开户流程

注意事项