抖音:严打 AI 生成色情低俗类违规内容,今年以来已处置 1.4 万个账号

IT之家 3 月 10 日消息,抖音黑板报今日发布公告称,严厉打击各类色情低俗内容,持续从严治理利用 AI 技术生成的相关违规内容。近期平台发现部分违规用户通过 AI 生成“单亲妈妈暧昧互动”“美女魅惑舞蹈”“着装暴露的海滨度假照”等低俗擦边内容,违反《抖音社区自律公约》平台规则,平台坚持从严从重处置。今年以来,针对 AI 生成色情低俗类违规,已处置 4.2 万条内容,对 1.4 万个账号处以限制推荐、禁言、封禁等不同梯度的处罚。IT之家附典型案例如下:典型案例 1:利用 AI 生成图片塑造“单亲妈妈陪读”人设进行色情导流,黑产团伙 4 人被刑拘平台巡查发现,一批账号利用 AI 生成“单亲妈妈陪读”人设的内容,通过发布性感擦边视频并配以性暗示文案,诱导用户关注。平台经深度研判与线索挖掘,发现背后疑似有黑产团伙操控,该团伙通过账号签名、群聊等方式,诱导用户跳转至第三方平台下载色情低俗 App。平台立即清理违规内容、无限期封禁相关账号,并收集线索上报至公安机关。最终,该黑产团伙 4 人被依法刑事拘留。典型案例 2:利用 AI 生成美女图片引导用户至收藏页进行色情导流,339 个账号被处置用...

查看原文 →