抖音2024网络黑产治理盘点：AI大模型升级打击仿冒客服与刷单诈骗

ig281

1 月 13 日，抖音发布了“2024 网络黑产治理盘点”。在过去的一年里，平台一直在持续打击网络黑色产业链。通过升级 AI 大模型技术，不断迭代风控策略，优化举报机制等一系列举措，加强了对网络黑产的识别和治理能力。同时，还向有关部门提供了涉嫌违法犯罪的线索，全力守护用户的用网安全。

前置拦截欺诈信息 多渠道提醒用户谨防被骗

2024 年，仿冒领导、亲友以及官方客服属于最受关注的欺诈类型。其中，仿冒抖音客服的黑产尤为突出。它们通过广撒网的方式，利用拨打电话、发送短信、即时通讯软件拨号等手段，与受害人直接取得联系。接着，一步步引导对方共享屏幕或者下载第三方 app，借此获取用户的银行卡账户信息，并且诱导用户不断进行转账等操作。

购物诈骗也是 2024 年平台重点打击的欺诈类型。其中一类黑产链路以售卖演唱会内部门票、赠送小马宝莉卡、低价转游戏皮肤等噱头，锁定目标用户去第三方平台进行交易欺诈。

平台依据黑产作弊链路，在评论场景、建群场景、拉人场景等多个场景中，阻断黑产与受害者的接触。上线了反诈客服“验证助手”。并且根据黑产的特征，每个月对反诈策略进行 200 个以上的迭代。在站内和站外的多个渠道发送反诈提醒。每天平均能够保护 200 万次潜在受害人。2024 年，警方依据抖音提供的线索，打击了 69 个诈骗团伙，抓获了 451 名犯罪嫌疑人。

精准识别网络水军 重点打击四大类

售卖水军服务，这是过去一年抖音重点打击的行为之一；恶意控评，也是重点打击的行为之一；流量造假，同样是重点打击的行为之一；恶意举报，亦是重点打击的行为之一。黑产在站内会售卖刷粉刷赞等违规服务，还会招募水军。他们会有组织、有目的地批量发布评论，以此错误引导用户认知。他们会利用作弊手段伪造虚假流量、炒作热度。甚至会利用平台举报规则牟利，恶意举报从而导致他人账号受影响。

2024 年抖音构建了刷手、买手的用户模型，能够精准地辨别出风险账号，并且实施对异常操作的拦截，从而阻断了水军造假的途径；借助大模型技术提升了识别的能力，对于机器账号和受骗用户采取了差异化的处理方式。在过去的一年里，抖音每天平均拦截违规信息达到 6200 万次，总共封禁了 110 万个账号，并且把涉嫌存在违法行为的线索上报给了有关部门。过去一年，警方凭借抖音所提供的线索，成功抓获了 90 名水军黑产犯罪嫌疑人。

升级视频关键帧识别能力 阻断违规外链导流风险

黑产集中的一个方向是违规外链。除了欺诈和水军外，黑产组织会利用作弊手段，绕过平台的风控策略，在多种渠道插入二维码、联系方式、图片、网址等内容，进而引导用户点击并跳转至第三方违规或违法的网站，而这些第三方网站大多是以提供色情、赌博等违法服务为主要目的。

抖音风控团队为应对黑产新手法，在前置识别的基础上新增了自动黑样本库。利用 AI 技术，能够自动识别违规行为并进行归类处置。结合黑产行为模式，升级了视频截取关键帧模型能力，可在第一时间定位黑产在视频中植入的违规页面。还新增了弹幕场景模型，并且该场景的违规拦截策略能有效运行。2024 年，抖音封禁了超过 120 万个相关违规账号。在这期间，警方依据抖音所提供的线索，对 8 个违规导流团伙进行了打击，并且抓获了 40 名嫌疑人。

封面新闻记者 郭闻涓