01

這兩天互(hu)聯網(wang)圈最大的熱門事件(jian)是，小紅書下架了。

7月29日晚間，各(ge)大安卓應用(yong)市場的小紅(hong)書APP暫時不提(ti)供(gong)下載(zai)。

作(zuo)為國(guo)民級種草APP，小(xiao)紅書的下架既(ji)是意料之外(wai)，也是情理之中(zhong)。

意料之外在(zai)于(yu)，小紅書(shu)本(ben)身只是一(yi)個主打消費的(de)內容社(she)區(qu)，本(ben)身不具(ju)有攻擊性(xing)。

情理之中(zhong)在于，小紅(hong)書是C2C模式(shi)，筆記內容(rong)可以隨意發布，任何(he)人(ren)用任何(he)方(fang)法都(dou)可以發布任何(he)內容(rong)。

正常(chang)人可(ke)以(yi)，微(wei)商可(ke)以(yi)，特殊(shu)工(gong)作者(zhe)可(ke)以(yi)，黑(hei)產也可(ke)以(yi)。

對于一(yi)切C2C的(de)(de)工具類平臺(tai)產品(pin)，只要能(neng)發布內(nei)容，其實(shi)內(nei)容失控的(de)(de)風險都是(shi)存在的(de)(de)，不(bu)僅是(shi)小紅(hong)書。

之前的(de)(de)即刻(ke)，Soul，乃(nai)至(zhi)網易云音樂，都(dou)存在內容失控(kong)的(de)(de)情(qing)況(kuang)，話題廣場，論(lun)壇(tan)，評(ping)論(lun)區，用戶昵稱，甚(shen)至(zhi)私人對話，只要可以錄入文字圖片和語音的(de)(de)地方(fang)，就存在著(zhu)失控(kong)的(de)(de)風險。

畢竟產(chan)品是簡單的(de)，人(ren)性是復雜的(de)。

平臺治理(li)和內(nei)容安(an)全也歸屬(shu)于(yu)大風(feng)控的范疇，作為一名(ming)風(feng)控從業者，在這(zhe)方面，我(wo)有一些實(shi)戰經驗。

這篇文章，我打算從(cong)內容風控和(he)平臺治理(li)的(de)(de)角(jiao)度(du)來(lai)談談行業當前的(de)(de)現(xian)狀與困境。

內容(rong)失控，對(dui)于(yu)所有電商和(he)社(she)區類產品而言(yan)，都是致(zhi)命的。

尤(you)其(qi)在(zai)互(hu)聯網文明越來越重要的今天。

小紅書作為C2C的工具類(lei)平臺，用(yong)戶(hu)是可以自己(ji)上傳圖片和筆(bi)記的。

 同時(shi)小紅(hong)(hong)書又是Top的(de)種草(cao)平(ping)臺，用戶(hu)逛小紅(hong)(hong)書就是買東西的(de)。

自由的規則配(pei)合(he)(he)精準的潛(qian)在消費者，二(er)者一(yi)結(jie)合(he)(he)，就(jiu)成了一(yi)塊超級美妙的流量蛋糕，肥的流油(you)。

于是各(ge)種違禁(jin)黑(hei)產(chan)，色情(qing)交(jiao)易，非法醫美(mei)，就(jiu)都(dou)來了。

在(zai)下架前(qian)，小紅(hong)書通過一些關鍵(jian)詞索引，可(ke)以獲得各種(zhong)神奇的服務，當然(ran)現在(zai)已經開(kai)始大規模(mo)屏蔽。

例如粉毒和(he)非法(fa)醫美；比(bi)基(ji)尼和(he)特(te)殊(shu)服(fu)務；增高(gao)減肥(fei)和(he)黑(hei)五(wu)類保健品(pin)；銀行(xing)卡電(dian)話卡和(he)黑(hei)產資料。

這些(xie)筆記的(de)特點都是打著攻略分享的(de)名義，往賣家的(de)私(si)人微信(xin)號(hao)上導流，然后用(yong)話術誘導成交(jiao)。

 這種自(zi)發性(xing)的(de)C2C傳播，也(ye)是小紅書產品(pin)本身(shen)的(de)最大特點。

很多不法商家(jia)在利用小紅(hong)書這(zhe)個平(ping)臺，大(da)發橫(heng)財。

小紅書作為平臺(tai)方，有苦難言。

我(wo)不(bu)想(xiang)去討論小紅書(shu)作為平臺有沒有責任，畢竟內容是用(yong)戶自發的，這塊我(wo)不(bu)夠專業(ye)。

我想討論的是，用(yong)什么方法可以有效治理掉這(zhe)些(xie)垃圾(ji)內容，小紅(hong)書(shu)的風控和平臺治理們也(ye)在頭疼這(zhe)件事情。

作(zuo)為風控同行，我想提一(yi)些建議，這(zhe)些源自我的一(yi)些實戰經驗(yan)，希望能對他們以及讀者有所(suo)幫(bang)助。

OK，小紅書(shu)當前面臨(lin)的(de)(de)核心問題是，C端用(yong)戶(hu)上傳的(de)(de)內容具有(you)很大的(de)(de)不可(ke)控(kong)性(xing)，里面可(ke)能(neng)夾(jia)雜(za)了(le)大量(liang)的(de)(de)違法(fa)違禁內容，需要有(you)效識別這些人，然后針對(dui)性(xing)屏蔽(bi)和(he)封號，在保證正常用(yong)戶(hu)體驗的(de)(de)前提下，降低(di)內容風險。

當(dang)然，不(bu)管是(shi)(shi)降低內容風(feng)險(xian)，還是(shi)(shi)保(bao)證(zheng)用戶體驗，其核心目的都是(shi)(shi)要保(bao)證(zheng)企業的商(shang)業利益最大化，這是(shi)(shi)大前提，風(feng)控要為業務(wu)(wu)服務(wu)(wu)。

所以一切手段(duan)最終都要平衡誤殺率和ROI。

那么，我們開始。

所謂外采詞庫(ku)就是(shi)有專門的供應商會(hui)做涉及敏(min)感(gan)領(ling)域(yu)的詞，支持API的形式(shi)直接調用，可(ke)以嵌入到用戶昵(ni)稱錄入，文本上傳，用戶私信等模塊，只要上傳文本，都會(hui)進行一(yi)次(ci)詞庫(ku)過濾，把(ba)一(yi)些違(wei)禁的詞給抓出(chu)來。

優點(dian)是(shi)(shi)快速上線，缺點(dian)是(shi)(shi)詞庫是(shi)(shi)暗箱(xiang)狀態（屬于供應商），并且業務關鍵數據容(rong)易(yi)泄露（API調用的入(ru)參容(rong)易(yi)被(bei)供應商拿走商用）。

我(wo)知道小(xiao)紅書的(de)供(gong)應商是哪(na)家(jia)，我(wo)也測試過很(hen)多家(jia)，只能說通用(yong)詞庫是沒(mei)法依據(ju)實(shi)際業(ye)務場景(jing)來(lai)做精準打擊(ji)的(de)，建(jian)議小(xiao)紅書自建(jian)詞庫，如果沒(mei)有(you)現成可配置(zhi)的(de)詞庫框(kuang)架，可以使用(yong)腳本(ben)的(de)方式來(lai)讓研發維護一套詞庫，當然最(zui)好還是做成可配置(zhi)的(de)，畢(bi)竟用(yong)腳本(ben)的(de)話(hua)，詞多了很(hen)容易崩潰(kui)，不是長久之計。

有了這(zhe)一(yi)套東西后，需(xu)要一(yi)套應用(yong)(yong)策略(lve)，包含敏感詞(ci)收集策略(lve)，敏感詞(ci)應用(yong)(yong)策略(lve)，敏感詞(ci)處(chu)置(zhi)策略(lve)。

所謂敏(min)感(gan)詞(ci)收集(ji)策(ce)略，要解決的是如(ru)何獲取到有效的敏(min)感(gan)詞(ci)。

很(hen)多人工(gong)智能公司吹捧所謂自然語義識別(bie)，用(yong)機(ji)(ji)器學習做，在這(zhe)里是不好用(yong)的，我要(yao)(yao)提醒一(yi)下(xia)小紅(hong)書，不要(yao)(yao)迷(mi)信(xin)機(ji)(ji)器學習。

因(yin)為(wei)漢語是博大精深的，使用(yong)諧音字，變體字，火星文，以及中間夾雜(za)各種特殊符號和空(kong)格的模式，很容易(yi)就能繞過(guo)機器(qi)。

就微信這(zhe)個詞，可(ke)以(yi)變種成V信，VX，威，VV，你懂(dong)得，威X信等(deng)等(deng)等(deng)等(deng)，機器學習做不到這(zhe)么精準(zhun)的(de)打擊，但人的(de)識別配合SQL以(yi)及Python代碼，可(ke)以(yi)實(shi)現。

在這里，建議(yi)使(shi)用實時數據庫，配專門(men)的數據分(fen)析(xi)師來做詞語收集。

數據分(fen)析師可以(yi)通過一些基礎的違規信息，來(lai)進一步人(ren)工(gong)延伸出(chu)索(suo)引(yin)規則(ze)，例如微 ` 信12345，就可以(yi)提取出(chu)某(mou)些關鍵(jian)字(zi)（用微這個字(zi)來(lai)做索(suo)引(yin)），某(mou)些特殊符(fu)號，甚至某(mou)些符(fu)號+數字(zi)的特征來(lai)抓。

一個熟練的(de)風控數據分析師，一天抓出(chu)上萬有(you)效敏感詞不(bu)是問題(ti)。

所(suo)謂敏感(gan)詞應用策略，要解決的問題是這些敏感(gan)詞用于哪些領域。

當你(ni)有了一(yi)個敏感(gan)詞(ci)庫時，你(ni)需要對每一(yi)個詞(ci)進行打標(biao)簽(qian)(qian)，例如殺人這個詞(ci)是(shi)A類(lei)標(biao)簽(qian)(qian)，吃奶這個詞(ci)是(shi)B類(lei)標(biao)簽(qian)(qian)，不(bu)同(tong)的(de)業(ye)務(wu)場景以(yi)及電商品類(lei)，要使用完全不(bu)同(tong)的(de)標(biao)簽(qian)(qian)。

例(li)如牛奶類的筆記(ji)，用(yong)吃奶這個詞就會(hui)誤(wu)傷很(hen)大。

這里需要做(zuo)的(de)(de)是(shi)，給每一(yi)個場景的(de)(de)業務(wu)都(dou)打上標(biao)(biao)簽，然后依據(ju)標(biao)(biao)簽來使(shi)用敏感詞庫(ku)中的(de)(de)詞類目。

例如口(kou)紅類(lei)筆記要用ABC標簽的(de)詞。

例如(ru)旗袍類的筆記要用CDF標簽(qian)的詞等(deng)等(deng)。

至于如何拆(chai)解品類打標和敏感(gan)詞(ci)，這個就不展(zhan)開(kai)了，展(zhan)開(kai)必是(shi)長篇大論。

所謂敏感(gan)詞處(chu)置(zhi)策略，要解決的問題是內容命中了敏感(gan)詞之后，要如何處(chu)置(zhi)這些內容。

這里其(qi)實也牽涉對敏(min)感詞的打標，主要是設置敏(min)感詞處置權重。

例如黃恐暴(bao)類的(de)敏感詞(ci)，標簽對應(ying)的(de)處置(zhi)手段應(ying)該是(shi)直接(jie)屏蔽+封(feng)號或(huo)者直接(jie)禁(jin)止發布。

例如(ru)疑似推廣微信號的標簽，對應的處置手(shou)段(duan)應該是屏蔽(bi)+禁(jin)言，或者禁(jin)止發布(bu)。

例如命中了(le)一些權重較弱的敏(min)感詞或者敏(min)感字，對應的處置手段(duan)應該是(shi)轉人工審核(he)，再發布。

當(dang)然這里只(zhi)是(shi)舉幾個簡單的例子，敏感詞的應用方(fang)法還(huan)有很多，不(bu)過這個方(fang)向(xiang)是(shi)目前比(bi)較(jiao)成熟的模(mo)式。

除卻敏(min)感詞之外，小紅書的(de)(de)筆(bi)記中還(huan)含有大(da)量的(de)(de)圖片(pian)類(lei)內容(rong)，這些圖片(pian)類(lei)內容(rong)目前主要的(de)(de)問題有2個。

第一(yi)個(ge)是黃恐暴類圖片(pian)，圖片(pian)本身(shen)有問題。

第二個(ge)是(shi)圖片本身(shen)沒問(wen)題(ti)，但是(shi)圖片里面的東(dong)西有問(wen)題(ti)，例如圖片里面就(jiu)有VX：12345等字跡(ji)或(huo)者水印(yin)。

對于前者，建(jian)議直接(jie)購(gou)買現成的圖片識別服務，阿里騰訊(xun)都有成熟的服務。

對(dui)于后者，可以使(shi)(shi)用OCR把(ba)圖片轉成文字，然后使(shi)(shi)用敏(min)感詞策略來進行處(chu)理。

以上(shang)是對于內容本身的風(feng)控思路(lu)，需要注意的是，這個(ge)需要投入大量的資源(yuan)，尤其是人工審核資源(yuan)，今日頭(tou)條就有數千人專門做內容審核，對于內容電商來說，這個(ge)不能省。

而且內容攻(gong)防應(ying)該是動態(tai)的(de)，不(bu)存在一(yi)勞永逸的(de)事情，需要(yao)做(zuo)好持久戰的(de)準備，漢(han)語就(jiu)是這么博大精深。

內容風控很重(zhong)要，但(dan)其實只(zhi)是(shi)表層，而(er)且永(yong)遠難(nan)以做到窮舉(ju)，真的一刀切下去，會誤傷大(da)量的正常用戶(hu)，這對于用戶(hu)體驗(yan)和公司的商業價值而(er)言都是(shi)損失。

比(bi)內容風(feng)控更重要的，是底(di)層風(feng)控，從用戶注冊到發(fa)生第一次行為（例如(ru)發(fa)布筆記或者給某個筆記點贊或者評論(lun)或者分享），都(dou)需(xu)要做更深入的風(feng)險(xian)管(guan)理(li)。

除了(le)要(yao)管別人發(fa)了(le)什么內容(rong)(rong)，同樣還要(yao)管是(shi)哪些【人】發(fa)了(le)這些內容(rong)(rong)。

通(tong)過敏(min)感詞體系，可以對(dui)大量的內(nei)容筆(bi)記(ji)來進行標簽，分類出正常(chang)筆(bi)記(ji)，可疑筆(bi)記(ji)，搗(dao)亂筆(bi)記(ji)，沙(sha)雕(diao)筆(bi)記(ji)等(deng)等(deng)等(deng)等(deng)等(deng)，這些統(tong)稱(cheng)為Y。

風控策略(lve)(lve)的基(ji)礎邏輯是F（x）=Y，X是指特征，F是指算法(fa)or策略(lve)(lve)，Y是指效(xiao)果。

當你(ni)有了Y之(zhi)后，就等于知道了答(da)案。

然后去找這(zhe)些(xie)異常的(de)筆記，都是誰發布(bu)的(de)，這(zhe)些(xie)發布(bu)的(de)賬號的(de)特征(zheng)（X）是什么。

一般常(chang)見(jian)的(de)賬號(hao)(hao)特(te)征(zheng)有數百個維度，例(li)如注冊時(shi)間(jian)，年齡，性(xing)別，發布時(shi)間(jian)，常(chang)用(yong)標(biao)簽，ip地(di)址，設(she)備號(hao)(hao)（imac，imei，device id），手機(ji)號(hao)(hao)，性(xing)別，歸屬地(di)，APP來源（華為市(shi)場，小米(mi)市(shi)場，APP Store），登(deng)錄模式(shi)（APP，小程(cheng)序，H5），手機(ji)型(xing)號(hao)(hao)，GPS地(di)址，LBS區(qu)域(yu)，用(yong)戶(hu)注冊來源（自(zi)來水，A活(huo)動推(tui)廣(guang)，市(shi)場投放轉化，CPA），歷史行(xing)為（點(dian)贊數，關注人(ren)），瀏覽(lan)行(xing)為，等等等等等，這些信息有的(de)來自(zi)于APP埋點(dian)，有的(de)來自(zi)于依據原有特(te)征(zheng)推(tui)算出的(de)衍生特(te)征(zheng)。

特征工程(cheng)是風(feng)控的核心之一，重要性不(bu)亞于策(ce)略(lve)應用，好的數據是一切的基(ji)礎。

通過敏(min)感詞找(zhao)到(dao)Y，然(ran)(ran)后(hou)利用Y來反推(tui)命中的X，然(ran)(ran)后(hou)得(de)出(chu)應用策(ce)略-F。

案(an)例1，假如小紅書發現某個(ge)整容類(lei)的(de)(de)異常筆(bi)記(ji)，大部分發布者(zhe)和(he)點贊者(zhe)的(de)(de)IP都是相同的(de)(de)或者(zhe)都是同一個(ge)號段的(de)(de)，那么完全可以設(she)置策略屏(ping)蔽這(zhe)個(ge)IP段發這(zhe)個(ge)類(lei)型的(de)(de)筆(bi)記(ji)。

案例2，假如小紅書發現某些有問題的筆記，都(dou)指向同一個微(wei)信(xin)號，那(nei)么就把發布過這個微(wei)信(xin)號的賬號全都(dou)封了(le)，連誤殺都(dou)沒有。

案(an)例(li)3，假如小(xiao)紅書發(fa)現某些有問(wen)題的筆記，大(da)部分發(fa)布者和點贊者都是24小(xiao)時內注冊的，那(nei)么完全可以設置注冊時間XXX時間內，不允許在XX領域發(fa)筆記。

類似的規則，在成(cheng)熟(shu)的平臺治理中(zhong)，會有數十萬(wan)條，我做過(guo)設計和維護。

這(zhe)一切的規則，都要(yao)做成(cheng)動態可(ke)配置(zhi)(zhi)的，做成(cheng)決策引(yin)擎(qing)的模式，風控只需要(yao)拖拉拽這(zhe)些標簽，然后自己寫比(bi)對符和閾(yu)值(zhi)，再配置(zhi)(zhi)處置(zhi)(zhi)手(shou)段(duan)，就可(ke)以生效(xiao)。

例如一條規則，禁(jin)止注冊時間在(zai)24小時內的女性用戶發布比(bi)基尼筆記。

拆(chai)解起來就(jiu)是。

注冊時間<24小時，

且 性別標簽=女，

且筆(bi)記(ji)標(biao)簽=比基尼

則(ze)，禁止發布，

且，彈出文案【半(ban)佛(fo)仙(xian)人你別比(bi)比(bi)了(le)】。

把這些做成(cheng)是否的(de)標簽，可以(yi)自由配置(zhi)，快(kuai)速上線。

夾雜(za)敏(min)感詞策略和決策引擎中間，還應該有一(yi)層(ceng)基(ji)于【賬戶】維度的用戶關系網絡以及實(shi)時監控和干預機制，用圖挖(wa)掘(jue)來(lai)做。

所謂關系(xi)網絡，是指不同賬戶間的關系(xi)，由(you)點和線(xian)組成。

 例如A賬戶給B賬戶的筆記點贊或者評價，就(jiu)會(hui)形成一條(tiao)關(guan)系。

反(fan)應在(zai)網絡(luo)中(zhong)就是A點(dian)(dian)和B點(dian)(dian)之間出現了一條關系線(xian)（A點(dian)(dian)贊/評論B）。

再(zai)例(li)如(ru)A賬(zhang)戶和C賬(zhang)戶同時給B賬(zhang)戶的筆記(ji)點贊或者評價，就會形成多條關系線。

反應在網絡中就是A點(dian)(dian)到(dao)B點(dian)(dian)（點(dian)(dian)贊(zan)(zan)串聯），C點(dian)(dian)到(dao)B點(dian)(dian)（點(dian)(dian)贊(zan)(zan)串聯），A點(dian)(dian)到(dao)C點(dian)(dian)（都給B點(dian)(dian)過贊(zan)(zan)）。

關系網絡，是(shi)對(dui)于批量(liang)作弊賬戶的大殺器(qi)。

在實際業務中(zhong)，通過設(she)置點和線的規(gui)則(ze)，可以有效攔截批(pi)量(liang)異常(chang)行為。

例如(ru)在同一個(ge)時(shi)間，出現(xian)了大(da)量有(you)關(guan)聯的(de)賬戶(hu)（相(xiang)(xiang)同IP，相(xiang)(xiang)同操作頻率，相(xiang)(xiang)同GPS等），與某幾個(ge)筆記或(huo)者賬戶(hu)出現(xian)了可疑關(guan)聯（批量點贊(zan)），就可以進行攔截。

例如在(zai)近(jin)10分(fen)鐘內(nei)，整個的流量(liang)池出(chu)現了(le)波動異常（分(fen)均(jun)用(yong)戶點贊數超(chao)過(guo)了(le)平均(jun)值XX倍），則可以(yi)觸發警報，把(ba)溢出(chu)流量(liang)關聯(lian)的內(nei)容(rong)進行屏蔽等等等。

關系網(wang)絡更多是(shi)橫向的(de)對比以(yi)及(ji)大盤(pan)的(de)監控，涉及(ji)賬(zhang)戶管控，不僅要看橫向，更要看縱向。

 所(suo)謂橫向，是指同一(yi)個時(shi)間里(li)，賬戶A和賬戶BCDEF是否有相同的(de)行(xing)為或者(zhe)異常(chang)的(de)關聯，所(suo)有人放在一(yi)起來(lai)比不同。

所(suo)謂(wei)縱向，是指同(tong)一個賬戶，在不同(tong)的時間(jian)里，進行(xing)了怎樣的操(cao)作。

例如A賬戶，過去(qu)六個月都(dou)是給一些正(zheng)常的筆(bi)記(ji)點贊，瀏(liu)覽和評論都(dou)很(hen)正(zheng)常，但是近3天，在(zai)密(mi)集的跟(gen)一些異常的筆(bi)記(ji)產生互動(dong)和分享。

這(zhe)就是賬戶出(chu)現(xian)了問題，與之前的操作不(bu)同(tong)，需(xu)要(yao)對賬戶發出(chu)警(jing)告(gao)，要(yao)么(me)屏(ping)蔽(bi)功能，要(yao)么(me)要(yao)求實名。

橫向是用其他用戶(hu)的特征比對一個用戶(hu)，縱向是指用戶(hu)過去的特征比對當前的行(xing)為。

縱橫(heng)之術是對(dui)抗黑產養號與批量作弊(bi)的屠(tu)龍(long)術。

敏感詞(ci)策略和決(jue)策引擎外，還需要做的是賬(zhang)戶準入和APP加固。

所(suo)謂(wei)賬戶(hu)準入體系，是指在用戶(hu)注冊階段(duan)就攔(lan)截(jie)掉大量黑產(chan)用戶(hu)。

大量發布垃圾筆(bi)記(ji)和違禁(jin)筆(bi)記(ji)的(de)賬號(hao)，往往都(dou)是(shi)接碼平(ping)臺批量注冊(ce)了，不是(shi)很(hen)多人(ren)(ren)想到一堆人(ren)(ren)拿(na)著幾百(bai)個(ge)手機在操作，微商(shang)很(hen)賺錢(qian)的(de)好嗎(ma)，不會干這種(zhong)low事。

這(zhe)就(jiu)代表(biao)著(zhu)，這(zhe)些注冊手機(ji)號本(ben)身，就(jiu)有足夠多的問題，因為黑產們拿(na)手機(ji)號也(ye)有成(cheng)本(ben)，往往會多次利用(yong)。

這個手機號在(zai)小紅書耍流氓之前，可能已經在(zai)其(qi)他平臺(tai)被(bei)教育(yu)過了。

一(yi)般在(zai)注(zhu)冊(ce)(ce)階段(duan)，建議(yi)對手(shou)機號(hao)(hao)加一(yi)層準入規(gui)則，常規(gui)的手(shou)段(duan)是(shi)禁止小號(hao)(hao)和虛擬號(hao)(hao)注(zhu)冊(ce)(ce)，進一(yi)步(bu)的手(shou)段(duan)就是(shi)采購阿里云(yun)和騰(teng)訊天(tian)御的注(zhu)冊(ce)(ce)反欺(qi)詐評分，輸入一(yi)個手(shou)機號(hao)(hao)+注(zhu)冊(ce)(ce)IP，可以返給一(yi)個評分，分數(shu)高于(yu)XXX分的時候，拒絕用戶注(zhu)冊(ce)(ce)，或者強制要求實名(ming)（人(ren)臉(lian)或者銀行(xing)卡(ka)）。

阿里有最全的(de)電商(shang)黑產庫，騰(teng)訊有最全的(de)社交黑產庫，網易(yi)有最全的(de)游戲(xi)黑產庫，都(dou)是(shi)T+0實時更新(xin)的(de)，土豪一些的(de)公司可以都(dou)用，其他自便。

反正只(zhi)要風控能根據(ju)異常筆記(ji)抓到(dao)注冊賬(zhang)戶(hu)手機號就行(xing)，拿這些(xie)去測(ce)各家(jia)的數據(ju)準確度與誤殺率，并不困(kun)難。

這個操作在業內叫做加盾(dun)，有這一層盾(dun)，基本上(shang)可以擋掉市場上(shang)9成(cheng)5的黑(hei)產，大(da)多數黑(hei)產是(shi)沒有能力繞盾(dun)的，因為資(zi)金不夠雄厚，手(shou)機卡更新速度上(shang)不去。

賬戶準入體系外，還需要的就(jiu)是APP加固。

所(suo)謂APP加固，是指對于APP本(ben)身的代碼，接(jie)口做(zuo)封(feng)裝和動態(tai)加密，攔截接(jie)口直接(jie)寫(xie)入內容，代碼破解(jie)，沙盒，GPS更(geng)改(gai)等一系列攻擊行為(wei)，簡單理解(jie)為(wei)是反外掛也可以。

 很(hen)多(duo)APP對(dui)于用戶(hu)的錄入(ru)內容其實都是(shi)有限制的，很(hen)多(duo)APP甚(shen)至不(bu)允(yun)許用戶(hu)錄入(ru)內容，只能選擇幾個特(te)定的標簽。

但是黑產在進行違規內容滲透(tou)的(de)(de)時候，往往不是手(shou)動(dong)填寫的(de)(de)，而(er)是直接反編譯本地APP代碼，攔截接口(kou)的(de)(de)動(dong)態信息(xi)，然后調用接口(kou)錄入。

例如正常人(ren)肯定打(da)不出(chu)一些特殊符號，但是通(tong)過接口用機器(qi)寫入，想寫什么，就寫什么。

小(xiao)紅書社區(qu)中的(de)大量明晃晃的(de)違規內容，很有可能是由(you)于接口被攻破，遭(zao)遇大量的(de)機(ji)器寫入，這(zhe)個在黑(hei)產攻防中很常見。

通過(guo)機(ji)器(qi)大量灌入垃圾內(nei)容導致競(jing)爭對手出現問題，在(zai)業(ye)內(nei)并不稀奇(qi)。

所以(yi)在賬(zhang)號準(zhun)入外，也要主要APP本身的加固措施。

敏(min)感詞過(guo)濾(lv)，決策引(yin)擎，加盾，APP加固，這4套都做好（需要坐(zuo)很(hen)久(jiu)很(hen)久(jiu)，這是(shi)(shi)一個很(hen)大的(de)工程），是(shi)(shi)不是(shi)(shi)就(jiu)高枕無憂了？

不(bu)是的(de)，作為內(nei)(nei)容(rong)社(she)區，小(xiao)紅(hong)書(shu)還需(xu)要更重要的(de)一套(tao)機(ji)制，就是用戶內(nei)(nei)容(rong)舉報機(ji)制。

只靠小(xiao)紅書自己，累死他們也不可(ke)能擋掉一切的(de)垃圾內(nei)容，而且使用策略也好(hao)，規則也好(hao)，閾值設置(zhi)比較寬松的(de)話，總有漏網之(zhi)魚。

閾值設置過于嚴格的(de)話，總會有(you)被誤(wu)殺的(de)用(yong)(yong)戶(hu)，被誤(wu)殺的(de)用(yong)(yong)戶(hu)還會去各個論壇和網絡媒(mei)體(ti)發聲，去譴責小紅書。

在這(zhe)個好事(shi)不出(chu)門，壞事(shi)傳千里的(de)年代(dai)，這(zhe)種負(fu)面信(xin)息對于小紅(hong)書也是一種傷害(hai)。

而小紅書最大的(de)(de)特點就是用戶(hu)自發的(de)(de)參與度高，所以一套(tao)完善的(de)(de)用戶(hu)舉報機制是非(fei)常高效(xiao)的(de)(de)平(ping)臺行為。

這套機制不是加一個(ge)所謂的按鈕點(dian)擊這么簡(jian)單，用戶看到的可能就(jiu)是一個(ge)舉報按鈕。

但小紅書需要做的(de)是針對整個(ge)舉(ju)(ju)報(bao)設(she)計完整的(de)SOP（標準(zhun)作(zuo)業流程(cheng)），如何判(pan)定舉(ju)(ju)報(bao)是否有效(xiao)，不同舉(ju)(ju)報(bao)內容的(de)確認標準(zhun)以(yi)及處罰標準(zhun)，舉(ju)(ju)報(bao)應在什么(me)時間內生效(xiao)，應該給與(yu)舉(ju)(ju)報(bao)用戶怎樣的(de)獎勵(li)與(yu)支(zhi)持(chi)增加積極性等(deng)等(deng)等(deng)等(deng)，這也是一個(ge)浩(hao)大的(de)工程(cheng)。

 但(dan)對(dui)于內容(rong)社區而言，用戶自(zi)發舉報是非(fei)常好用的東西(xi)。