Reddit 用 AI 抓 AI 垃圾:5.5 億條違規內容被攔,但機器人帳號仍暴增 3 倍

Reddit 用 AI 抓 AI 垃圾:5.5 億條違規內容被攔,但機器人帳號仍暴增 3 倍

Reddit 用 AI 抓 AI 垃圾:5.5 億條違規內容被攔,但機器人帳號仍暴增 3 倍

Reddit 的 AI 兩難:自己養大的怪獸,現在要親手解決

你有沒有發現,Reddit 上的討論越來越「假」?

那種回覆超快、用字超正式、永遠不會打錯字的帳號,很可能不是真人——而是 ChatGPT 或 Claude 產出的機器人。Reddit 最近公開承認:AI 生成的垃圾內容已經變成平台最大危機,而他們的解方,竟然是再疊一層 AI。

這就像你家被老鼠咬爛,結果你養了隻貓來抓,但這隻貓其實也是你之前養的。


數字會說話:AI 垃圾已經失控

Reddit 公布的數據有點驚人:

  • 2024 年攔下 5.5 億條違規內容,比前一年成長 63%
  • 「高度疑似 AI 生成」的帳號暴增 3 倍
  • 每天新增 100 萬個社群(subreddit),人工審核根本追不上

最麻煩的是協調性不真實行為(CIB)——簡單說就是「假帳號軍團」。這些帳號會互相按讚、留言、製造假熱度,目的可能是詐騙、政治操作,或單純刷流量賺廣告分潤。

以前做這種事要請工讀生、寫腳本,現在?一個人配 ChatGPT API,就能產出幾百個「看起來很真人」的帳號。


Reddit 的反擊:用 AI 偵測 AI

他們開發了新的自動偵測系統,核心邏輯是:

「AI 寫的東西,通常太完美、太一致、太沒個性。」

這套系統會抓幾個特徵:

偵測指標真人帳號AI 機器人
回覆時間不規律(睡覺、吃飯、上班)24 小時即時回覆
用字習慣打錯字、口語、表情符號混用文法完美、格式一致
互動模式跟特定朋友聊特定話題到處留言、話題跳來跳去
帳號年齡通常有歷史紀錄新帳號突然大量發文

Reddit 說這套系統已經幫他們「大幅減少 CIB 內容」,但沒給具體數字——這本身就很可疑,可能代表問題還是很嚴重。


為什麼這件事跟台灣人有關?

你可能想:「我又不用 Reddit,關我什麼事?」

但這個邏輯正在所有平台複製

  • PTT:早就滿滿政治工讀帳號,現在加上 AI 更難分辨
  • Dcard:熱門文章底下的「共鳴回覆」,有多少是真人?
  • Facebook 社團:賣房、賣保險、賣課程的「熱心網友」
  • YouTube 留言:「感謝分享,學到很多」這種萬用回覆

更現實的是:Reddit 的內容是訓練 AI 的重要資料來源。如果平台上真假混雜,未來的 AI 學到的就是「假討論」,然後產出更多假內容——這是個惡性循環。


你能做什麼?三個簡單判斷法

下次滑社群時,可以留意這些跡象:

  1. 「太有禮貌」要小心 — 真人會打錯字、會有情緒、會離題
  2. 檢查帳號歷史 — 點進去只看得到這一則話題的內容,很可疑
  3. 看互動品質 — 一堆「+1」「同意」「講得很好」但沒有實質內容,通常是刷的

結語:這場貓抓老鼠沒有終點

Reddit 用 AI 抓 AI 垃圾,聽起來很聰明,但本質上是個無限循環。AI 生成技術每半年就升級一次,偵測系統永遠在追趕。

對一般使用者來說,最實際的防護就是保持懷疑——看到任何「太整齊、太即時、太熱心」的內容,先問一句:這是真的嗎?

現在就打開你常用的社群平台,用這三招檢查一下最近看到的熱門討論吧。