網路城邦
上一篇 回創作列表 下一篇   字體:
AI時代的網軍:真假之難辨
2023/10/03 22:49:13瀏覽247|回應0|推薦4

我想稍稍跟大家談一下網軍這件事,因為我不願意你們不知道真相。最近有一些關於買網軍帳號露出破綻,被發現的貼文。老實跟你說,要不是還有些沒跟上時代的網軍公司(或許在降價以保還有客戶),要不就是自導自演。

 

因為,今年的網軍,基本上一般人不容易發現破綻。未來大概需要用大數據爬蟲分析,然後能判讀當中的數據,才可能有機會看出來。

 

不過,我先跟大家說明一下網軍的基本技術,然後在說明今年AI造成的突破。事實上,最近一些糾網軍的創作文章,當中的破綻,是連10年前發展網軍基本原則都沒達到。

 

首先,組成一支成熟的網軍部隊,在頭像、版頭、基本資料那些帳號基本要有的東西之外,第一個就是建立我稱為生態圈的網路。這個生態圈依照不同的派系、公司可能有不同的說法,像是親友圈黨羽社交圈。不過基本的概念,就是幫你旗下的一群假帳號,建立一個虛假的社交關係。通常,這個社交關係大概在200-2000個好友左右。然後會透過一些互讚社團、互加社團,讓當中有一定比例是真實帳號。

 

以上這些並不難,也不特別費時,基本上透過指令讓電腦自動去跑就可以達到,所以這個可以說是基本中的基本。但這些網軍也不難發現,你如果看到一個帳號照片很美,朋友很多,而發文很制式,讚數很多,但是完全沒有留言,那就很可能是一個假帳號。然後你如果把他的頭像丟去以圖搜圖,多半就可以知道是不是真的了。

 

那如果假帳號只有很少的朋友,沒有建立起生態圈。那基本上是超業餘完票的網軍,我猜是全手工網軍,通常可能是辦公室員工、小編之類的自己搞的。雖然說,一直有一些中國大陸網軍有上下班的傳聞。但事實上,整個網軍工業生態鏈,很早就是自動化的了。所謂的上下班,其實是為了偽裝一般人使用行為的手法,只是,設計這個手法的人比較兩光而已

 

而從去年底開始AI技術大突破之後,現在網軍帳號已經是超難糾了。首先,AI產生的頭像跟照片,不是人眼可以辨識出來的。再來,AI的發文跟評論,以及AI規劃的隨機發文頻率,都已經達到很高的水準。再者,很多帳號也會利用AI輔助發文,因此也很難利用”ChatGPT去判斷帳號虛實。例如某位總統候選人有時候的發文ChatGPT感就很重,但他(應該)不是假帳號。

再來,今天AI產生的生態圈,已經非常難辨別真假了,因為AI的擬人互動看起來很真實。救內容性來說,我必須承認,除了過時跟人工的假帳號,我其實已經很難糾出假帳號了。我只能透過一些目前AI技術還無法達到的指標,辨別某些帳號是真的可能性很高。例如,常使用原住民族語、閩客之類,語言模型不夠成熟的語種發文。但我也不能保證閩、客語的AI模型,什麼時候會達到足夠的水準。

 

當然,以今年來說,你大概還可以從日期去判斷是不是假帳號。不是創造帳號的日期,因為一般的網軍公司,都會有些養了很多年帳號。而是他開始像個正常人的日期,如果加入FB很多年,但今年才看起來比較像正常人,那記可能會有一定的機會,是假帳號。但是,隨著時間越來越久,會越來愈難以這樣的標準來判斷。

 

我們已經進入一個,如果沒有面對面真實接觸,可能就是虛假的時代了。希望這篇文章,能對你有一些幫助。

( )
推薦文章 列印 加入我的文摘
上一篇 回創作列表 下一篇

引用
引用網址:https://classic-blog.udn.com/article/trackback.jsp?uid=pingyic&aid=179938714