資訊爆炸的時代,日常生活中充斥許多訊息,令人目不暇給;生成式AI時代來臨,有心人大量生產各種似是而非的誤導消息,製造社會的混亂與對立,成為民主社會的隱憂。生成式AI與人類的戰爭已經開打,台灣首當其衝。
網路普及便利與科技的發展,原本被視為有助於民主社會的多元發展,然而,生成式AI時代來臨,台灣人工智慧實驗室經過一年的調查發現,生成式科技的進步與社交媒體方便境外操作,反而侵害了數位人權,危害民主的發展。台灣人工智慧實驗室創辦人杜奕瑾表示,這場機器人與人類的戰爭,情勢相當嚴峻。
以AI辨識協同團體帳號 分析其行為模式與策略
依台灣人工智慧實驗室的調查,生成式AI用於掀起資訊戰,主要的問題不在於假消息,而是誤導消息(misleading information)。大型語言模型參戰後的主要戰場是文字曲解敘事,生成式AI瞬間大量生成曲解、不對稱的文字,透過大量不對稱的宣傳引發民眾喜惡的情緒反應。
所謂協同團體帳號,意指非真正使用者的帳號。這些帳號例如過去的「五毛」,可能隨官方需要,發布特定內容;也可能是透過自動程式控制;或公關公司操作,有組織地擴散特定言論。
以去年的雞蛋事件為例,由協同團體掌控的操作帳號大量散布訊息誤導民眾囤蛋,這些協同帳號迅速生成大量的新戰場,使得官方闢謠無法發揮效果,於是農業部長陳吉仲請辭下台。
台灣社群媒體上萬協同帳號 選後一半帳號消失
這項調查發現,臉書的前兩大協同團體群,約626個操作帳號所產生的聲量就佔臉書總資訊操弄聲量將近一半。
台灣人工智慧實驗室研判,這些協同團體帳號不是來自台灣本土,而是境外勢力,主要理由包括,這些協同帳號同時以中英文操作國內外論述,以中文論述攻擊台灣政治人物,以英文論述操作反美議題,散播疑美論等。這些協同團體帳號的目的是散播混亂。