OpenAI 最近確認已封禁一批涉及惡意活動的帳戶,這些帳戶利用 ChatGPT 進行不當行為。根據 OpenAI 的報告,這些帳戶與名為「同行評審」和「贊助不滿」的活動有關,可能源自中國,並且「似乎使用或試圖使用 OpenAI 和其他美國 AI 實驗室開發的模型,與一項顯然的監控行動有關,並生成反美的內容」。
隨著 AI 技術的普及,假消息的傳播也在上升,威脅行為者利用這些工具來干擾選舉和破壞不穩定或政治分裂國家的民主。國家支持的活動已經利用這些技術來達成其目的。
針對監控和假消息的活動,「同行評審」活動使用 ChatGPT 生成與銷售推介一致的「詳細描述」,這些描述涉及一種社交媒體監聽工具,聲稱能向中國安全部門提供有關西方抗議活動的即時報告。OpenAI 確認,這些威脅行為者利用該模型來「編輯和調試代碼,並生成推廣材料」,針對懷疑是 AI 驅動的社交媒體監聽工具的內容,儘管 OpenAI 無法在社交媒體上找到相關的帖子。
參與「贊助不滿」活動的 ChatGPT 帳戶則用來生成英文評論和西班牙語新聞文章,這與「垃圾偽裝」行為一致,主要使用反美言論,可能旨在激起拉丁美洲,特別是秘魯、墨西哥和厄瓜多爾的民眾不滿。
這並不是中國國家支持的行為者首次被識別使用「垃圾偽裝」策略來散播假消息。2024 年底,一項針對美國選民的中國影響活動被發現,該活動使用了數千張 AI 生成的圖像和視頻,這些內容大多質量低劣且包含虛假信息。
【教學】如何在香港申請 Google Gemini 及訂閱 Google Gemini Advanced /
【說明】4 個方法,讓你的 iPhone / Android 在香港無需 VPN 就能用 ChatGPT