OpenAI 已明確表示，其旗艦 AI 服務 ChatGPT 並不適合用於惡意行為。該公司發布了一份報告，詳細說明了隨著平台日益受歡迎，壞人利用其平台的趨勢。OpenAI 指出，已刪除數十個帳戶，懷疑其以未經授權的方式使用 ChatGPT，例如「調試代碼或生成內容以在各種分發平台上發布」。
該公司最近宣布其每週活躍用戶已達到 4 億的里程碑。報告中提到，用戶數在不到三個月內增長了超過 1 億，因為越來越多的企業和開發者開始使用其工具。然而，ChatGPT 也是一項可以全球免費訪問的服務。由於其功能的道德和倫理問題長期以來受到質疑，OpenAI 不得不面對某些實體對該平台懷有不可告人的動機的事實。
OpenAI 嚴禁詐騙行為
報告中提到，「OpenAI 的政策嚴格禁止使用我們工具的輸出進行詐騙或欺詐行為。通過對欺騙性就業計劃的調查，我們識別並禁止了數十個帳戶。」OpenAI 在報告中討論了對 ChatGPT 上發生的惡意行為的挑戰，並強調了幾個案例研究，揭示了其發現並採取行動，禁止那些被發現出於惡意意圖使用該工具的帳戶。
在一個案例中，OpenAI 詳細描述了一個帳戶，該帳戶撰寫了有關美國的貶損性新聞文章，該新聞來源在拉丁美洲以中國出版物的名義發表。另一個案例位於北韓，發現該帳戶為虛構的求職者生成簡歷和求職資料。根據 OpenAI 的說法，該帳戶可能被用於向西方公司申請工作。
跨國詐騙網絡的影響
另一項研究揭露了據信源自柬埔寨的帳戶，這些帳戶利用 ChatGPT 進行翻譯並在「戀愛詐騙者」的網絡中生成評論，這些詐騙者滲透了多個社交媒體平台，包括 X、Facebook 和 Instagram。OpenAI 確認已將其發現與可能受到 ChatGPT 行為影響的行業同行，例如 Meta 進行了分享。
這並不是 OpenAI 第一次詳細說明其在挑戰其 AI 平台上的壞人行為方面的努力。在 2024 年 10 月，該公司發布了一份報告，強調其阻止的 20 次網絡攻擊事件，包括由伊朗和中國國家贊助的黑客發起的事件。
持續的挑戰
網絡安全專家長期以來也觀察到壞人利用 ChatGPT 進行惡意活動，例如開發惡意軟件和其他有害代碼。這些發現自 2023 年初以來就已存在，當時該工具剛剛面市。這也是 OpenAI 最初考慮推出訂閱層以支持其高需求的時期。
這些惡意行為涉及壞人使用公司的 API 創建 ChatGPT 替代品，以生成惡意軟件。然而，白帽專家也從研究的角度研究了 AI 生成的惡意軟件，發現了可以讓聊天機器人以較小且不易檢測的方式生成有害代碼的漏洞。2023 年 2 月，IT 和網絡安全專業人士被調查，許多人認為該工具將在一年內導致成功的網絡攻擊。到 2023 年 3 月，該公司經歷了首次數據洩露，這將成為常態。
【教學】如何在香港申請 Google Gemini 及訂閱 Google Gemini Advanced /
【說明】4 個方法，讓你的 iPhone / Android 在香港無需 VPN 就能用 ChatGPT
