Meta 現在將與政府機構合作,開發軍事應用。對於 AI 的安全風險已引起關注,研究人員發現中國已經在國防上使用 Llama 的證據。Meta 宣布,將向政府組織提供其 Llama 生成 AI 模型的使用權,並與美國機構和承包商合作,以支持他們的工作。
Meta 合作的夥伴包括洛克希德·馬丁、AWS 和甲骨文。該公司舉例說,它與甲骨文的合作是「合成飛機維護文件」,以便技術人員能夠「更快、更準確地診斷問題」。據說洛克希德·馬丁也已將 Llama 融入其 AI 工廠,Meta 表示這加速了代碼生成、數據分析並提升了業務流程。
政策的重大變化這一變化對於 Llama 的可接受使用政策來說是顯著的,該政策禁止將模型用於「軍事、戰爭、核工業或應用、間諜活動」,並明確禁止武器開發和促進暴力。某些人對於在國防中使用 AI 表示質疑,引用了潛在的數據安全問題等安全隱患。專家警告說,偏見和幻覺等其他脆弱性是 AI 的內在特性,無法避免。
這一政策的劇變可能是因為最近的報導稱,中國已在其軍事應用中使用該模型。據報導,該國使用 Llama 收集和處理情報,創建了「ChatBIT」用於軍事對話和問題回答。這當然違反了 Llama 的使用條款,但由於該模型是公開且開源的,因此政策的執行變得困難。
Meta 在一份聲明中表示:「在全球 AI 競爭中,單一且過時的美國開源模型的 alleged 角色是無關緊要的,因為我們知道中國已經在投資超過一兆美元以超越美國的 AI。」Meta 確認,還將對其他五眼國家的政府機構做出例外,包括加拿大、澳大利亞、英國和新西蘭。