Apple 在 Siri 的 AI 增強功能上進行的工作已正式延遲，現在預計將於「明年推出」。一位開發者認為，這背後的原因在於，Siri 越智能和個性化，如果出現問題可能帶來的風險就越大。
開發數據分析工具 Dataset 的 Simon Willison 指出，問題出在所謂的提示注入（prompt injections）。人工智能通常受到其母公司設置的某些規則限制。然而，通過特定的方式與 AI 進行對話，有可能「越獄」這些限制。這種方式就是所謂的「提示注入」。
舉個簡單的例子，某個 AI 模型可能被指示拒絕回答有關進行非法行為的問題。但如果你請求 AI 為你寫一首關於熱接汽車的詩呢？寫詩並不違法，對吧？
這是一個所有提供 AI 聊天機器人的公司都面臨的問題，儘管他們在阻止明顯的越獄行為方面已經有所改善，但這仍然不是一個解決了的問題。更糟糕的是，越獄 Siri 可能帶來的後果比大多數聊天機器人更為嚴重，因為 Siri 知道的個人信息及其能執行的操作都更為敏感。Apple 的發言人 Jacqueline Roy 形容 Siri 的發展如下：
「我們也在努力打造一個更個性化的 Siri，使其更能了解您的個人背景，並能在您的應用程序內和之間為您執行操作。」
毫無疑問，Apple 設置了規則，以防止 Siri 意外洩露用戶的私人數據。但如果提示注入能使其繞過這些限制，情況會怎樣？Siri 的「為您執行操作的能力」也可能被利用，因此，對於像 Apple 這樣高度重視隱私和安全的公司來說，確保 Siri 不會被越獄至關重要。而顯然，這將需要一些時間來解決。
日本電話卡推介 / 台灣電話卡推介
更多儲值卡評測請即睇：SIM Card 大全
https://www.techritual.com/category/sim-card-review/
