隨著生成式人工智能的迅速發展，Google 將要求 Android 應用程序必須包含一種舉報冒犯性 AI 生成內容的方式，並遵守關於可接受的 AI 內容的新的審查規則。
使用 AI 生成內容的應用程序將需要在明年初添加一個按鈕來標記或舉報冒犯性材料，以保持在 Google Play 商店中的存在。Google 希望舉報過程盡可能簡單，用戶不需要離開應用程序就能進行舉報，類似於當今已經存在的應用內舉報系統。
該公司表示，其 AI 生成內容政策涵蓋了 AI 聊天機器人、AI 生成圖像應用程序以及使用 AI 創建真實人物的語音或視頻內容的應用程序。不會受到新政策限制的包括托管 AI 生成內容的應用程序，僅使用 AI 對書籍等材料進行摘要的應用程序以及以 AI 作為功能的生產力應用程序。
對於 Google 而言，問題 AI 內容的例子包括非自願的深度偽造性內容、為詐騙而設計的真實人物錄音、虛假或具有誤導性的選舉內容、主要用於性滿足的生成式 AI 應用程序以及惡意代碼創建。在宣布中，Google 承認生成式 AI 是一個快速發展的應用類別，給人一種印象，即隨著技術的不斷發展，它可能會重新審視其 AI 政策。
除了關於 AI 生成內容的新規定外，Google 還加強了 Play 商店的照片和視頻權限政策，限制應用程序對數據的廣泛訪問。該公司表示：“用戶設備上的照片和視頻被視為個人和敏感的用戶數據，應該按照最嚴格的隱私最佳實踐方式對待。”“這些敏感信息使用戶容易受到泄露或利用的風險，因此減少此類訪問有助於減輕開發人員處理此類敏感數據的負擔。”
只有需要對照片和視頻進行廣泛訪問的應用程序才能獲得一般權限，而對媒體文件使用有限的應用程序將需要使用照片選擇器。
