Google正向更多全球开发者推广其Gemini 2.0 Flash AI模型的最新“实验性”功能,而用户发现了一些令人担忧的能力,其中包括精准去除照片中的水印。
该公司的轻量级本地化设备上AI模型现在具备原生图像生成功能,不仅可以根据文本提示生成图片,还支持对话式图像编辑。据TechCrunch报道,用户在上个周末发现,该模型还能精准去除水印。
水印去除技术的对比
此前已有如Watermark Remover.io等工具能够去除Shutterstock等公司的水印,而Google的一个研究团队在2017年就开发出了水印去除算法,以强调需要更安全的保护措施。相比之下,一些AI工具,如OpenAI的GPT-4o,会拒绝去除水印的请求。
然而,Gemini 2.0 Flash似乎在去除复杂水印(如Getty Images的印章)并填充图像方面优于其他选项。在去除水印后,它会添加一个SynthID标记,实际上是用“AI编辑过”的标记替换了版权标记。但此前已有先例,如三星的对象擦除工具,表明AI标记也可以通过AI去除。
新增功能的潜在风险
用户还注意到,Gemini 2.0 Flash似乎能将如埃隆·马斯克等真实人物的可识别图像添加到照片中,这是完整版的Gemini模型所不允许的。
目前,Flash的最新图像功能仅通过AI Studio提供给开发者,因此其显然缺乏的限制尚未对所有人开放使用(或滥用)。已就是否存在防止水印去除等行为的保护措施向Google提出询问,但尚未收到回复。
【教學】如何在香港申請 Google Gemini 及訂閱 Google Gemini Advanced /
【整理】Google Gemini 語音指令:發 WhatsApp、開 Apps、打電話等等