我们还能再相信我们的眼睛吗？Apple 新 AI 清理工具的阴暗面

您可能已经看过 Apple 宣传其新清理功能可用于删除照片中的元素。当其中一个广告在本周末引起我的注意时，我很感兴趣并更新了我的软件来试用它。

该功能自 12 月以来已在澳大利亚为具有某些硬件和软件功能.它还适用于新西兰、加拿大、爱尔兰、南非、英国和美国的客户。

该工具使用生成式人工智能（AI） 来分析场景并建议可能分散注意力的元素。您可以在下面的屏幕截图中看到突出显示的内容。

然后，您可以点按建议的元素以将其删除，或点按圆圈元素以将其删除。然后，该设备使用生成式 AI 尝试根据周围区域创建合乎逻辑的替代品。

更简单的欺骗方法

智能手机照片编辑应用程序已经存在了十多年，但现在，您无需下载、付费或学习使用新的第三方应用程序。如果您有符合条件的设备，则可以直接在智能手机的默认照片应用程序中使用这些功能。

Apple 的 Clean Up 加入了各种科技公司已经提供的许多类似工具。那些使用 Android 手机的人可能已经使用了 Google 的Magic 编辑器.这允许用户使用 AI 移动、调整大小、重新着色或删除对象。具有 select 的用户Samsung 设备可以使用他们的内置照片库应用程序删除照片中的元素。

总是有方法——模拟和最近的数字——可以欺骗。但是，以免费、易于使用的方式将它们集成到现有软件中，使这些可能性变得更加容易。

完全使用 AI 编辑照片或创建新图像引发了有关照片和视频可信度的紧迫问题。我们依赖这些设备产生的视觉，从警察身体和交通摄像头到保险索赔和验证包裹的安全递送。

如果科技的进步正在侵蚀我们对图片甚至视频的信任，我们就必须重新思考相信自己的眼睛意味着什么。

如何使用这些工具？

删除分散注意力或不需要的元素的想法可能很有吸引力。如果您曾经去过拥挤的旅游热点，那么移除一些其他游客以便您可以更多地关注环境可能会很有吸引力（下图前后）。

但是，除了消除干扰之外，这些工具还可以如何使用呢？

有些人用它们来去除水印。水印通常是由摄影师或公司添加的，目的是保护他们的作品免受未经授权的使用。删除这些会使未经授权的使用不那么明显，但不会降低合法性。

其他人则使用它们来更改证据。例如，卖家可能会编辑受损商品的照片，以声称该商品在发货前状况良好。

随着图像编辑和生成工具变得越来越普遍和易于使用，用途列表气球。其中一些用途可能令人讨厌。

AI 生成器现在可以使收益例如。然后，人们可以尝试将这些提交给他们的雇主，以获得实际未发生的费用的报销。

我们所看到的任何东西都可以再被信任吗？

考虑到这些发展，拥有某物的“视觉证据”意味着什么？

如果您认为照片可能被编辑过，那么放大有时会显示 AI 堵塞的异常情况。以下是 Clean Up （清理） 功能生成的新内容与旧内容不完全匹配的一些区域的放大版本。

通常，处理一张图像比以相同方式令人信服地编辑同一场景的多张图像更容易。因此，要求查看从不同角度显示同一场景的多个 outtakes 可能是一种有用的验证策略。

亲眼看到东西可能是最好的方法，尽管这并不总是可能的。

做一些额外的研究也可能有所帮助。例如，在假收据的情况下，餐厅是否存在？它在收据上显示的日期营业吗？菜单上是否提供据称出售的菜品？税率是否与当地税率相符？

上述手动验证方法显然需要时间。随着 AI 编辑和生成风险的增加，可以自动执行这些平凡任务的值得信赖的系统可能会越来越受欢迎。

同样，还有一个监管机构应发挥的作用确保人们不会滥用 AI 技术。在欧盟，Apple 推出其 Apple Intelligence 功能（包括清理功能）的计划因”监管不确定性".

人工智能可以用来让我们的生活更轻松。像任何技术一样，它可以用于好事或坏事。了解它的能力并发展您的视觉和媒体素养对于成为我们数字世界中知情的成员至关重要。

T.J. 汤姆森，视觉传播与数字媒体高级讲师，皇家墨尔本理工大学

本文转载自对话根据 Creative Commons 许可。阅读原创文章.

宝宝起名 起名