上个月，科技巨头苹果公司（Apple Inc.）大胆地从其应用商店中移除了三款应用。这些应用甚至利用了人工智能中可用的机器学习工具，试图在没有人的同意下构建出非自愿的图像。这一决定是基于对这些应用在Instagram等地方使用虚假广告和色情网站的担忧。
广告中的误导案例
点击此广告的人将被送到苹果应用商店，而同一款应用被描述为“艺术生成器”，但没有提到它可以生成裸体照片。这是移动应用商店中的一个早已存在的漏洞，最早在2022年被发现。
通过基于人工智能的算法，这些应用被指控解开照片中个人的衣物，导致错误地认为有裸露，尽管它们没有被拍摄者授权或知情。这样的行为不仅侵犯了隐私，还可能成为剥削、骚扰和敲诈的潜在来源。
类似的广告版本还在4月10日至4月20日期间在Facebook、Instagram、Facebook Messenger和Meta的应用内广告网络上出现，展示了其他经由人工智能生成的女性。
在被关于这些欺诈应用的线报之后，苹果实际上是第一个将它们从应用商店中移除的公司。尽管它们声称自己是无辜的，但这些应用的真实动机被揭示，迫使苹果将其移除并遵守其社区准则。这清楚地表明了苹果致力于为每个人创建一个安全和性别中立的数字空间。
持续的挑战和问责制
尽管苹果采取的对策值得尊重，但这一事件最终对应用审查和广告监控方法产生了一些疑问。这些应用在应用商店中长时间未被注意到的事实，只强调了更加谨慎和积极的措施来检测和消除欺诈应用的必要性。
此外，开发者采用了狡猾的方法在成人网站上推广其非法功能，以确保苹果和谷歌无法检测到它们。这些案例说明了科技公司在监管其平台和执行社区准则方面所面临的问题。
随着苹果即将在2023年的全球开发者大会（WWDC）上披露一些与人工智能相关的项目，公司对这些应用采取的行动将非常引人注目。苹果负责任地实施技术的重要部分是为道德行为和健全的技术治理保持良好形象，这在苹果越来越多地在其产品中使用人工智能的背景下至关重要。
移除这些应用将成为人工智能开发和使用方面的伦理问题的一个例子。与发展人工智能能力相关的第二个关注点是用户隐私。此外，用户需要被要求给予许可，并提供他们安全的保证。通过阻止此类应用，苹果强调了其社区的道德行为。
来源：
404
