用我们的脸付钱:苹果的脸

九月初,苹果电脑,股份有限公司.推出了他们的新iPhone,FACEID使用面部识别作为解锁iPhone的身份验证的软件。人脸识别在全球范围内的广泛应用是一个值得公众讨论的问题。苹果作为一家私营公司,现在选择向数百万用户部署面部识别技术,在世界范围内,没有任何关于道德的公开辩论,道德监督,条例,公共投入,或话语。面部识别技术可能存在缺陷,并且具有特殊的偏见,而且在全球范围内部署FaceID为私营技术公司在社会内自由开展的活动树立了一个令人担忧的先例。

在苹果公司发布公告的那一周,媒体对faceid的报道有一个令人不安的问题,对苹果部署faceid意味着什么的有限批评,以及那些追随苹果并部署自己版本的人。将我们的脸数字化并使用我们的主要人类识别码的传真(除了我们的声音)作为我们人类自身的代理,这意味着什么?支付苹果近1000美元。这样做吗?

FaceID可以被认为是一种花招。苹果掌握着先进的技术,因此,然后他们可以提供这种类型的“科幻小说”体验他们的手机,为客户提供一种新的身份认证方式。但这并不简单。所有新技术,和其他人类新产品一样,以各种方式融入社会,在各种不可预见的情况下使用,并有各种不可预见的后果。即使苹果只是在其iPhone环境中部署这项技术,他们正在设置使用模式,私下里这么做,围绕着管理社会的法规。苹果公司的这场运动如此随意地在如此广泛的范围内展开,可能改变我们的生活方式,以及我们的脸如何变得越来越习惯。

面部识别属于“生物识别”技术范畴。生物识别是一类依靠某种身体反馈来工作的量化指标。生物特征识别包括数字指纹识别,视网膜扫描,语音识别,热图,以及面部识别,在其他中。苹果使用数字指纹识别已经有一段时间了。然而,面部识别的问题更加复杂。

随着时间的推移,面部识别软件出现了几个问题,以算法偏差是其中一个主要的[1]。简单地说,当算法不能完全理解某个情况或问题时,存在算法偏差。在面部识别的情况下,算法偏差的存在是因为人们有不同的面部特征和肤色,对人类来说,尤其是那些肤色较深的人,面部识别软件要么无法识别,或者更糟的是,能认出一张脸,但无法将已识别的面孔归因于此人,而是把他们认作与他们不同的人。当人脸识别算法无法解锁某人的iPhone时,这可能只是一件烦人的事情。但当面部识别技术大规模应用于社会的各个方面时,可能会导致严重的问题。未来,面部识别技术可以决定是否进入公共场所,因此,很容易将情况和监控录像误认为“证据”以错误的身份,最多只能导致虚假指控,最坏的情况是,对虚假指控采取行动(如果我们在执法方面的反应更加自动化的话)。

FaceID是自动化人工智能。这意味着在识别或认证过程中不会有任何人。一旦部署了faceid,它会自动运行,自动识别(或不识别)自动认证。此外,苹果将使用faceid解锁iPhone,对于Apple Pay,iTunes,以及其他苹果产品和服务。FaceID将与其他供应商合作,和与用户共享其面部识别和身份验证〔2〕。这不限于苹果。如果我们认为我们的信用卡号被破坏是一个问题,当我们的脸没有安全感的时候,这意味着什么?

另一个需要考虑的问题是面部识别技术是我们的脸对我们意味着什么,对我们这些身处世界不同地区的人来说也是如此。例如,在某些文化中,在脸上纹身被认为是一个更大的禁忌,在其他地方它是一个荣誉和显赫的地方。我们如何使用我们的脸,在科技公司开发人脸识别技术时,应该考虑使用我们的人脸。当然,那些不喜欢面部识别技术的人,不会使用faceid,现在,虽然它仍然是可选的,这不是问题。然而,随着faceid在世界各地的首次亮相,这些问题可能会被提出,可能会出现不可预见的结果。

科技行业经常因不遵守法规而受到批评,或伦理,正如我在书中提到的前件〔3〕;这很大程度上是因为在开发团队中没有任何不同的人可以提出这些问题和问题。在苹果内部,很少有社会科学家,几乎没有人类学家,随着重点转向量化作为确定特征使用和设计的指标,投入到产品中的定性研究人员很少。可能不是苹果不在乎,可能是苹果真的不知道它需要关心,或者其他原因。作为一家专注于设计的公司,可能定性研究被认为是任何设计人员在苹果公司可以做到这一点,围绕FaceID部署的一些更紧迫的社会问题可能会迷失在“科幻”中。因素或赶往市场。

因为我们现在正处于生物特征面部识别的尖端,由一家私营技术公司将其纳入主流,并决定这将如何影响我们所有人的私人控制,也许是时候考虑一下未来科技行业的治理或道德审查委员会会是什么样的,或者至少,似乎是时候让私人科技公司聘请人类学家和其他社会科学家组成产品团队,创造出符合人类文化偏好的技术产品了,在尊重我们的隐私意识的同时,我们对安全的渴望,以及我们的身份权。

参考文献:

〔1〕芬利,K2017。苹果的iPhoneX能否战胜面部识别的偏见问题。”有线业务。9月9日13。2017。[在线]。网址:https://www.wired.com/story/can-apples-iphone-x-beat-face-recognitions-bias-problem/评估日期:9月。17,2017。

〔2〕佩雷斯,S.Luden一。2017年。Face ID将与Apple Pay第三方应用程序配合使用。科技危机。9月9日12,2017[在线]可从以下网址获取:https://techcrunch.com/2017/09/12/faceid-will-work-with-apple-pay-third-party-apps/

〔3〕S.2017。人工智能:在我们的图像中制造人工智能。Savage Minds。亚博官网app9月9日7,2017。[在线]。提供日期:2017/09/07/人工智能制作我们的图像中的人工智能/评估日期:9月17,2017。

〔4〕S.2016。定性方法的自动化。史诗。简。18,2017。[在线]。可从:https://www.epicopeople.org/automation-quality-methods/评估日期:9月17,二千零一十七

关于“3”的思考用我们的脸付钱:苹果的脸

  1. 虽然更多的关注像faceid这样的技术,我想提醒大家,许多服务已经在使用图像识别。Facebook就是一个明显的例子。不太明显的是像谷歌照片。预装在大多数安卓手机上,默认情况下,谷歌照片,将您从Android设备上拍摄的照片上载到服务器上。然后对照片进行分类,以便了解你拥有的猫或狗的品种,制作你后代的编译视频,认识你生活中的人。它对所有这些照片进行分类,这样你就可以让它识别出你所有的照片中都有汉堡包。定位服务默认使用谷歌摄像头应用程序启用,这意味着许多照片也有位置元数据。见:https://www.reddit.com/r/android/comments/66q8g6/Thank_You_Google_照片/

    我将敦促读者重新考虑他们已经使用的应用程序或数字服务,以及已经从这些服务中收集到的关于您的信息。这只是一个例子。直到最近,Gmail都会扫描你的电子邮件,为你提供更好的目标广告;他们已经停止扫描电子邮件寻找广告,但他们仍然在扫描。见:https://arstechnica.com/tech-policy/2017/09/google-promised-not-to-scan-gmail-for-targeted-ads-but-for-how-long/

注释已关闭。