谷歌的AI拒绝了五角大楼但亚马逊选择敞开怀抱

  • 手机
  • 2024年10月08日
  • 钛媒体注: 亚马逊于2016年宣布推出其称为Rekognition面部识别服务。该服务被称为一种“深度学习型图像和视频分析”。 杰夫·贝佐斯的商业巨头公司亚马逊一直被大多数人看作是由消费者驱动的企业,而不像是一个简单易用的间谍技术的提供商。但是,根据美国公民自由联盟(American Civil Liberties Union,ACLU)上周所披露的消息

谷歌的AI拒绝了五角大楼但亚马逊选择敞开怀抱

钛媒体注:亚马逊于2016年宣布推出其称为Rekognition面部识别服务。该服务被称为一种“深度学习型图像和视频分析”。

杰夫·贝佐斯的商业巨头公司亚马逊一直被大多数人看作是由消费者驱动的企业,而不像是一个简单易用的间谍技术的提供商。但是,根据美国公民自由联盟(American Civil Liberties Union,ACLU)上周所披露的消息,亚马逊网络服务(AWS)正在向美国各个部门提供Rekognition产品。

日前,福布斯网站对亚马逊面部识别产品“Rekognition”进行了一次测试,证明了任何人都可以使用极其廉价工具来追踪他人的行踪,这将Rekognition再一次推向风口浪尖:除了几乎可以察觉到的隐私问题之外,亚马逊的Rekognition也引发了安全方面的担忧。

现将全文推荐如下,由网易网易智能工作室编译,经钛媒体编辑:

根据员工自愿提供的照片,以及我们在泽西市和伦敦办公室拍摄的照片,我们只花了很少的费用,通过一些技术知识,用了几个小时就成功建立了一个超级精确的面部识别系统。

“这说明了政府可以轻易地利用亚马逊的面部识别技术来进行大规模监控,”ACLU的技术律师Matt Cagle在谈到福布斯的项目时说,“所以这取决于亚马逊。它会停止向政府出售危险的技术吗?还是会继续损害消费者的隐私,危及有色人种、者和移民社区?因为这些人在当前的气候下已经受到了攻击。

亚马逊没有对这篇文章发表评论,但在上周的一篇博客文章中向福布斯指出,“没有任何报道称执法部门滥用亚马逊的Rekognition产品”。亚马逊AWS人工智能部门总经理Matt Wood博士写道,该公司的许可使用政策(Acceptable Use Policy, AUP)禁止将该服务用于“任何非法的、侵犯他利的,或者可能对他人有害的活动”。

“这包括侵犯任何人的宪法权利,涉及第四、第五和第十四条修正案——即任何形式的非法歧视,或违反正当程序以及侵犯隐私权。违反我们的AUP的客户会被禁止使用我们的服务,”Wood补充道。

面部识别“攻略”

为了测试面部识别系统,我们请求了独立研究员Matt Svensson的帮助。他建立了一个AWS数据库(即S3存储桶),在其中上传了大量的图库照片和福布斯员工的面部照片。由于亚马逊没有一个直观的工具来可视化人脸匹配过程,而只是简单地以文本形式返回结果,Svensson迅速编写了一个程序,该程序会在其“目标”周围放置红色方框,以及在“非目标”周围放置绿色方框,相当于对这个系统进行了专业的监控。

我们的视频团队在泽西市和伦敦拍摄了一些简单的视频片段,模仿闭路电视录像,镜头保持静止或轻微地旋转。这意味着,员工可能会与镜头有一段距离,或者处于Rekognition可能很难识别的角度。

不过,正如我们所预料的那样,亚马逊的技术并没有因此受挫。我们把视频上传进去之后,它几乎没有遇到什么问题。每当数据库中的员工在上传的视频中出现时,就会生成一个成功的匹配,就像他们面部周围的红色方框所显示的那样。

通过使用Svensson提供的简单六步“攻略”,我也成功地设置了一个纯文本版本的Rekognition,这证明了即使是那些缺乏技术常识的人也能快速地进行面部识别操作。

在不到几个小时的时间里,我注册了一个亚马逊账户,并创建了一个AWS S3存储桶,在里面上传了图片。然后,我在苹果Mac电脑上测试了一个对应这些照片的快速。匹配度达到了99%。然后我让亚马逊在一个简短的视频中寻找人脸,并要求找到一组照片匹配。再一次,它快速地完成了匹配,匹配度为99%。即使是识别人偶,亚马逊也毫不费力。

廉价且振奋人心的面部识别技术

这种小规模的测试基本上是免费的,当然主要是因为Svensson不向我们收费。单在专业部署中,这一成本仍然是微不足道的。“即使我们将测试的成本,使用AWS以及在我们的实际场景中使用面部识别的成本包括在内,它的价格也将低于10美元,”Svensson补充道。

执法部门已经在享受这一低成本了:美国公民自由联盟发现,佛罗里达州奥兰多局仅仅花了30.99美元来处理30989张照片。

与目前由美国联邦 政府管理的其他面部识别项目相比,亚马逊的服务非常便宜。例如,福布斯还发现,美国海关与边境保护局(U.S. Customs Border Protection)在2017年12月达成了一笔1080万美元的交易,购买包括“无限的面部识别匹配算法”在内的技术。

面部识别产品的规模

亚马逊并不是唯一一家拥有大规模监控产品的消费科技巨头。谷歌和Facebook都有自己的面部识别产品,但没有证据表明他们已经向美国政府或当地执法机构出售了此类服务。

虽然我们在使用照片时得到了福布斯员工的许可,但如果普通用户想要建立自己的面部识别系统,也不是一件难事。例如,他们可以抓取网站、Facebook和谷歌上的照片,并上传到他们的数据库中。

例如,以色列监控巨头Verint公司已经拥有了一个巨大的面部识别数据库,数据库中的图片就来自Facebook和YouTube。在早期的测试中,Svensson简单地抓取了我的谷歌个人资料,并将其与我在福布斯拍摄照片相匹配,匹配度达到了97.4%。

在初期测试中,另一件有趣的事情是,Svensson试图让亚马逊识别Ring拍摄的视频,Ring是亚马逊斥资10多亿美元收购智能门铃制造商,其门铃配有摄像头,用于额外的家庭安全保护。

最初,他使用单张图片训练亚马逊的系统,Rekognition没能从Ring的录像中认出他。不过,只要增加更多的训练图像,匹配就在慢慢形成了,即使在开始时有一些“假阴性”——亚马逊只是简单地识别出有一张面孔,而不知道那是Svensson。因为在红色方框出现之前出现了闪烁的绿色方框。

“真实世界的匹配是一样的,需要多个角度的人的脸才能匹配得很好。Facebook和谷歌肯定也想到了这一点,”Svensson说。当然,谷歌已经在其Nest Hello门铃中安装了面部识别软件。

Rekognition比开源产品更好吗?

虽然现在已经有一些开源的面部识别工具,但亚马逊的平台却与之不同。和亚马逊的产品一样,它的规模和服务质量使其得以以极低的成本提供面部识别服务,任何有电脑的人都可以使用。

Svensson在Github上发现,亚马逊Rekognition的速度超过了最受欢迎的开源工具之一。尽管这两款产品在检测福布斯员工的四张脸时都是准确的,但AWS平均花了0.3秒的时间来对图片进行索引,而开源系统的这一时间是4.5秒。在检测视频时,AWS检测每帧图像的时间为0.2秒,而开源的则为6.45秒。很显然,亚马逊的速度要快得多。

Svensson说:“Rekognition如此便宜、简单、快捷,它‘很可能改变我们在网络和现实世界中看待隐私的方式。”开源工具要求用户拥有大量的计算机能力,并且能够处理复杂的任务。Svensson说,通过使用亚马逊庞大的基础设施,Rekognition消除了这些障碍。

监督“监视者”

亚马逊表示,它不会允许任何用户违反法律,而且会尊重公民的隐私权。但是,它将如何监督这么多客户呢?在发布产品的时候,亚马逊还没有对具体要求做出回应。亚马逊也没有公开说明他们是如何让Rekognition的效果如此之好的,只是指出它使用人工智能和机器学习来训练软件。

开源面部识别项目的开发者Adam Geitgey解释说:“他们获取到的面部图像越多,他们的系统就越好。像Facebook这样的公司在这种情况下就占优势,因为他们有很多有标签的真人照片。但我敢肯定,亚马逊也会有很好的解决方案。我还认为亚马逊也在使用来自所有Rekognition用户的数据来帮助他们重新培训和改进系统,使之后的产品效果更好。”

但是Adam Geitgey也担心面部识别系统会缺乏足够的训练。“同样重要的是,我们要知道,任何人脸识别系统都只和用来训练它的数据一样好。如果某些种族、外貌特性或者年龄阶段等在训练数据中所占比例不足,那么在最终的系统中都不会被认可。例如,如果有人用成年西方名人的照片作为训练数据来建立面部识别系统,那么它在识别亚洲人和年幼的孩子时就会表现不佳。”

当然,有些人可能会考虑面部识别的非监视用途。Sky News最近在本月初的英国皇家婚礼上使用了Rekognition来发现婚礼上的名人。这些工具也被用于简单的生物识别技术,例如,只允许被授权的人进入某个建筑物。

安全问题

但除了几乎可以察觉到的隐私问题之外,亚马逊的Rekognition也引发了安全方面的担忧。这在很大程度上是因为亚马逊网络服务的客户多次误把他们的数据库公开给公众。例如,2017年12月,市场分析公司Alteryx在AWS服务器上留下了1.2亿个美国家庭的大量个人信息。想象一下,如果执法部门的目标(以及无辜者)被泄露到网络上,后果将会如何。Svensson补充说:“只要有一个错误的配置就能让数百万人的信息暴露在外。”

猜你喜欢