• 媒体品牌
    爱范儿
    关注明日产品的数字潮牌
    APPSO
    先进工具,先知先行,AIGC 的灵感指南
    董车会
    造车新时代,明日出行家
    玩物志
    探索城市新生活方式,做你的明日生活指南
  • 知晓云
  • 制糖工厂
    扫描小程序码,了解更多

Facebook 全球崩溃 11 小时,暴露了科技巨头们用 AI 为你打的标签

公司

2019-07-04 13:48

本文来自微信公众号「机器之心」(ID:almosthuman2014),作者 Synced,爱范儿经授权发布。

美国东部时间 7 月 3 日早上 8 点,Facebook 服务器遭遇了大面积停电,这一事件使得全球 Facebook、Instgram 和 WhatsApp 受到影响——除了很难登录,全球范围内很多用户在超过 11 个小时的时间里都无法上传图片和分享故事。

很多时候,直到一个东西无法使用,我们才会意识到它的重要性:想象一下微信不能发朋友圈,聊天不能发图片的景象……「我们发现一些用户在使用我们的 App 时无法上传或发送图片,」在停电事件发生后,Facebook 官方账号在 Twitter 上表示。「很抱歉让你们遇到了麻烦,我们正在尽快解决问题。」

不过人们在这场混乱中发现了一个有趣的现象:服务器访问的崩溃暴露了 Facebook 对用户上传所有图片的隐藏标签。

Facebook全球崩溃11小时,暴露了科技巨头们用AI为你打的标签

▲ 今天,科技公司用 AI 对你上传的图片做各种标注是常规操作。

每个人都知道,在电影《黑客帝国》中,男主角 Neo 进入到矩阵「救世主」状态并突然发现自己的「真实面目」:背后出现的一行行绿色代码。

同样地,由于 Facebook 受到停电的影响,社交网络用户也察觉到了数字幕布背后的真相,即现在 Facebook 网站上的很多图片已经被该公司机器视觉系统分配给它们的标签所取代。

所以,在浏览自己上传的照片时,你将看不到度假时拍的照片或者食物和朋友的照片,相反你会看到一些描述性文本,比如「图片可能包含:人们微笑、人们跳舞、婚礼和室内」或者只是「图片包含:猫。」

总之:这就是电脑眼中的人们生活。这就是 Facebook AI 判断人们的方式。在窥伺一切的「数字眼」面前,你是否感到无处躲藏呢?!

Facebook全球崩溃11小时,暴露了科技巨头们用AI为你打的标签

▲ Facebook 把这位用户的头像描述为「一个有胡子的人」。

与此同时,Instagram 上也出现了同样的图片标签。这些标签不仅详细列举了一般场景和目标描述,还根据 Facebook 的人脸识别显示出了照片中的人是谁。(自 2017 年起,Facebook 就已经对未打标签的照片赋予了这种功能)

至少从 2016 年 4 月以来,Facebook 就一直以这种方式利用机器学习来「读取」图片,这是该公司「accessibility efforts」计划的重要组成部分。Facebook 利用这些标签向视力障碍用户描述照片和视频内容。

人工智能可以从你的照片中提取大量个人信息。

目前尚不清楚 Facebook 是否也利用这类信息来推送广告。这些图片中包含了大量的用户生活信息,而这些信息我们或许并不愿意让 Facebook 获取:你是否养有宠物、兴趣爱好是什么、喜欢去哪里度假或者是否真的喜欢老爷车、宝剑或其他任何东西?

早在 2017 年,基于这些原因,一位程序员就制作了谷歌浏览器扩展程序(Chrome extension),以揭示这些标签。正如他当时所说的:「在我看来,很多互联网用户都没有意识到,大量的信息正按部就班地从他们的照片中提取出来。」

Facebook全球崩溃11小时,暴露了科技巨头们用AI为你打的标签

▲ 除了描述形象,Facebook 的人工智能也可以直接认出特定的人。

从推特上人们的反应来看,这次停电造成的反应对于大多数人来说无疑是新鲜事物。至于这些机器打上的标签是否会被 Facebook 用来做广告定位,该公司尚未回应。

Facebook全球崩溃11小时,暴露了科技巨头们用AI为你打的标签

▲ 图中有几个人,那些人有什么表情?Facebook 都可以识别出来。

不管这些信息是如何被使用的,这次停电事件向我们揭开了「世界最大数据收集项目」的冰山一角。它还展示了今天的人工智能可以在多大程度上解读一张照片。

近年来,深度学习的进步彻底改变了机器视觉领域,现在的在线视觉内容经常和文本一样清晰易读。而对于计算机来说,一旦内容清晰可见,就可以轻松地存储、分析并提取结构化数据。对于大多数人来说,只有像 7 月 3 日系统崩溃这样的时候,我们才会意识到这一切的发生。

Facebook全球崩溃11小时,暴露了科技巨头们用AI为你打的标签

由于 Facebook 提供的服务日趋复杂,其应用和网站时常遭遇宕机。今年 3 月 13 日和 4 月 14 日,Facebook 均发生了严重宕机事件,部分服务故障时间长达 24 小时。不过,即使问题出现的时间很短也会影响到很多人——截止 2019 年 3 月底,Facebook 报告的月活用户(MAU)数量高达 23 亿 8000 万人。

当这些服务对于商业和通信至关重要的时候,任何问题都会是大问题,不仅是服务器的稳定,还有对于数据的使用。

参考内容:

https://www.theverge.com/2019/7/3/20681231/facebook-outage-image-tags-captions-ai-machine-learning-revealed

https://phys.org/news/2019-07-outage-facebook-worldwide.html

https://zephoria.com/top-15-valuable-facebook-statistics/

登录,参与讨论前请先登录

评论在审核通过后将对所有人可见

正在加载中