在 2012 年的 Google I/O 大会上,Google 发布了 Google Glass 智能眼镜,这款产品虽然被许多人视为 Google 历史上最失败的产品之一,却在科技发展史上留下了深刻的印记。
Google Glass 的失败原因众多,其中隐私问题是一个重要的因素。
使用 Google Glass 进行拍照非常便捷,只需通过语音指令或按下顶部的按钮即可完成,但由于缺乏 LED 等明显的提示装置,很难让周围的人意识到正在被拍摄。
因此,从旁观者的角度来看,Google Glass 就像是一个隐蔽的“偷拍工具”,甚至有用户因为在电影院使用 Google Glass 被保安驱赶的尴尬经历。
时至今日,类似的事件仍在不断发生,甚至更加严重——仅仅因为在人群中多看了你一眼,AI 智能眼镜就能轻易获取你的个人信息。
“你是叫 Lee 吗?你毕业于伯根县学院吗?你的韩国名字是 Joo-oon 吗?你住在亚特兰大吗?我们之前在剑桥社区基金会见过面吗?你的父母是 John 和 Susan 吗?”
如果在街头遇到陌生人,他们不仅叫出你的名字,还能说出你的一些个人信息,你会作何感想?
哈佛大学的学生 AnhPhu Nguyen 和 Caine Ardayfio 就进行了一项类似的实验。
他们佩戴着 Meta 的智能眼镜 Meta Ray-Ban,在校园、地铁站等公共场所随机识别了数十位陌生人。只需拍下一个人的照片,几秒钟后,这个人的详细信息就会出现在他们的手机上。
虽然智能眼镜本身无法实现这样的效果,但他们进行了一些技术上的改进,原理并不复杂。
首先,他们通过 Meta 智能眼镜的直播功能,将视频实时传输到 Instagram,然后使用计算机程序监控这个视频流,并利用 AI 进行人脸识别。
接着,他们通过互联网搜索到某个人的更多照片,并基于公共数据库查找姓名、住址、电话号码,甚至亲属信息。
最后,这些信息会通过他们开发的一个手机应用程序进行传输和展示。一切准备就绪,只差随机吓倒一位路人。
从细节上讲,这两位学生将多种现有的成熟技术结合在一起,甚至包括生成式 AI。
- 智能眼镜:配备摄像头的智能眼镜,在公共场合捕捉人脸图像。
- 反向面部识别:通过 PimEyes 等人脸搜索引擎,将人脸图像与互联网的公开图像进行匹配,并返回相关网页链接。
- 爬虫工具:使用 FireCrawl 爬虫工具,从这些网页链接中抓取所需的数据。
- 大语言模型:大语言模型从抓取的、杂乱的数据中推断出姓名、职业等细节。
- 数据库:在 FastPeopleSearch 等网站输入姓名,从公开记录、社交媒体中查找家庭住址、电话号码和亲属姓名等个人信息。
其中,大语言模型的作用尤为重要,它可以理解、处理、汇编来自不同来源的大量信息,例如将不同文章中的同一个名字关联起来,通过上下文逻辑推理出某人的身份,从而自动化数据提取的过程。
关于大语言模型的推理能力,我们之前也报道过一项很有意思的研究,感兴趣的朋友可以回看这篇文章:《和 GPT-4 聊天,一种很新的隐私泄露方式》。
隐私泄露问题一直备受关注,面部识别技术也并非新鲜事,偷拍问题也早已存在。然而,大模型在短短两年间已经成为许多人不可或缺的生产力工具。
但各种技术的强强联合,还是带来了一个令人细思极恐的结果——仅仅在大街上偶然相遇,我们的个人信息就可能被有心人提取。
这两位学生没有公开实验的技术细节,他们进行这项实验的目的是为了提醒人们保持警惕。
那么,我们该如何保护自己呢?他们提出的应对方法是,从人脸搜索引擎等数据源中删除自己的数据,但这很难说是否彻底。
当年有人开玩笑说,Google Glass 的最大用处,是让英国王室的查尔斯王子记住每个人的名字。
或许,通过支持人脸识别的智能眼镜,我们会迎来一个没有陌生人的世界,最高兴的可能是夜神月。
你可能会问,有了数据库和面部识别技术,用手机偷拍也应该可行,为什么他们选择了智能眼镜 Meta Ray-Ban?
理由很简单,Meta Ray-Ban 的外观与普通墨镜相似,不像 Google Glass 那样具有赛博朋克风格,偷拍更加隐蔽,而且眼镜本身就适合记录,实现免提,所见即所得。
Meta Ray-Ban 并非没有提醒装置,它配备了一个 LED 指示灯,当用户录制视频时,指示灯会自动亮起,提醒周围的人。
然而,这种提醒聊胜于无。之前 The Verge 的评测发现,在明亮的室外环境中,Meta Ray-Ban 的 LED 指示灯和快门声都不明显,在拥挤嘈杂的公共场所,很多人往往不会注意到这些细节。
LED 指示灯位于右眼镜腿的上方,你注意到了吗?当你的手放在镜腿的按钮上时,别人可能只会觉得你是在扶眼镜。
因此,隐私问题一直是智能眼镜的关注焦点。前段时间,Meta 发布了首款 AR 眼镜 Orion,也引发了人们对隐私泄露的担忧。
Meta 在 Meta Ray-Ban 的隐私政策中强调了“如何负责任地佩戴智能眼镜”,并写了许多温馨的提醒。
然而,每一条提醒都是非强制性的,无论是尊重他人,还是在拍摄或直播前用声音或手势提醒他人,都全凭自觉。
更不用说,眼镜的形态更加方便偷拍,甚至,科技公司可以直接设计出支持面部识别的智能眼镜,技术本身并不是障碍。
2021 年,外媒报道,Meta 曾考虑在智能眼镜内置面部识别功能。当时,Meta 首席技术官 Andrew Bosworth 还举例说明,这样的智能眼镜可以帮助脸盲或记不住名字的用户在晚宴上认出某人。
此外,人脸识别初创公司 Clearview AI 已经开发了自己的 AR 眼镜和应用程序,据称可以连接到包含 300 亿张面孔的数据库,但尚未对外公开销售。
某种程度上,如何使用面部识别技术,如何防止偷拍,是被法律和道德约束的。
例如,Facebook 的面部识别技术曾让用户在照片中标记朋友,这自然引发了隐私方面的质疑。在 2015 年的一次集体诉讼中,Facebook 赔偿了 6.5 亿美元。
2021 年,Facebook 宣布停用面部识别技术识别照片和视频中的人物,并删除了超过 10 亿人的相关数据。
面部识别技术虽然老生常谈,但最平凡的技术因其应用的成熟、普及和广泛,让人如临大敌。
在哈佛学生的实验中,大语言模型的作用是帮助处理数据,但现在使用各种生成式 AI 的产品,我们往往是主动提供自己的数据。
因为很多时候,付出隐私是使用服务的必选项,例如向 AI 换脸 P 图软件交出自己的脸。
更进一步说,不只是脸,AI 硬件和软件都越来越强调个人数据的概念。
例如,使用 AI 录音产品可以无缝记录你的一天,向 AI 日记透露你的日常和爱好,或者只是通过记忆功能让 ChatGPT 记住我们是谁。
AI 会逐渐更了解你,分析你,整理你周围的信息,为你提供更多的情绪价值,弥补个人有限的脑容量。
同时,这些产品也会强调隐私安全,要么说你的数据就是你的,不会拿你的数据训练模型,要么说用的是在本地运行的端侧模型,或者私有云,隐私泄露的风险更低。
隐私和便利,很难既要又要。当我们享受各种 AI 产品的趣味和个性化时,风险也如影随形。
就像《攻壳机动队》中的电子脑,人们直接将大脑连接到网络或进行大脑互连,彼此可以快速沟通,但大脑也就有了被入侵的风险,连记忆都可以被伪造。
当然,隐私泄露可能就像面部识别一样,是个无趣的、没有新意的话题,你泄露,我泄露,他也泄露。好像,没关系的,都一样。
但如果有人戴着“墨镜”走到你面前,叫出你的名字,那一幕还是很有冲击力的,对吗?
或许更让人担心的,是无形的、支配信息的权力,先拥有技术和工具的人,对其他不知情的个人行使这种权力。
智能手机兴起之后,竖屏短视频、直播也发展起来,我们越来越习惯于拍摄和被拍摄,是无辜的背景板,或者说,不在乎,也无从察觉。
这时候我们是汪洋大海里的一滴水,但未来,这滴水,或许会因为镜头背后的 AI 被聚焦,然后折射出更具象的模样。
张成晨
利若秋霜,辟除凶殃。 工作邮箱:zhangchengchen@ifanr.com
邮箱8
#欢迎关注爱范儿官方微信公众号:爱范儿(微信号:ifanr),更多精彩内容第一时间为您奉上。
爱范儿|原文链接· ·新浪微博