AI硬件的隐私问题我们不能视而不见。

很多智能儿童手表都会有一个“主推”功能——“倾听”。父母 app 端启动后，手表端默默执行，自动接通，保持黑屏，不通知儿童，从而实现对儿童状态的远程观察。

甚至没有说“我在这里。”～"""Giphy

在儿童智能手表中，这可能是最受父母欢迎和孩子厌恶的功能。

假如把“孩子”换成你我，“父母”就换成了 AI 怎么样？也许你坚信：目前还没有理由戴上一个时刻“监控”自己的设备。

可如果 AI 给你一个理由？非常诱人的那种。

现在各种各样最火的 AI 硬件形式，智能眼镜，AI 颈链、音频饰品等。，都是基于收集不同模式的“贴身”数据来实现功能的——训练大模型形成个人知识库，让 AI 扩展更多的实用能力。

AI 硬件的隐私问题，已经引起了争议和焦虑。

还记得几个月前微软撤回的 Recall 功能么？Recall 是 Windows 11 通过对用户进行新功能， PC 持续截图-已删除的电子邮件将被存储，无痕浏览的网页将被截取并制作成个人数据库。添加 Copilot，PC 可以变得更加“好用”。

虽然用户信息存储在当地设备中，但是黑客仍然可以通过恶意程序远程访问和盗取数据，这一漏洞很快被发现。

不需要“物理开启”你的计算机。

AI 在时代，在收集、存储、培训和导出这么多个人数据的过程中，保证企业的安全是前所未有的挑战，移动时代的隐私保护实践可能不再适用。

这一问题，比我们想像的要复杂得多。

因特网时代的遗患

第一层的恐慌和怀疑来自于当地和云的拉扯。

今年春季 WWDC 上，苹果官宣与 OpenAI 在合作消息传出后，马斯克立即 X 表示“强烈反对”，并将其描述为“creepy spyware”。

i am watching you丨Giphy

OpenAI 被骂也不算冤——去年 3 月，ChatGPT 流行的时候，就出现了个人数据泄露的困境。很多用户在社交网络上反馈， ChatGPT 其他人的聊天记录出现在聊天记录栏中，有些人甚至可以看到活跃用户的姓名、电子邮件地址、支付地址、信用卡号码等私人信息。

刚刚为 AI 应用程序开始狂热的客户开始认真地担心：云大模型的隐私泄漏和数据安全到底会成为多么严重的隐患？

当下对于 AI 隐私安全的讨论更多的是上一个互联网时代延续下来的“焦虑”——云端备份用户的个人信息和交互数据，用于进一步练习，是否会增加隐私泄露的风险。

2014 2008年，黑客使用 iCloud 安全机制漏洞，撞库窃取账号，一些好莱坞女演员照片流出；2018年 2008年，“剑桥分析”事件曝光， Facebook 第三方应用通过获取的客户社交数据构建了一个服务于精准推送政治宣传的算法，从而影响选民的投票行为；2021 2008年，国内某电商网站被指出，获得系统照片权限后，删除了“缓存云”的图片，让用户认为平台远程控制了当地设备...以及各种推荐系统和个性化广告，属于上一代决策人工智能对用户行为数据的依赖。“天啊，这个内容是我刚才推给我的，我被监控了……”

与“更好的使用体验(还包括更精确的内容投放)”和“更加透明可靠的隐私保护”之间，在顾客经历了从左到右的平衡摆动之后，“逐渐觉醒”的过程，也逐渐迫使厂家采取更加严格的隐私策略。

有些厂商的做法是把尽可能多的私人数据和计算直接留在硬件上(代表苹果，如果你还记得当初的话。 CES 场外苹果嘲讽安卓经典广告语言)；以及利用差异化隐私、联邦学习等技术手段，保证调用数据的隐私和安全。比如华为在推荐个人音乐时使用差异化隐私，原始个人数据不在云上，云在差异化后对数据进行统计分析。

India苹果广告 Today

传统的隐私计算大多在算法层面工作。然而，大模型是一个从训练、输出到能力出现的“黑盒”，不透明，无边界，无法解释。它对以前基于可解释、清晰和可控技术路线的隐私计算方法提出了新的挑战。

还使许多智能手机制造商对“端侧模型”的概念进行了加码。骁龙去年年底 8 Gen3 发布，完成在“端侧”运行。 100 为强调“本地”芯片能力，亿参数模型正在演示。 0.6 秒生成图像时，还打开手机的飞行模式。

如今，大多数客户最关键的个人数据都是在手机上生成的，比如日历、待办事项、笔记、照片、短信等等。手机厂商一致认为，“个人”是基于这些数据生成的 AI “知识库”的过程，也要留在当地，以保证私密性和安全性。

设置密码什么的，Giphyy也没用。

AI “数据界限”的定义在时代更加困难。

要独立，还是要自动？

“隐私意味着客户应该知道他们在签什么。条款应该用清晰易懂的语言反复强调重点。我对此非常乐观。我相信用户很聪明，有些人愿意分享更多的数据。但是你要问他们，每次都要问，得到明确的许可，让用户准确地知道你用他们的数据做了什么。”

这是 2010年 iCloud 乔布斯和上线前夕 Walt Mossberg 曾经有过一段关于隐私的精彩阐述。并且这个说法，在接下来的十年里，已经成为整个行业的隐私保护宗旨。

iOS 10 开始，当 iPhone 为了获得用户数据和传感器权限(如蓝牙、通讯录、定位、麦克风、日历、相机等)。)，会弹出窗口询问，用户也可以在设置中精准管理；iOS 14.5 至今，当 app 当需要跟踪用户活动时，会弹出窗口询问，并告诉用户如果允许，数据将在哪里使用。

但是数据分析，后来人们越来越不关心这个功能了。

Android 14 在不开放整个媒体库的情况下，引入了新的权限管理，让用户只授权应用程序浏览特定的照片或视频。

欧盟的 GDPR 规定：企业在获取用户数据时，必须用具体、清晰的语言来描述需要获取哪些数据，并得到用户的同意。

而 AI 在时代，能够依靠“自主控制”来划分“数据界限”似乎是一种谬论。

AI 一个流行的应用开发概念叫做“生活流”（Life Stream）。“生活流”是指客户佩戴智能眼镜等传感器，让客户佩戴。 AI 能与用户同步获取生活中的一切视听信息，同步了解客户生活中的一切，进而训练出一个贴身的“AI 助手”。

在未来，每个人都会有一个数字助手。

这种产品是否好用的检测标准是缓解用户负担，使其自动化、智能化、通用化地解决问题——这与不断询问客户“调用和管理数据权限”是冲突的。

AI Agent(一般中文翻译为“智能体”)在安排工作流时，会调用三方接口功能和用户信息，使服务生态复杂化:涉及的主体(数据、算法、服务提供者)数量增加，主体权责交叉，数据交互(理想状态:AI Agent 根据需要连接各种数据、功能信息)变得越来越复杂。

数据喂养越有效(包括颗粒度低、多样化、接近垂直场景等)。)，产生的结果往往越好，这是AI数据喂养的基本规则。但是这样会让用户再次陷入“太好用了，不能拒绝”的境地，最后只能“把所有的数据都交给数据” AI"-你可以比较一下移动互联网已经发生的事情：有多少人会沉迷于搜索，有多少人会沉迷于算法推荐。

Giphyy停不下来

这种 AI 应用的特点使得传统隐私保护的“数据护栏”失效——例如，过去用户将敏感照片放入私人相册，或者使用无缝模式浏览一个“困难”的网页，而一个诊断皮肤病的“智能医生”正好需要你“生活流”中的这些敏感数据。

适应的应该是一套全新的隐私保护方法。

或许 Apple Intelligence 构思模型结构是一个可能的答案：基本模型在当地运行；PCC，私人云计算；访问第三方。简而言之，这是一种按压。 Query 分层模型策略的难度(查询请求的难度)。既要保证端与云之间的数据有效运行、浏览、存储，最终目标是客户体验；同时也要保证数据的安全。事实上，苹果设计了一套安全机制，涉及芯片、终端、云端和系统软件。

“大收藏时代”

第三个问题是新时代最令人兴奋和担忧的问题:大量的硬件厂商正在打造“超越”智能手机，面向未来 AI 硬件。

包括智能眼镜、录音笔等。，第一批原型产品已经问世。之所以被称为“原型”，是因为这些产品的性能设计不完善，性能短缺，不“好用”。但是设计思路却不谋而合地选择了“默认记录”。

还记得 AI Pin 不是吗？不要在胸前，摄像头默认在前面；还有一个片状的录音笔，紧贴手机后面，随时开始收音(据说有些企业受此启发，要把员工的工作证做成这样...)；特别是智能眼镜，可以设计成日常配置，在社交中不会被“发现”。

默认记录，不易察觉，适合日常生活，AI硬件的设计思路 Verge

仅从硬件开发来看，这些产品的设计并不新鲜。Google Glass 十多年前就出来了，更别提各种隐蔽的小摄像头、录音笔，早就走出来了。 007 影片。

Sergey Brin丨Financial Times

但是它们的新奇之处，这是一种包裹在外壳内部的物品——它从一个技术问题演变成了一个社会问题。一直都有隐藏的录音录像设备，只是大多数普通人没有理由购买和使用这类产品。

但 AI 赋予这些硬件产品存在的理由。，甚至可能把社会带入大家“戴摄像头、录音笔”的轨道。也许我们现在很难武断地说，这会让社会陷入灾难，但它肯定会带来深刻的变化。

该设备不仅记录了用户，还记录了用户周围的一切。

十年前，谷歌眼镜刚交货时，即使数量稀少，也引起了很大的争议。那时硅谷，因为经常遇到戴谷歌眼镜的顾客，很多酒吧餐厅都贴上了“禁止佩戴谷歌眼镜进店”的标志——这甚至成为当时阻碍智能眼镜普及的关键因素。

新时期，新技术，新问题，Giphy

新时期，新型硬件，收集和分析数据的主体，将从设备用户个人转变为用户周围的一切。——假如你是一个技术乐观主义者，你就不应该忽视这些数据隐私的新问题。

本文来源于微信微信官方账号“果核”（ID：作者：Guokr42：Jesse，编辑：沈知涵，36氪经授权发布。

本文仅代表作者观点，版权归原创者所有，如需转载请在文中注明来源及作者名字。

免责声明：本文系转载编辑文章，仅作分享之用。如分享内容、图片侵犯到您的版权或非授权发布，请及时与我们联系进行审核处理或删除，您可以发送材料至邮箱：service@tojoy.com