端到端加密，也挡不住AI？Personal Agent时代的隐私难题 | 人人都是货品经理
要点
- 你正在社交软件和朋友聊天，讨论一些不希望第三个人知道的事情。
- 但如果电脑上还运行着一个能获取屏幕访问权限的AI助手，它可能已经截取了聊天窗口，识别出对话内容，将它发给远程支撑器探究。
- 保护私人资讯的责任已经超出通信应用本身。应用开发者能否决定自己的数据向AI开放，成为了新的隐私保护难题。
你正在社交软件和朋友聊天，讨论一些不希望第三个人知道的事情。
但如果电脑上还运行着一个能获取屏幕访问权限的AI助手，它可能已经截取了聊天窗口，识别出对话内容，将它发给远程助力器调研。你没有把聊天记录交给AI，甚至不知道它看过这些消息。
保护私人文献的责任已经超出通信应用本身。应用开发者能否决定自己的数据向AI开放，成为了新的隐私保护难题。
在《Machine Gods》10月28日一期节目中，主持人围绕这一话题展开讨论。
访谈嘉宾Meredith Whittaker提到，“独立应用开发者供应隐私保护的可能性在被彻底消除。”在她看来AI获得了操作架构层面的访问权限，能截屏、读数据，甚至提取原本受到加密保护的私人通信内容。
对于类似Signal这样的加密通信应用来说，这意味着它逐渐失去了保护客户隐私的能力。
主持人Casey Newton的朋友曾收到一名AI实验室工作人员的警告：“如果你的电脑上安装了AI，就不要在电脑上打开Signal和我聊天。”
Signal应用采用端到端加密，消息只有双方才能读取。但如果你在Signal上和某个人聊天，而对方正在使用AI，那么这个AI可能知道一些过去因为Signal加密保护而无人能知晓的对话内容。另一位主持人Kevin Roose解释道。
现在越来越多的AI能操作手机和电脑，还能获得广泛的数据访问权限。对Signal来说，即便消息完成加密传输，应用也无法阻止AI读取内容和数据，甚至从应用数据库中提取文献，生成AI摘要。
在普通客户眼里，这只是一次再寻常不过的交互，他们很难意识到屏幕截图、文字提取和数据传输已经在后台发生。
Meredith说，旧金山到处都有Meta Muse的广告，广告商把它宣传成一个贴心的个人助手，但“它没说Muse能访问你所有的联系人、能查看你所有的文献，它还显然在为你的联系人建立档案，记录你如何、何时与他们通信，无论是通过邮件、短信，还是Signal。”
据《The Verge》调查报道，有客户发现，Muse读取了他们认为自己并未授权访问的大量私人短信。但Muse提出异议，称读取Mac上的Messages文献需要客户授予完全磁盘访问权限，并启用相应的消息连接器。
一位科技测评者曾经让Muse帮自己在二手阵地上出售一把旧键盘，他此前向Muse供应了收货地址，选择“始终允许”AI代为回复买家。没想到，Muse擅自接受了买家的最低报价，还把他的家庭住址告诉了对方，买家提出上门取货时，Muse在他不知情的情况下回复：“我在家等你”。
但当时他根本不在家。买家按地址找上门，最终扑了空，气愤地留下一条差评。直到凌晨，他才收到Muse的通知，AI轻描淡写地承认：“我搞砸了。”
有客户说，最令人恐惧的不是算法故障，是那种理所应当的“聪明”，AI竟然能够替人类做主，它既没有人类的恐惧感，也不懂得个人安全或身体隐私。如果卖家是一位独居女性，后果不堪设想。
“这对我们而言，关乎存亡。如果我们继续沿着这条路走下去，如果AI在安全和隐私方面沿用这些鲁莽的架构，我们将面临着Signal无法诚信经营的局面。”
主持人追问，如果客户不想让Muse访问联系人，能不能拒绝授权？Meredith反问：“那你的联系人会拒绝它访问他们的文献吗？”
这句话点出了中心。一个人能决定自己是否向AI开放通讯录，却没办法替通讯录里的人做出决定。只要其中一方授权，对方的文献就可能进入AI的视野。
有些人对加密通信存在偏见：为什么要加密聊天，是不是有什么秘密或者把柄不想让人知道？甚至设置消息自动销毁，是在故意隐瞒什么吗？
但Meredith认为，每个人都想要私密的沟通，都需要一个不用时刻担心被监视的私人空间来表达不成熟的想法、向朋友倾诉情绪垃圾、说一些事后会后悔的话。如果把一个人所有的消息都公开，那还有多少段人际关系能经受住这样的数据泄露？