信号主席梅雷迪思·惠特克（Meredith Whittaker）呼吁代理AI具有“深刻”的安全性和隐私问题

信号主席梅雷迪思·惠特克（Meredith Whittaker）周五警告说，代理AI可能会冒着用户隐私的风险。 在德克萨斯州奥斯汀举行的SXSW会议上，安全通信的倡导者在舞台上发表讲话，称使用AI代理作为“将您的大脑放在罐子里”，并警告说，AI的新计算范式（AI）（AI代表用户代表用户执行任务）与隐私和安全有一个“深刻的问题”。 惠特克（Whittaker）解释了如何通过为用户处理各种在线任务来销售AI代理，以增加对生活的价值。例如，AI代理商将能够承担诸如查看音乐会，预订门票，在日历上安排活动以及通讯您的朋友的任务。 “因此，我们可以将大脑放在一个罐子里，因为事情正在这样做，我们不必触摸它，对吗？”惠特克沉思。 然后她解释了AI Agen的访问类型T将需要执行这些任务，包括访问我们的Web浏览器以及一种驱动它的方式以及访问我们的信用卡信息以支付门票，日历和消息传递应用程序，以将文本发送给您的朋友。 Whittaker警告说：“它需要能够使用看起来像root许可的东西，访问这些数据库中的每个数据库，在整个系统上驱动[过程]，这可能是清晰的，因为没有模型可以加密。” 她继续说：“而且，如果我们谈论的是一个足够强大的……AI模型可以为此提供动力，那么设备上就不会发生这种情况。” “几乎可以肯定，这是将其处理和发送回去的云服务器的发送。因此，安全和隐私存在着一个深刻的问题，它困扰着围绕代理商的炒作，最终威胁要打破A之间的血脑屏障惠特克总结说：“通过结合所有这些独立的服务并使他们的数据混淆，pplication层和操作系统层。” 她说，如果像Signal这样的消息传递应用程序与AI代理集成在一起，它将破坏您的消息的隐私。代理必须访问该应用程序以发短信您的朋友并将数据撤回以总结这些文本。 她的评论遵循了她在小组之前在小组中发表的评论，该评论涉及AI行业是如何建立在具有大众数据收集的监视模型上的。她说，“更大的AI范式更大”（意味着数据越多，越好）可能会产生她认为不好的后果。 她总结说，惠特克（Whittaker）警告说，我们将以“将要照顾生命的紧急事件的魔术精灵机器人”的名义进一步破坏隐私和安全性。