Signal总裁Meredith Whittaker对自主AI代理提出警告
在2025年SXSW大会暨艺术节上，Signal总裁Meredith Whittaker对自主AI代理（Agentic AI）提出了严重的安全和隐私风险警告。自主AI代理是指能够在无需人类输入的情况下进行推理并执行任务的机器人。
自主AI代理的工作原理
Whittaker解释说，自主AI代理被宣传为能够提前思考多步并完成用户任务的“神奇精灵机器人”。例如，它可以找到音乐会、订票，并打开Signal应用程序向朋友发送音乐会门票的详细信息。然而，在这个过程中，AI代理将访问用户可能希望保密的敏感数据。
隐私与安全风险
Whittaker指出，自主AI代理需要访问用户的浏览器、信用卡信息、日历，甚至Signal应用程序来发送消息。她强调，这种代理几乎肯定会在设备外处理数据，将其发送到云服务器并返回，从而带来深远的隐私和安全问题。
其他专家的担忧
Whittaker并不是唯一担心自主AI代理风险的人。加拿大研究科学家Yoshua Bengio也发出了类似的警告，他强调了在AI技术发展过程中需要识别风险并进行技术投资，以避免潜在的灾难性后果。
结论
Whittaker和Bengio的警告提醒我们，在追求AI技术发展的同时，必须高度重视其可能带来的隐私和安全风险，以确保技术的安全可控。
