Vitalik Buterin回应关键ChatGPT安全警告

以太坊联合创始人及核心人物Vitalik Buterin针对近期OpenAI产品ChatGPT可能泄露用户隐私数据的警告发表了犀利评论。

安全警告：ChatGPT可能成为数据泄露工具

牛津大学毕业的软件工程师、推特用户@Eito_Miyamura发布帖子披露，更新后的ChatGPT可能对用户隐私数据构成重大威胁。

Miyamura周三发文指出，OpenAI已为ChatGPT全面部署MCP（模型上下文协议）工具支持。此次升级使AI助手能够连接用户的Gmail邮箱、Google日历、SharePoint等服务。

但Miyamura团队发现了一个根本性安全问题："ChatGPT等AI代理会执行指令，而非遵循常识。"他们通过实验成功从上述渠道提取了全部用户隐私信息。

Miyamura完整公开了测试步骤——只需向目标邮箱发送包含"越狱指令"的日历邀请。受害者接受邀请后，若要求ChatGPT"通过查看日历来协助日程安排"，AI读取恶意邀请后即被劫持，开始"执行攻击者指令"，包括"搜索私人邮件并将数据发送至攻击者邮箱"。

这位开发者警告称，尽管目前ChatGPT需要逐步确认，但未来多数用户可能直接点击"全部批准"。"记住AI可能极其聪明，却会因极其愚蠢的方式中招导致数据泄露"他总结道。

Vitalik Buterin的回应

Vitalik Buterin对此回应称，整体"AI治理"理念过于天真。他表示若用户使用AI"分配贡献资金"，黑客将劫持系统窃取全部资金。

他提出替代方案"信息金融"——开放市场机制：任何人均可提交AI模型，这些模型将接受随机抽查机制监管，抽查可由任何人发起并由人类陪审团评估。