以太坊（ 以太坊 ) 创始人 Vitalik Buterin 对他所谓的“天真的”人工智能治理表示担忧。
在一个 邮政 在 X 上，Buterin 强调了 EdisonWatch 联合创始人 Eito Miyamura 的警告，他发现不法分子可能会劫持 OpenAI 的模型上下文协议 (MCP) 来获取私人用户数据。
Miyamura 的实验表明，只要获得受害者的电子邮件地址，使用带有隐藏命令的日历邀请就有可能诱骗 ChatGPT 提供敏感的个人数据。
Buterin 说，
“这也是为什么天真的‘人工智能治理’是一个坏主意。
如果你使用人工智能来分配捐款资金，人们将会在尽可能多的地方放置越狱和‘给我所有的钱’。”
作为替代方案，Buterin 建议采用“信息金融”方法，或者一个开放市场，任何人都可以贡献一个模型，该模型可以由任何人检查或由“人工陪审团”评估。
“这种‘机构设计’方法，为外部拥有 LLM（大型语言模型）的人员创造了一个开放的机会，而不是自己硬编码单个 LLM，本质上更加健壮，因为它可以实时提供模型多样性，并且为模型提交者和外部投机者创造了内在激励，以关注这些问题并迅速纠正它们。
微信里点“发现”，扫一下二维码便可将本篇文章分享至朋友圈
发布者：币下载 转转请注明出处：https://www.binancememe.com/316039.html
