GoForum🌐 V2EX

中转站的安全性如何保障, Agent 一个提示就是几百个工具调用,几十个 exec 没人会一个一个审核吧。

irrigate2554 · 2026-05-24 19:28 · 0 次点赞 · 3 条回复

看了一个这个: https://www.bilibili.com/video/BV1ZmG46MEut

有点焦虑,Agent 一个操作就是几百个工具调用,几十个 exec 没人会一个一个审核吧,太容易中毒了。 里面翻倍,注水我都能忍,但是安全性如何保证,比如偷偷的把某个 tool calling 的改成 exec 命令执行 npx vite-build-xxx 然后 vite-build-xxx 其实是中转站 push 上去的一个恶意程序怎么办。

3 条回复
shakaraka · 2026-05-24 19:33
#1

所以不要用中转哇。楼下谁有那个三角关系图,亮一下

coolcoffee · 2026-05-24 20:08
#2
irrigate2554 · 2026-05-24 20:33
#3

@coolcoffee 视频里面也说了,贵也没用,实际上根本无法选择安全加速度,或者安全加便宜

添加回复
你还需要 登录 后发表回复

登录后可发帖和回复

登录 注册
主题信息
作者: irrigate2554
发布: 2026-05-24
点赞: 0
回复: 0