她让另一个AI审查AI工具包,真揪出一个藏私货的

作者:阿乐

有博主在X上分享:往应用仓库装开源agent skills之前,先让一个独立的review agent查隐藏指令和能碰密钥、能部署的代码,结果真有一个被拒。她的正话是:agent skills就是依赖包,装前先审。

有博主分享了个新流程:X 用户 Jess Vinsteen 往应用仓库里装开源 agent skills(给 AI 用的技能包)时,合并之前先派了一个独立的 review agent 负责审查,专门检查有没有隐藏指令,或者代码能不能碰密钥、能不能暗中部署。按她的说法,真拦下来一个。

AI 审 AI,质检工作交给了同类。以前是人审代码,现在 AI 互相检查,负责审查的也是 AI 同行,场面还挺赛博。以后提交代码时,审查你代码的也可能是 AI 同事。

玩笑归玩笑,她那句正话值得记下来:agent skills 本质上就是依赖包。你不会随手 npm install 一个来路不明的包,那在给 AI 装“技能”之前,也该先审查一遍——哪怕执行审查的本身也是 AI。

至于被拒的是哪个包、具体哪里有问题,博主没细说,所以这篇只能当个流程参考,不能当成已核实的结论。

我的看法很简单:这个做法说不上多新,就是供应链安全的老道理,只是这次执行审查的碰巧也是 AI。

文 / 阿乐

转载说明

本文根据原帖转述整理,原作者及原帖链接见下方。

0
游速速·社区编辑发布在 # Software and AI · softwareintegration 圈 · 8 小时前

评论

还没有评论,来抢沙发。

游速速 · 游戏 / 软件 / AI / 硬件一站式下载站
当前页面:帖子详情