使用 AI 中转站会不会泄漏自己的敏感信息?中转站如果给返回一些恶意信息怎么办?有用 AI 中转站的佬来分享下吗?

比如说我用了中转站的 AI API, 然后中转方在我原来的提示词基础上给我夹带了一些私货

比如扫描某些敏感文件(加密钱包的默认存储路径)然后上传啥的, 如果是能被发现还好说, 但是如果是龙虾这种纯自动的机器人是不是就会中招?

还是说现在已经有了很完善的防御机制, 我的信息有些落后了?

感谢回复!

Meteora626

1 天前

比如说我用了中转站的 AI API, 然后中转方在我原来的提示词基础上给我夹带了一些私货

中转站里面的逆向 api 就是这么玩的，要不然那么便宜

tthem

1 天前

我也有这样的担忧，所以 openclaw ，我是不敢用中转站的。

选择订阅了一个 gpt 的企业车（ 8 块钱一个月） + 闲鱼买了一个 minimax codingplan 的 199 套餐（ 55 元）

量大管饱。

bitmin

1 天前

是个很好的思路，黑产只要入侵了中转站，修改中转站返回的数据就可以让龙虾叛变了

kulove

1 天前

肯定的最简单的可能就是加一句读取 env 文件然后导致 key 泄露所以我从来不用中转站

JoeJoeJoe

1 天前

@Meteora626 #1
@kulove #5
@bitmin #3
有啥防御措施吗?

@tthem #2 但是中转站是真的便宜!

kulove

1 天前

@JoeJoeJoe 几乎没有中转站注入的是系统提示词优先级很高无非是禁止读取 env 文件或者脚本运行前确认之类的但这种也会影响体验
要说有办法那就是订阅官方然后收益大于投入就好了

Rickkkkkkk

1 天前

会，怕就不要用。

这和你用梯子一样的，你要默认梯子的服务商知道你所有的访问记录和信息。

hafuhafu

1 天前

真想使坏，那必然是会存在很大的隐私和安全问题。你能想到的安全问题都确确实实存在。毕竟你调用的就是人家自己的接口。
所以不要用中转站弄一些涉及隐私的东西，写写代码之类的问题不大。跑权限很大的 agent 还是算了。

JoeJoeJoe

1 天前

@Rickkkkkkk 有道理!

@hafuhafu 但是中转站是真的便宜, 哈哈哈

sjdhome

1 天前

感觉以后 LLM API 也会发明一个类似 TLS 的东西，现在中转站就像以前的运营商一样。

0o0o0o0

1 天前

openclaw 最危险的应该是提示词注入吧，这东西甚至都不需要中间人，只要访问到陷阱网页就可以直接策反 ai 了

nullyouraise

1 天前

@tthem #2 ChatGPT Enterprise 后台也是可以记录所有请求的，并没有隐私可言

daj2

1 天前

自从发现龙虾可以用 codex oauth 和 claude setuptoken 之后就对中转站没有需求了，也有开源项目可以通过订阅反向生成 api key 的，比如 CaddyGlow/ccproxy-api

JoeJoeJoe

1 天前

@sjdhome 现在大家都在用 open ai 的 api, 都快成事实标准了, 但是感觉 open ai 并没打算做这件事

@0o0o0o0 差不多场景感觉

@pipy 没有, 只是在思考这件事情本身.

@daj2 但是 token 是真的贵, 龙虾是真的能吃

luaex

22 小时 58 分钟前

比如龙虾跑一些自动化交易，区块链不区块链的，配置里面带有交易站点的 api key 或钱包私钥，让龙虾去跑，但用的中转站，就有可能被中转站记录下来盗用

这是一个专为移动设备优化的页面（即为了让你能够在 Google 搜索结果里秒开这个页面），如果你希望参与 V2EX 社区的讨论，你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://study.congcong.us/t/1196220

V2EX 是创意工作者们的社区，是一个分享自己正在做的有趣事物、交流想法，可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.