V2EX = way to explore
V2EX 是一个关于分享和探索的地方
Sign Up Now
For Existing Member  Sign In
yuxunyang

单纯好奇,如果 AI 用于安全方面,应该能做到很炸裂的效果,但感觉没啥动静

  •  
  •   yuxunyang · Feb 27 · 4821 views
    This topic created in 62 days ago, the information mentioned may be changed or developed.
    31 replies    2026-02-27 17:55:04 +08:00
    carlist
        1
    carlist  
       Feb 27
    没办法审计
    决策链条没逻辑
    上下文关键字边界溢出
    yanq123
        2
    yanq123  
       Feb 27
    应该都在尝试,但是还没有稳定+好用的落地方案
    imunoko
        3
    imunoko  
       Feb 27
    安全需要可审计、可验证、零信任,但 AI 是概率性的黑盒,天然冲突。另外 AI 自己本身就有很多安全问题,用有安全缺陷的 AI 去做安全防护听起来怪怪的,不过一般都是多层防御,AI 还是有应用场景的
    xtreme1
        4
    xtreme1  
       Feb 27
    各种风控不属于 ai 用于安全方面么.
    rb6221
        5
    rb6221  
       Feb 27
    当然有的,你又不关注安全行业怎么知道没有,我关注的一个安全行业大佬他们公司产品就在推进 AI 落地
    resten
        6
    resten  
       Feb 27
    我司有在测试深信服的 XDR ,看起来里面有融入 AI ,但是觉得还不是很好用
    JoeJoeJoe
        7
    JoeJoeJoe  
    PRO
       Feb 27   ❤️ 1
    前两天还看到新闻, 安全股暴跌?
    streamrx
        8
    streamrx  
       Feb 27 via iPhone
    你不知道前 j t qclaude 发了个文章,美股网络安全的头部股票全部暴跌吗
    streamrx
        9
    streamrx  
       Feb 27 via iPhone
    你不知道前几天 claude 发了个文章,美股网络安全的头部股票全部暴跌吗
    cnurbansnail
        10
    cnurbansnail  
       Feb 27
    To B 端服务方面的业务在推进落地
    8355
        11
    8355  
       Feb 27   ❤️ 1
    claude code security 不是刚发布?
    Gilfoyle26
        12
    Gilfoyle26  
       Feb 27
    因为 ai 不能代替坐牢
    kneo
        13
    kneo  
       Feb 27 via Android
    你先明白一个事情,当前 ai 的本质是降低成本。如果很多大厂不计成本,动辄亿计的研发投入都没让你觉得炸裂,那你就得降低预期了。
    opengps
        14
    opengps  
       Feb 27
    你去看看腾讯封号加了多少逻辑,就知道 ai 有没有干这事了
    MySheN
        15
    MySheN  
       Feb 27
    砸同行饭碗
    Jonchil
        16
    Jonchil  
       Feb 27
    AI 干得好是 AI 模型厉害,AI 出了问题是用 AI 的人背锅。就这么简单
    wat4me
        17
    wat4me  
       Feb 27
    谷歌靠 ai 找漏洞把 ffmpeg 逼得喷人了
    wyntalgeer
        18
    wyntalgeer  
       Feb 27
    安全本来就是大厂对齐敏感区,无论红还是蓝都随时可能触发 AI 罢工,根本不陪你玩怎么弄
    yh7gdiaYW
        19
    yh7gdiaYW  
       Feb 27   ❤️ 1
    kiseopt
        20
    kiseopt  
       Feb 27
    很早就在做了,ToB 和各个大厂都在搞了。你有认识的话应该也能了解
    yuxunyang
        21
    yuxunyang  
    OP
       Feb 27
    @rb6221 恩,确实没咋深入关注,单纯好奇。
    charles0
        22
    charles0  
       Feb 27
    yuxunyang
        23
    yuxunyang  
    OP
       Feb 27
    @yh7gdiaYW 谢谢大佬
    workbest
        24
    workbest  
       Feb 27
    openai ,a 公司 都已经发布合约审计的产品了

    我写合约都是用 ai 审计,效果挺好
    yuxunyang
        25
    yuxunyang  
    OP
       Feb 27
    @xtreme1 恩 这个也算 感觉算防御类型的 我没表达清楚 我想的是主动出击、挖漏洞
    yuxunyang
        26
    yuxunyang  
    OP
       Feb 27
    @xtreme1 恩 算的
    BadFox
        27
    BadFox  
       Feb 27
    你不如直接说用于渗透方面...PentAGI 都开源了,现在公网一堆 AI 赋能扫描的 agent 在跑,只是不怎么说话而已。而且效果也说不上炸裂。
    yuxunyang
        28
    yuxunyang  
    OP
       Feb 27
    @BadFox 是的 这的确是我想表达的意思 我再了解了解下
    yuxunyang
        29
    yuxunyang  
    OP
       Feb 27
    @wat4me 仔细了解一下这个事情 当时爆出来的时候 应该看到过 但是印象不是特别深刻 不说提的 bug 质量 也算是一种应用
    SmithJohn
        30
    SmithJohn  
       Feb 27
    有成果的应该偷偷在用,不敢开源.
    开源了那就完了,几亿黑客天天到处扫.
    benjaminliangcom
        31
    benjaminliangcom  
       Feb 27
    都在做,Claude 前几天还发了新博客 https://claude.com/solutions/claude-code-security
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   1275 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 68ms · UTC 17:15 · PVG 01:15 · LAX 10:15 · JFK 13:15
    ♥ Do have faith in what you're doing.