大家在做目标检测落地时会考虑用 VL 大模型直接做识别吗?

24 天前
 monstericeer

最近在测试 Qwen3-VL ,Doubao-seed-2 这类的目标识别能力,尤其是豆包在很多复杂场景不需要训练就能标注得非常准确,能够在用法上更加灵活,对比 yolo 需要大量的训练数据,不断迭代。 想请教各位是否有尝试过用大模型做自动标注辅助 yolo 训练,或者直接用在生产环境?

2944 次点击
所在节点    程序员
27 条回复
iasnull
24 天前
看具体场景,各有优劣。比如最近的大模型在单字符级别的识别能力比较差,在比较大且明显的 2d 特征物体的识别能力就很厉害,能抗噪声和失真。
giserd
24 天前
VL 模型开销远高于 yolo 之类的目标识别,单纯目标识别还是感觉 yolo 更靠谱
nno
24 天前
对延迟敏感的不会用;不敏感的会用;
stinkytofux
24 天前
标注必须准确 yolo 的检测效果才好, 现阶段大模型标注还必须人工检查, 如果一张一张的检查, 调整标注, 还不如直接人工标. 因为修改更麻烦, 所以我们还是人工标.
cryptovae
24 天前
yolo 快,训练数据量上来,准确度提升
VL 模型慢,有幻觉,看你怎么取舍了
timeance
23 天前
工业检测不会,最多用大模型来辅助识别小模型;常见的两个场景是
1. 比如小模型识别不了的异形体,大模型做标注然后转人工
2. 产线部署的时候用人工大模型来标注数据,也就是大模型教小模型怎么做
DigitalG
23 天前
做过类似的尝试,试了市面上的 VLM 。忽略检测速度问题,只考虑效果的话。只判断分类或者有无的话,姑且还行。但如果使用提示词明确要求 VL 大模型给出障碍物和像素坐标,那就谈不上多准确。能给出的更多是语义信息,图里有什么,没什么,但在什么位置就不容里准确了。 做分类可以,做检测不行。

可以辅助标注,人去优化标注框
WithoutSugarMiao
23 天前
@DigitalG 我们这面是做工业场景的,之前用 yolo ,现在用 gemini3.0 最近换成了 3.1 。即便给像素坐标也非常准确。而且是很复杂的工业零件。
visper
23 天前
yolo 快啊。
monstericeer
23 天前
我这边是无人机高空场景,除了日常的目标识别外,需要做大量的语义分割/变化监测,在往大模型这方面探索。
monstericeer
23 天前
@WithoutSugarMiao seed2.0 的像素坐标比较准,但是会有概率遗漏,gemini3.1 准确率怎么样?有没有考虑对 qwen-vl 微调之类的
xiaomushen
23 天前
这得多慢多贵啊
commoccoom
23 天前
@monstericeer 老哥,我们也在做无人机巡检项目。你们那里 UOM 审批好过吗?
monstericeer
23 天前
@commoccoom 不好弄
commoccoom
23 天前
@monstericeer 看来都麻烦,只有他们公安自己的方便。有些单位还去东部战区审批飞行
Maroontor
23 天前
借楼问下,针对材料识别的你们用 ocr 还是 vl 啊
ifpig
23 天前
@DigitalG 请问这种的需要找专门做了多模态输入训练的大模型,还是通用的千问之类的就可以?
DigitalG
23 天前
@ifpig 需要支持多模态的。不过千问也是有的,比如 3.5plus ,3.6plus 。官方 api 文档里会给例子,一般可以把图像转成 base64 编码塞到 payload 或者给 url
kuhung
23 天前
这个没必要 VL 吧 简单模型效果好 VL 太重了 宣传大于实际
你是开发,就走 sota 模型
你是老板,就往 VL 上面靠
TsubasaHanekaw
23 天前
在做字符缺陷了

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://study.congcong.us/t/1202985

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX