欢迎光临北京国标标准舞学院网!

服务热线:010-69453013

Segment Anything Model (SAM)——卷起来了,那个号称分割一切的CV大模型他来了

最近每天打开微信看到10个公众号里面差不多有11个都在各种玩赚chatGPT,每个都在说是各种大好风口,哎,看得眼睛都是累的。

今天下午无意间看到Meta发布了一款号称能分割一切的CV大模型,CV圈也开始卷起来,今年各种大模型要爆发了感觉。

吃瓜群众满怀好奇,点开了解一下。

官方论文在这里,感兴趣可以自行阅读。

 官方同时也开源了项目,地址在这里,如下所示:

 可以看到:才开源了一天的时间就已经有6k的star量了,后续增长感觉会更猛的!

官方也给出来了数据集地址,在这里,如下所示:

 有需要的话可以自行下载使用即可。

当然了这么精彩的技术自然不会少的了技术博客的介绍,官方的技术博客在这里

为了能让大家第一时间上手体验,这里官方也是开放出来了Demo地址,在这里,如下所示:

 上传一张我本地的图片,用的就是上一篇博客摔倒检测的数据集,如下:

 我添加了一个box,瞬间就给我分割出来了,如下:

 随着光标的移动,模型给出来的响应也是很快的:

 甚至还可以一键cutout所有的子对象如下:

 很强大了已经。

官方这里也提供了很多实例图片,简单看下:

 选择小狗试试吧:

添加box对指定区域直接分割:

 再来一张:

 效果如下:

 指定区域分割:

 最后再来试一下:

 效果如下:

 感兴趣的话都可以自己玩玩体验一下。

当然了如果想要自己安装使用也是可以的,官方同样给了安装说明如下:

先安装一些基础依赖
pip install opencv-python pycocotools matplotlib onnxruntime onnx


安装SAM
方法一:
pip install git+https://github.com/facebookresearch/segment-anything.git

方法二:
git clone git@github.com:facebookresearch/segment-anything.git
cd segment-anything; pip install -e .

 模型库在这里,需要的自行下载即可。

使用方法也很简单如下:

#from a given prompt:
from segment_anything import build_sam, SamPredictor 
predictor = SamPredictor(build_sam(checkpoint=""))
predictor.set_image()
masks, _, _ = predictor.predict()

或者也可以如下使用:

#generate masks for an entire image:
from segment_anything import build_sam, SamAutomaticMaskGenerator
mask_generator = SamAutomaticMaskGenerator(build_sam(checkpoint=""))
masks = mask_generator_generate()

当然了,mask也可以通过命令行生成,如下:

python scripts/amg.py --checkpoint  --input  --output 

关于两种不同的调用计算方式,官方也都给出来了详细的demo样例如下:

predictor_example

automatic_mask_generator_example

想要导出onnx格式的话也是可以的,如下:

python scripts/export_onnx_model.py --checkpoint  --output 

这里一共提供了H、L、B三种不同size的模型,如下:

ViT-H SAM model
ViT-L SAM model
ViT-B SAM model

 三种不同模型体积如下:

 可以根据自己的兴趣自由使用即可。

今天就简单到这里了,后面找时间在仔细看看吧!