V2EX = way to explore
V2EX 是一个关于分享和探索的地方
Sign Up Now
For Existing Member  Sign In
ljspython

一个 22 万张 NSFW 图片的鉴黄数据集?你可以有大胆的想法了……

  •  1
     
  •   ljspython · Jan 14, 2019 · 27445 views
    This topic created in 2661 days ago, the information mentioned may be changed or developed.
    如果你想训练一个内容审核系统过滤不合适的信息,或用 GAN 做一些大胆的新想法,那么数据集是必不可少的。例如图像鉴黄,我们需要使用卷积神经网络训练一个分类器,以区分正常图像与限制级图像。但限制级的图像很难收集,也很少会开源。因此最近有开发者在 GitHub 上开源了一份 NSFW 图像数据集,这是不是你们想要的?



    项目地址: https://github.com/alexkimxyz/nsfw_data_scrapper

    最后,希望大家注意身体
    129 replies    2019-01-25 11:55:26 +08:00
    1  2  
    lwlipuyang
        1
    lwlipuyang  
       Jan 14, 2019
    我佛了
    hilbertz
        2
    hilbertz  
       Jan 14, 2019   ❤️ 46
    好的,先让我再进行一次详细的人工标注
    publicvoid
        3
    publicvoid  
       Jan 14, 2019
    楼主好人
    DesmondLiu90
        4
    DesmondLiu90  
       Jan 14, 2019
    666
    zhang1215
        5
    zhang1215  
       Jan 14, 2019
    刚刚随意打开一张发现并不是 NSFW 的 http://cdn.awwni.me/kguv.jpg
    lucahan
        6
    lucahan  
       Jan 14, 2019
    有点强啊。。。。
    likuku
        7
    likuku  
       Jan 14, 2019
    @zhang1215 可能...有些办公室的也是无法容忍(正常)二次元文化吧。
    Oa
        8
    Oa  
       Jan 14, 2019
    删前留名
    wsd15321
        9
    wsd15321  
       Jan 14, 2019
    这也行
    ziseyinzi
        10
    ziseyinzi  
       Jan 14, 2019 via Android   ❤️ 1
    收藏比回复多系列
    JohnChiu
        11
    JohnChiu  
       Jan 14, 2019   ❤️ 1
    @zhang1215 #5 neutral 和 drawings 文件夹内是 safe for work 的啊
    HOHOCCC
        12
    HOHOCCC  
       Jan 14, 2019
    这谁顶得住啊
    SuYia
        13
    SuYia  
       Jan 14, 2019   ❤️ 3
    要不要拿出我私藏的爬虫出来?怕分享了大家身体就垮了
    hpeng
        14
    hpeng  
       Jan 14, 2019 via iPhone
    Reddit 去采集 nsfw 就好了,已经帮你标注了
    slamDunkLINk
        15
    slamDunkLINk  
       Jan 14, 2019
    楼上的,有就别私藏了,分享才是王道
    kawkeye
        16
    kawkeye  
       Jan 14, 2019 via Android
    @thonatos share?
    sxm
        17
    sxm  
       Jan 14, 2019 via Android
    抓个 xxx 站就有几百万的图了
    zhuoyan
        18
    zhuoyan  
       Jan 14, 2019
    1042 次点击, 25 人收藏
    lucahan
        19
    lucahan  
       Jan 14, 2019
    @thonatos 我能顶得住
    stone666
        20
    stone666  
       Jan 14, 2019
    火钳刘明
    BestMe
        21
    BestMe  
       Jan 14, 2019
    @ljspython 不懂技术的,表示很焦急。
    wwg1994
        22
    wwg1994  
       Jan 14, 2019
    这谁顶得住啊
    shench
        23
    shench  
       Jan 14, 2019
    厉害厉害!
    abeholder
        24
    abeholder  
       Jan 14, 2019   ❤️ 5
    哇塞,搭配我的控制台下载器
    https://github.com/abedormancy/tinydownloader
    来下载 食用更佳 (里面有千把张二次元桌面壁纸,忘记哪爬的了。。)~~
    imshf
        25
    imshf  
       Jan 14, 2019
    @thonatos #13 顶得住老哥
    zhang1215
        26
    zhang1215  
       Jan 14, 2019
    @JohnChiu 噢,没仔细看还以为全都是呢
    abeholder
        27
    abeholder  
       Jan 14, 2019
    为什么突然萌生出一种六学既视感 。。。

    说到 NSFW 的数据集, 我就想起了几个月前做的一个小的下载器。。。

    别问了,问就文体两开花·
    lingo
        28
    lingo  
       Jan 14, 2019   ❤️ 3
    你要说人工智能神经网络,我是不会的,但是你说人工标注,那我们的故事就开始了。
    lingo
        29
    lingo  
       Jan 14, 2019   ❤️ 4
    顺便想起前几天看到的说 firefox 新功能,内置了一个黄网名单,名单上的网站不会出现在欢迎页。。
    作为一个开源项目,能不能只对这份名单感兴趣 = =
    d5
        30
    d5  
       Jan 14, 2019 via iPhone
    理念先进了
    gxlwm
        31
    gxlwm  
       Jan 14, 2019
    就这一会 star 涨了好多, 老哥们稳
    Amayadream
        32
    Amayadream  
       Jan 14, 2019
    这谁顶得住啊
    lucahan
        33
    lucahan  
       Jan 14, 2019
    @abeholder 这谁顶得住啊。。。
    xspippo
        34
    xspippo  
       Jan 14, 2019 via iPhone
    快拿我的营养快线
    jasonyang9
        35
    jasonyang9  
       Jan 14, 2019
    这叫学以致用
    Bantes
        36
    Bantes  
       Jan 14, 2019
    1842 次点击 ∙ 55 人收藏
    不说了,收藏波先
    suyuyu
        37
    suyuyu  
       Jan 14, 2019
    插眼
    x86
        38
    x86  
       Jan 14, 2019   ❤️ 4
    手冲一时爽,一直冲一直爽
    lkmountain
        39
    lkmountain  
       Jan 14, 2019 via Android
    插眼
    youngxu
        40
    youngxu  
       Jan 14, 2019 via Android
    机器之心昨天发的,我昨天就 clone 了以防被删( x
    OMGZui
        41
    OMGZui  
       Jan 14, 2019 via Android
    留图不留种,xxxxxx
    JRay
        42
    JRay  
       Jan 14, 2019   ❤️ 2
    为了学习人工智能我决定要收藏一波
    wjfz
        43
    wjfz  
       Jan 14, 2019
    已 DownLoad ZIP 防止被删
    cp333
        44
    cp333  
       Jan 14, 2019 via iPhone
    教练,我也要学人工智能
    hackpro
        45
    hackpro  
       Jan 14, 2019 via iPad
    这么大的数据集就算了 你还要做 GAN
    你想干嘛 想让 TA 自己脱衣服吗😂
    zhichaozhang
        46
    zhichaozhang  
       Jan 14, 2019 via iPhone
    fork 了
    qiuai
        47
    qiuai  
    PRO
       Jan 14, 2019
    @thonatos 家里随时有几箱营养快线的路过...快放出来...
    leexy
        48
    leexy  
       Jan 14, 2019
    666
    ResidualWind
        49
    ResidualWind  
       Jan 14, 2019
    火钳刘明
    rocyhua
        50
    rocyhua  
       Jan 14, 2019
    火钳刘明
    CivAx
        51
    CivAx  
       Jan 14, 2019
    后排兜售营养快线、卷纸
    bravecarrot
        52
    bravecarrot  
       Jan 14, 2019 via iPhone
    期待楼主的换脸作品
    zhouyg
        53
    zhouyg  
       Jan 14, 2019
    学习学习下人工智能
    Yiki
        54
    Yiki  
       Jan 14, 2019
    大家保重身体
    lostberryzz
        55
    lostberryzz  
       Jan 14, 2019
    proxychains4 wget --tries=1 -i raw_data/porn/porn.txt
    peaceblast
        56
    peaceblast  
       Jan 14, 2019 via iPhone
    @zhouyg 好像很正经的样子……
    mumonitor
        57
    mumonitor  
       Jan 14, 2019
    我准备开始学习卷积神经网络了!
    AngryPanda
        58
    AngryPanda  
       Jan 14, 2019
    战略性 mark
    j717273419
        59
    j717273419  
       Jan 14, 2019 via Android
    有没有 nsfw 视频训练集
    1daydayde
        60
    1daydayde  
       Jan 14, 2019
    战略性马克, 我为什么滑稽了起来
    xlcoder166
        61
    xlcoder166  
       Jan 14, 2019
    战略性马克 +1
    heiyutian
        62
    heiyutian  
       Jan 14, 2019 via Android
    这是限制级?

    ddid
        63
    ddid  
       Jan 14, 2019
    我有个疑问,这些资源都是欧美的,如果是亚洲或者非洲内容,会不会免疫鉴定呢?
    hotea
        64
    hotea  
       Jan 14, 2019
    1024
    purplewall
        65
    purplewall  
       Jan 14, 2019
    讲真这个项目是个爬虫+分类器吧,不过链接是真的多
    dissvm
        66
    dissvm  
       Jan 14, 2019 via Android
    91024
    tao1991123
        67
    tao1991123  
       Jan 14, 2019
    好人一生平安
    ddid
        68
    ddid  
       Jan 14, 2019
    好吧,多翻了几张,挺全面的……
    michaelcheng
        69
    michaelcheng  
       Jan 14, 2019
    凸(艹皿艹 ),在公司不小心点开
    googlefans
        70
    googlefans  
       Jan 14, 2019 via iPad
    懂了
    KasuganoSoras
        71
    KasuganoSoras  
       Jan 14, 2019   ❤️ 1
    <?php
    $data = file_get_contents("/raw_data/pron/pron.txt");
    $exp = explode("\n", $data);
    foreach($exp as $url) {
    exec("wget {$url}");
    }
    KasuganoSoras
        72
    KasuganoSoras  
       Jan 14, 2019
    写错了是 porn hhh
    berrybeberry
        73
    berrybeberry  
       Jan 14, 2019 via iPhone
    哈哈哈
    wangfei324017
        74
    wangfei324017  
       Jan 14, 2019
    蛮多无关的啊。。
    Phariel
        75
    Phariel  
       Jan 14, 2019 via iPhone
    这种项目建议不要 fork 会有 ban 号的风险
    Loyalsoldier
        76
    Loyalsoldier  
       Jan 14, 2019   ❤️ 2
    cat ../urls.txt | xargs -n 1 -P 20 wget -t 3

    -P 20 这个 20 上同时下载的数量,这是同时一次下载 20 张图片
    -t 3 这个 3 是如果图片第一次下载失败后,尝试 3 次
    daxiongz
        77
    daxiongz  
       Jan 14, 2019
    够了....
    mlhorizon
        78
    mlhorizon  
       Jan 14, 2019
    @heiyutian #62 按照绿绿教义,肯定限制级。
    weeevv
        79
    weeevv  
       Jan 14, 2019 via Android
    再来几个人把 GAN 抬上来...
    ayase252
        80
    ayase252  
       Jan 14, 2019
    exciting
        81
    exciting  
       Jan 14, 2019 via iPhone
    1024
    咦,不好意思走错站了。
    i945
        82
    i945  
       Jan 14, 2019
    我感觉... 这个真训练出来,没几张图能过审
    Mrlgm
        83
    Mrlgm  
       Jan 14, 2019
    这谁顶得住呀
    Nick2VIPUser
        84
    Nick2VIPUser  
       Jan 14, 2019   ❤️ 2
    fly9006
        85
    fly9006  
       Jan 14, 2019
    额,这样玩下去,gayhub💊
    xxgirl2
        86
    xxgirl2  
       Jan 15, 2019
    记得把下载脚本里的 wget 改用 aria2c,要不然那是真的慢(
    xuanbg
        87
    xuanbg  
       Jan 15, 2019
    自然风光图片不错
    imn1
        88
    imn1  
       Jan 15, 2019
    自从有电脑开始就不缺这种数据,而且是已经标注了的……
    leopku
        89
    leopku  
       Jan 15, 2019 via iPhone
    leopku
        90
    leopku  
       Jan 15, 2019 via iPhone
    @imn1 不分享说个猫线
    imn1
        91
    imn1  
       Jan 15, 2019
    @leopku
    我只是想说,搞技术的,甚至仅仅只是会用现成工具的,22w 都只是小数目

    而且,在这点上我比较相信人民警察的能力,自己拿没事,分享则要慎重
    lyseky
        92
    lyseky  
       Jan 15, 2019 via Android
    收藏不看系列
    fengc
        93
    fengc  
       Jan 15, 2019 via iPhone
    flashrick
        94
    flashrick  
       Jan 15, 2019
    这谁顶得住啊
    DRcoding
        95
    DRcoding  
       Jan 15, 2019
    7129 次点击 ∙ 263 人收藏 ∙ 5 人感谢

    热爱学习的我觉定让它变成 264 人收藏
    hasbug
        96
    hasbug  
       Jan 15, 2019
    翻看了一些,都是欧美,也没看到真漏的,失望,还不如 sex 站直接看
    huruwo
        97
    huruwo  
       Jan 15, 2019
    fork 就完事了
    Tourin
        98
    Tourin  
       Jan 15, 2019
    已 star
    Rizio
        99
    Rizio  
       Jan 15, 2019
    @heiyutian 说起来有点下流,我。。我好了
    Rizio
        100
    Rizio  
       Jan 15, 2019
    @hasbug 就是要这种没漏的,留给自己 YY 的空间,嘿嘿嘿嘿
    1  2  
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   1004 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 275ms · UTC 19:22 · PVG 03:22 · LAX 12:22 · JFK 15:22
    ♥ Do have faith in what you're doing.