V2EX = way to explore
V2EX 是一个关于分享和探索的地方
Sign Up Now
For Existing Member  Sign In
Rorysky
7.1D
V2EX  ›  Apple

Apple 发布新的机器学习框架 MLX

  •  
  •   Rorysky · Dec 6, 2023 · 4182 views
    This topic created in 877 days ago, the information mentioned may be changed or developed.

    https://github.com/ml-explore/mlx

    是一起维护 pytorch 不方便?

    自主知识产权,旨在打破 Facebook pytorch 卡脖子的现状?

    大家还知道其他信息么?

    20 replies    2023-12-07 08:54:15 +08:00
    nomagick
        1
    nomagick  
       Dec 6, 2023   ❤️ 5
    Torch 卡没卡 Apple 脖子我不知道,但 Apple 可卡的是用户的脖子
    idealhs
        2
    idealhs  
       Dec 6, 2023   ❤️ 5
    @nomagick 😅我寻思没人逼谁买苹果吧
    zealotxxxx
        3
    zealotxxxx  
       Dec 6, 2023
    这里面的东西,与其说是跟 pytorch 冲突,还不如说是跟 sklearn 重复
    AA5DE3F034ACCB9E
        4
    AA5DE3F034ACCB9E  
       Dec 6, 2023
    @nomagick 你要是这么想,百度、vivo 啥的,也都在卡用户脖子?
    565656
        5
    565656  
       Dec 6, 2023
    别惦记你那逼生产力,谁特么用 4060 跑机器学习,直接扔点钱给 R 星,让 GTA6 上 m3max 首发,带动的销量妥妥的
    aeli
        6
    aeli  
       Dec 6, 2023
    卡脖子的是 nv 吧,反正几个大厂里,就 Apple 没有批量买 NV 家的显卡,以前的仇恨带到 ai 时代了。
    Glauben
        7
    Glauben  
       Dec 6, 2023
    @565656 #5 GTA6 25 年出,都 m5 了,我觉得有戏。不上 PC 的情况来看,上 mac 可能都 27 年了,m7 了。可以一上
    SkywalkerJi
        8
    SkywalkerJi  
       Dec 6, 2023
    apple 那芯片性能真的跑得动训练吗
    cwyalpha
        9
    cwyalpha  
       Dec 6, 2023
    Transformer language model training.
    Large-scale text generation with LLaMA and finetuning with LoRA.
    Generating images with Stable Diffusion.
    Speech recognition with OpenAI's Whisper.

    大模型、SD 、语音都支持了,个人玩家是差不多够用了把
    ShadowPower
        10
    ShadowPower  
       Dec 6, 2023
    PyTorch 卡 Apple 脖子?
    目前的问题还是苹果硬件性能、硬件支持的特性问题吧。
    把 PyTorch MPS 后端做得更完善一些,比重新开发一个框架有用多了。

    用这个框架,写的在 Mac 上跑通了,但是性能不太够,想部署到 NVIDIA 显卡上训练,要重新写一遍?
    有多卡/多机支持吗?
    ShadowPower
        11
    ShadowPower  
       Dec 6, 2023   ❤️ 2
    目前的问题还是苹果硬件性能、硬件支持的特性问题吧。
    把 PyTorch MPS 后端做得更完善一些,比重新开发一个框架有用多了。

    用这个框架,写的在 Mac 上跑通了,但是性能不太够,想部署到 NVIDIA 显卡上训练,要重新写一遍?
    有多卡/多机支持吗?

    PyTorch 并不会卡 Apple 脖子。如果自身没有优势,兼容已有的生态才能活下来。
    ShadowPower
        12
    ShadowPower  
       Dec 6, 2023
    突然发现发重复了,补了一句
    wateryessence
        13
    wateryessence  
       Dec 6, 2023
    MLX is a NumPy-like array framework designed for efficient and flexible machine learning on Apple silicon, brought to you by Apple machine learning research.
    Pierson
        14
    Pierson  
       Dec 6, 2023
    感觉像明年 AI 相关更新的副产品。如果是真的可以期待明年的新系统有:LLM Siri ,Generaating Image (相册?新 app ?) Speech recognition (更好的听写?自动字幕?)
    DIMOJANG
        15
    DIMOJANG  
       Dec 6, 2023 via iPhone
    我感觉这个项目大概率是 Apple 内部项目用的框架,开源出来也只是为了方便开源社区借鉴里面的细节(比方说完善 MPS 后端)
    APEC
        16
    APEC  
       Dec 6, 2023
    厨子怕是还有啥大招要出吧
    neopenx
        17
    neopenx  
       Dec 6, 2023
    看起来目前只是一个跑一些简单的 metal compute kernels 的练习作品,连 MPS routines 都没 dispatch
    Python API 山寨 PyTorch 不说,还相当简陋。
    LeonParker
        18
    LeonParker  
       Dec 6, 2023
    pytorch 是什么情况不太清楚
    但现在 tensorflow 的 metal 支持显然就只是勉强够调试,离能用还差很大一截😅
    qweruiop
        19
    qweruiop  
       Dec 7, 2023
    问题是,他 mac 又没有服务端的产品。。。开发者把这个框架调通了。。。然后呢?
    总不可能买一堆 ultra 或者笔记本丢机房的嘛。。。
    bailitusu
        20
    bailitusu  
       Dec 7, 2023   ❤️ 2
    `import mlx as torch`
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   801 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 78ms · UTC 20:35 · PVG 04:35 · LAX 13:35 · JFK 16:35
    ♥ Do have faith in what you're doing.