自我安慰
兜兜转转,尝试了很多姿势,下了很多模型,浪费了很多流量,折腾许久,终于找到一款在笔记本上也能跑14B大语言模型的工具了。
LM Studio是一个免费的桌面软件工具,它使得安装和使用开源大语言模型非常容易。
LM Studio是我目前见到最好用,也是最简单的本地测试使用大语言模型的工具,吊打其他各种工具。
我的笔记本是2023款Macbookpro M2 Max,32GB+1T,跑14B通义千问大模型轻轻松松
个人认为,这个工具的使用基本上是有眼睛有手就行,不过也需要科学上网,进入官方网站下载客户端开始折腾吧👉 https://lmstudio.ai/
本文作者:老程序员小唐
本文链接:
版权声明:本博客所有文章除特别声明外,均采用 BY-NC-SA 许可协议。转载请注明出处!