Unsloth Studio(测试版)允许您在 Windows、Linux 和 macOS 上运行和训练文本、音频、嵌入、视觉模型。 特点
Unsloth 为推理和训练提供了几个关键特性: 推理- 搜索、下载和运行模型,包括 GGUF、LoRa 适配器、safetensors 等。
- 导出模型:将模型保存或导出为 GGUF、16 位安全张量和其他格式。
- 工具调用:支持自愈工具调用和网络搜索
- 代码执行:允许 LLM 在 Claude 工件和沙箱环境中测试代码
- 自动调整推理参数并自定义聊天模板。
- 我们直接与gpt-oss、Qwen3、Llama 4、Mistral、Gemma 1-4和Phi-4背后的团队合作,修复了提高模型准确性的错误。
- 上传图片、音频、PDF、代码、DOCX 等多种文件类型进行聊天。
训练- 训练和强化学习500 多个模型的速度提高2 倍,VRAM 占用减少高达70% ,且精度不损失。
- 自定义 Triton 和数学内核。请参阅我们与PyTorch和Hugging Face 的一些合作项目。
- 数据配方:从PDF、CSV、DOCX等自动创建数据集。在可视化节点工作流中编辑数据。
- 强化学习(RL):最高效的RL库,对GRPO、 FP8等计算使用更少的VRAM。
- 支持完全微调、强化学习、预训练、4 位、16 位和 FP8 训练。
- 可观测性:实时监控训练,跟踪损失和 GPU 使用情况,并自定义图表。
- 支持多GPU训练,并且即将推出重大改进。
快速安装
下载后模型后,通过下方的 Unsloth Studio 直接本地加载模型即可! 1、Windows 版:在Powershell下执行下方的一键安装命令: irm https://unsloth.ai/install.ps1 | iex 安装完成后在浏览器**问本地连接:http://127.0.0.1:8888 即可使用 

2、macOS、Linux、WSL:curl -fsSL https://unsloth.ai/install.sh | sh
|