关于我们

咖啡领域 AI 小模型,基于 Qwen2.5 微调训练

👨‍💻关于作者

男秀

Python 开发工程师 / AI 应用探索者

咖啡大师小模型诞生于开智学堂的零基础开发大模型课程。 从数据蒸馏、微调训练、量化到部署上线,经历了完整的大模型开发流程, 最终打磨出这个专注于咖啡领域的 AI 助手。

🌐 个人博客📱 公众号:秀编程

🛤️诞生历程

01

数据蒸馏

从海量咖啡领域资料中提取高质量训练数据

02

微调训练

基于 Qwen2.5-15B 进行咖啡领域专项微调

03

模型量化

将模型量化为 GGUF 格式,降低推理资源需求

04

部署上线

构建 FastAPI 后端 + Next.js 前端,提供完整的对话体验

🤗模型信息

ynanxiu/qwen25-15b-coffee-v5-gguf

基于 Qwen2.5-15B 架构,经过咖啡领域数据微调的 GGUF 格式模型。 采用 ChatML 对话格式,支持中文交互。

Qwen2.515B 参数GGUFChatML
🤗在 HuggingFace 上查看

⚙️技术架构

后端

  • 🐍Python 3.11
  • FastAPI
  • 🧠llama-cpp-python
  • 📡SSE 流式响应

前端

  • ⚛️Next.js 15 (App Router)
  • 💅Tailwind CSS
  • 🔤TypeScript
  • 📝Markdown 静态博客

🔗相关链接