结合本地部署的蒸馏 deepseek 大模型和 Anything LLM 来实现rag功能
之前我们用LM Studio 本地部署了 deepseek的蒸馏大模型,虽然肯定无法跟满血版比,但是对于本地的一些小应用还是可以尝试的 这边我们就不自己实现了,借助于 Anything LLM来做个尝试 首先可以在 anythingllm 下载对应系统版本的 Anything…
之前我们用LM Studio 本地部署了 deepseek的蒸馏大模型,虽然肯定无法跟满血版比,但是对于本地的一些小应用还是可以尝试的 这边我们就不自己实现了,借助于 Anything LLM来做个尝试 首先可以在 anythingllm 下载对应系统版本的 Anything…
本文介绍如何使用 LM Studio 下载并运行 DeepSeek-R1-Distill-Qwen-7B,说明蒸馏模型与全尺寸模型的区别、本地硬件要求、模型选择和基础配置。
在运行一个python写的小工具的时候碰到了这个问题 "“Python.framework”已损坏,无法打开。 你应该将它移到废纸篓。
最近发现博客上那个阅读次数的功能有点问题,因为是基于leancloud的功能,然后前几天打开了下 leancloud.app 这个网站,发现打不开了,以为是不提供服务了,因为当时刚好没精力就没仔细去研究,后面点开具体一篇文章,提示说Counter未初始化,本身这个功能是基于 l…