Nicksxs's Blog

学习下LlamaIndex-初始篇

发表于 2024-04-21 分类于 LLM 阅读次数：

LlamaIndex 是目前比较新的大模型RAG框架，RAG是指检索增强生成 (Retrieval-Augmented Generation, RAG)是指在利用大语言模型回答问题之前，先从外部知识库检索相关信息。

发表于 2024-04-14 分类于 headscale 阅读次数：

derper是 tailscale 已经开源的 tailscale 中转服务，可以进行自己搭建，不然就是使用 tailscale 提供的 derper 节点，我的体验是在晚上高峰期会比较卡，所以有能力可以自建的话也是比较推荐的，不过相对比前面的设置会麻烦点

发表于 2024-04-07 分类于 headscale 阅读次数：

headscale 在前面两篇初体验和添加节点主要是介绍了如何搭建和使用，但是这里有个很大的缺点，比如我在想要两地的网络能够连通，但是两地的网络内都不止一个机器，那想让他们连通就需要把它们都加入这个 headscale 所组成的虚拟局域网，并且每个都是这个虚拟局域网的ip，跟…

发表于 2024-03-31 分类于折腾阅读次数：

之前买来玩客云作为轻nas使用，但是由于只能外接硬盘，并且是usb2.0的接口，使用体验不是特别好，并且前期作为老母鸡还能兑换视频会员这种，后面取消了就不怎么使用了，前阵子玩客云停止提供服务了，所以就想可以折腾下，比如Armbian这样的，可以作为轻量服务器使用，功耗也比较低…

发表于 2024-03-24 分类于 LLM 阅读次数：

本文介绍如何使用 Ollama 在本地运行 Google Gemma，包括安装方式、模型版本与内存选择、ollama run 命令、MacBook Pro 实测表现以及本地大模型的基础使用体验。