Skip to content

About

嘉立创EDA专业版扩展:基于本地Embedding模型的RAG知识库。EasyEDA Pro Extension: The local RAG knowledge base based on an embedding model.

Topics

Resources

Stars

5 stars

Watchers

0 watching

Forks

Repository files navigation

AI 本地知识库

English

基于 LangChain.js 的 RAG 智能问答助手。 导入 Markdown 文档构建知识库,提问时自动检索相关内容,通过 AI 模型生成回答。

功能

✅ 支持 Chat 和 Embedding API,也可独立选择本地模型进行知识库问答

alt text

✅ 支持本地向量模型,可完成知识库内容的快速关键词检索

alt text

✅ 支持本地通用模型+向量模型,实现根据知识库内容问答

alt text

✅ 集成prodocs.lceda.cn全部文档,遇到问题随问随答

alt text

本地模式说明

alt text

模型类型说明

扩展基于Transformers.js库构建,支持ONNX模型。首次运行默认会从镜像站在线拉取ONNX模型,若镜像站无法拉取,也可通过本地导入ONNX模型文件夹(可从HuggingFace或魔塔社区获取ONNX模型源文件,本地导入时直接选择源文件夹即可自动解析),导入后文件会存入浏览器缓存,建议导入时只选择需要使用的模型文件,避免占用空间。

向量模型说明

扩展仅随包提供内置文档文本,不包含预构建向量,构建 .eext 时也不会下载 Embedding 模型或计算向量。首次使用时,配置好 Embedding 模型并在助手中点击“开始构建”,为全部有效的内置文档和用户导入文档构建完整向量;忽略或删除的文档不参与构建。在线、本地镜像和导入模型均使用同一构建流程,向量分块保存在本地,支持中断续建。再次打开插件时自动加载当前模型的已有缓存,只补算缺失片段;切换到无缓存的模型时需要重新构建。即使维度相同,不同模型的向量也不能混用。

LLM模型说明

LLM模型推荐使用大于4B参数的模型才会有良好体验,需要注意的是本地LLM运行会占用大量内存,确保电脑有足够内存用于推理,建议使用在线模型,也可使用ollama等框架本地部署后使用openai格式的api接入。

其他说明

  1. 若计划完全使用本地模型会对电脑配置要求较高,建议多核,超线程,高主频,大内存的设备。
  2. 本地模型使用前会读取缓存,加载onnx,分配内存和初始化WASM,因此首次使用需要一些准备时间,受限于主机性能和模型参数,可能会有卡顿是正常现象。

安装

使用方法

1.在"高级"-"扩展管理器"中导入eext-knowledge-base.eext扩展文件。 alt text

2.在"配置"中开启"允许外部交互"选项 alt text

3.进入原理图或PCB界面,点击顶部导航栏"高级"-"AI 知识库"选择需要的功能即可。 alt text

致谢

About

嘉立创EDA专业版扩展:基于本地Embedding模型的RAG知识库。EasyEDA Pro Extension: The local RAG knowledge base based on an embedding model.

Topics

Resources

Stars

5 stars

Watchers

0 watching

Forks

Releases

Packages

Contributors

Languages