Local LLM Notepad Local LLM Notepad Local LLM Notepad

Local LLM Notepad

Local LLM Notepad是一款开源的、离线即插即用的应用程序，旨在实现大型语言模型在任意Windows电脑上的本地运行，无需安装、互联网、API、云服务、GPU或管理员权限，通过双击即可启动。其核心亮点在于极致的便携性，仅需将一个独立的.exe文件和.gguf模型放在U盘上即可在任何PC上运行。该项目提供简洁的双面板用户界面，支持模型回复中的源词自动加粗下划线以便追溯，并允许保存和加载聊天记录。此外，它内置Llama.cpp以实现CPU优先的广泛兼容性，并提供丰富的快捷键以优化用户交互，例如发送、停止生成、查找、清空聊天历史及编辑系统提示等功能。