1.1 llama.cpp 编译

llama.cpp 更新太快当前下载 llama.cpp-b7907.tar.gz 进行学习。编译环境选择在windows 11下采用mingw.环境如下:软件版本说明windowswin11操作系统llama.cppb7907llama.cppmingw6415.2支持c23编译过程解压llama.cpp,在解压文件中创建一个build目录进入build目录执行cmake命令进行配置接着执行make命令进行编译之后进行make install 进行安装。整个过程我整合成一个bat文件双击即可执行对应流程。echo Compile llama.cpp set pathD:\tool_lite\mingw64_152\bin;%path% cd llama.cpp-b7907 mkdir build cd build cmake -G MinGW Makefiles ^ -DCMAKE_C_COMPILERgcc ^ -DCMAKE_CXX_COMPILERg ^ -DCMAKE_INSTALL_PREFIXE:\workspace\llama\llama.cpp_install ^ .. mingw32-make install REM VERBOSEON cmd编译后自动安装到指定目录如下图运行测试未报错打印版本版本为0模型测试我下载一个模型名字: unsloth_Llama-3.2-3B-Instruct-GGUF_Llama-3.2-3B-Instruct-Q4_K_M.gguf大小1.87GB 进行测试参照网上建议编写一个简单bat脚本启动测试脚本内容如下set pathD:\tool_lite\mingw64_152\bin;E:\workspace\llama\llama.cpp_install\bin;%path% set modelunsloth_Llama-3.2-3B-Instruct-GGUF_Llama-3.2-3B-Instruct-Q4_K_M.gguf llama-cli.exe -m %model% ^ -n -1 ^ --color on ^ -r User cmd运行效果如下,我在源码目录下tools/cli.cpp 231行添加打印:测试交互如下这一节到这里结束