1. 引言什么是个人AI Agent在人工智能技术飞速发展的今天AI Agent智能代理已成为提升个人工作效率和学习能力的重要工具。与传统的聊天机器人不同AI Agent能够理解复杂指令、自主规划任务、调用工具并执行多步骤操作真正成为你的数字助手。为什么要在个人电脑上搭建AI Agent隐私安全所有数据都在本地处理不经过第三方服务器完全可控可自定义功能、调整参数、集成个人工具离线可用即使没有网络也能使用核心功能学习价值深入了解AI技术的工作原理成本效益无需订阅云服务长期使用成本更低-隐私安全所有数据都在本地处理不经过第三方服务器完全可控可自定义功能、调整参数、集成个人工具离线可用即使没有网络也能使用核心功能学习价值深入了解AI技术的工作原理成本效益无需订阅云服务长期使用成本更低本教程将手把手教你从零开始在普通个人电脑上搭建功能完整的AI Agent系统。2. 环境准备与系统要求2.1 硬件要求最低配置CPUIntel i5 或 AMD Ryzen 5第8代及以上内存8GB RAM存储20GB可用空间显卡集成显卡即可有独立显卡可加速推荐配置CPUIntel i7 或 AMD Ryzen 7内存16GB RAM存储50GB SSD空间显卡NVIDIA GTX 1060 6GB 或更高用于GPU加速2.2 软件要求操作系统Windows 10/11、macOS 10.15 或 Ubuntu 18.04Python 3.8AI开发的基础环境Git用于获取开源项目代码Docker可选简化部署过程3. 核心组件选择与安装3.1 选择适合的AI模型对于个人电脑部署我们选择轻量级但功能强大的开源模型模型名称参数量内存需求特点Llama 3.1 8B80亿8-12GB性能均衡响应速度快Qwen2.5 7B70亿7-10GB中文优化好代码能力强Phi-3 Mini38亿4-6GB超轻量低配电脑首选3.2 安装Python环境# 1. 下载并安装Python 3.10# 访问 https://www.python.org/downloads/# 2. 验证安装python--versionpip--version# 3. 创建虚拟环境推荐python-mvenv ai_agent_env# 4. 激活虚拟环境# Windows:ai_agent_env\Scripts\activate# macOS/Linux:sourceai_agent_env/bin/activate3.3 安装核心依赖# 升级pippipinstall--upgradepip# 安装AI框架pipinstalltorch torchvision torchaudio --index-url https://download.pytorch.org/whl/cpu# 安装模型加载库pipinstalltransformers accelerate# 安装Web界面框架pipinstallgradio streamlit# 安装工具调用库pipinstalllangchain langchain-community# 安装其他工具pipinstallrequests beautifulsoup4 python-dotenv4. 搭建基础AI Agent系统4.1 项目结构创建my_ai_agent/ ├── app.py # 主应用程序 ├── config.py # 配置文件 ├── agents/ # Agent模块 │ ├── __init__.py │ ├── base_agent.py # 基础Agent类 │ └── task_agent.py # 任务执行Agent ├── tools/ # 工具库 │ ├── web_search.py # 网络搜索工具 │ ├── file_ops.py # 文件操作工具 │ └── calculator.py # 计算工具 ├── models/ # 模型文件 │ └── download_model.py └── requirements.txt # 依赖列表4.2 基础Agent实现创建agents/base_agent.pyimporttorchfromtransformersimportAutoTokenizer,AutoModelForCausalLMfromtypingimportList,Dict,AnyimportjsonclassBaseAIAgent:def__init__(self,model_name:strmicrosoft/phi-2):初始化基础AI Agentself.model_namemodel_name self.devicecudaiftorch.cuda.is_available()elsecpuprint(f使用设备:{self.device})# 加载模型和分词器self.tokenizerAutoTokenizer.from_pretrained(model_name)self.modelAutoModelForCausalLM.from_pretrained(model_name,torch_dtypetorch.float16ifself.devicecudaelsetorch.float32,device_mapautoifself.devicecudaelseNone)# 系统提示词self.system_prompt你是一个有帮助的AI助手运行在用户的个人电脑上。 请用清晰、准确的方式回答用户的问题如果不知道就说不知道。 你可以使用各种工具来帮助完成任务。defgenerate_response(self,prompt:str,max_length:int500)-str:生成回复full_promptf{self.system_prompt}\n\n用户:{prompt}\n助手: inputsself.tokenizer(full_prompt,return_tensorspt).to(self.device)withtorch.no_grad():outputsself.model.generate(**inputs,max_lengthmax_length,temperature0.7,do_sampleTrue,top_p0.9,pad_token_idself.tokenizer.eos_token_id)responseself.tokenizer.decode(outputs[0],skip_special_tokensTrue)# 提取助手回复部分responseresponse.split(助手: )[-1].strip()returnresponsedefchat(self):交互式聊天print(AI Agent已启动输入 退出 或 exit 结束对话。)print(*50)whileTrue:user_inputinput(\n你: ).strip()ifuser_input.lower()in[退出,exit,quit]:print(再见)breakifnotuser_input:continueprint(AI: ,end,flushTrue)responseself.generate_response(user_input)print(response)4.3 创建主应用程序创建app.pyfromagents.base_agentimportBaseAIAgentimportgradioasgrdefcreate_gradio_interface():创建Web界面agentBaseAIAgent()defrespond(message,history):处理用户消息responseagent.generate_response(message)returnresponse# 创建Gradio界面demogr.ChatInterface(fnrespond,title本地AI助手,description这是一个运行在你电脑上的AI Agent,themesoft)returndemoif__name____main__:print(正在启动AI Agent...)# 选择运行模式modeinput(选择模式 (1: 命令行聊天, 2: Web界面): )ifmode1:agentBaseAIAgent()agent.chat()elifmode2:democreate_gradio_interface()demo.launch(server_name0.0.0.0,server_port7860,shareFalse)else:print(启动Web界面...)democreate_gradio_interface()demo.launch(server_name0.0.0.0,server_port7860,shareFalse)5. 添加实用工具功能5.1 文件操作工具创建tools/file_ops.pyimportosimportjsonimportcsvfromtypingimportList,DictfromdatetimeimportdatetimeclassFileOperations:文件操作工具类staticmethoddefread_file(filepath:str)-str:读取文件内容try:withopen(filepath,r,encodingutf-8)asf:returnf.read()exceptExceptionase:returnf读取文件失败:{str(e)}staticmethoddefwrite_file(filepath:str,content:str)-str:写入文件try:# 确保目录存在os.makedirs(os.path.dirname(filepath),exist_okTrue)withopen(filepath,w,encodingutf-8)asf:f.write(content)returnf文件已保存:{filepath}exceptExceptionase:returnf写入文件失败:{str(e)}staticmethoddeflist_files(directory:str.,pattern:str*)-List[str]:列出目录中的文件importglob filesglob.glob(os.path.join(directory,pattern))return[os.path.basename(f)forfinfiles]staticmethoddefcreate_note(title:str,content:str)-str:创建笔记timestampdatetime.now().strftime(%Y%m%d_%H%M%S)filenamefnotes/{title}_{timestamp}.mdnote_contentf#{title}创建时间:{datetime.now().strftime(%Y-%m-%d %H:%M:%S)}{content}returnFileOperations.write_file(filename,note_content)5.2 网络搜索工具创建tools/web_search.pyimportrequestsfrombs4importBeautifulSoupfromtypingimportList,DictimportjsonclassWebSearch:简易网络搜索工具staticmethoddefsearch_duckduckgo(query:str,max_results:int5)-List[Dict]:使用DuckDuckGo搜索无需API密钥try:urlhttps://api.duckduckgo.com/params{q:query,format:json,no_html:1,skip_disambig:1}responserequests.get(url,paramsparams,timeout10)dataresponse.json()results[]# 提取摘要ifdata.get(AbstractText):results.append({title:data.get(Heading,摘要),snippet:data.get(AbstractText),url:data.get(AbstractURL,)})# 提取相关主题fortopicindata.get(RelatedTopics,[])[:max_results-1]:ifisinstance(topic,dict)andTextintopic:results.append({title:topic.get(Text,).split( - )[0],snippet:topic.get(Text,),url:topic.get(FirstURL,)})returnresults[:max_results]exceptExceptionase:return[{error:f搜索失败:{str(e)}}]staticmethoddefget_webpage_summary(url:str)-str:获取网页摘要try:headers{User-Agent:Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36}responserequests.get(url,headersheaders,timeout10)soupBeautifulSoup(response.text,html.parser)# 提取标题titlesoup.title.stringifsoup.titleelse无标题# 提取正文简易版fortagin[article,main,div.content,div.post-content]:elementsoup.select_one(tag)ifelement:textelement.get_text()[:500]returnf标题:{title}\n摘要:{text}...# 如果没有找到特定标签取前几个段落paragraphssoup.find_all(p)text .join([p.get_text()forpinparagraphs[:3]])[:500]returnf标题:{title}\n摘要:{text}...exceptExceptionase:returnf获取网页内容失败:{str(e)}5.3 增强版Agent创建agents/task_agent.pyfromagents.base_agentimportBaseAIAgentfromtools.file_opsimportFileOperationsfromtools.web_searchimportWebSearchimportjsonclassTaskAIAgent(BaseAIAgent):支持工具调用的增强版Agentdef__init__(self,model_name:strmicrosoft/phi-2):super().__init__(model_name)# 初始化工具self.file_toolsFileOperations()self.web_toolsWebSearch()# 更新系统提示词self.system_prompt你是一个运行在用户电脑上的AI助手可以调用以下工具 可用工具 1. 文件操作读取、写入、创建笔记、列出文件 2. 网络搜索搜索信息、获取网页摘要 3. 计算器执行数学计算 4. 时间日期获取当前时间、日期计算 请根据用户需求选择合适的工具如果不需要工具就直接回答。 使用工具时请用以下格式 TOOL_CALL: {tool: 工具名, params: {参数1: 值1, 参数2: 值2}} defprocess_tool_call(self,tool_call:str)-str:处理工具调用try:# 解析工具调用tool_datajson.loads(tool_call)tool_nametool_data.get(tool)paramstool_data.get(params,{})# 调用对应工具iftool_nameread_file:returnself.file_tools.read_file(params.get(filepath,))eliftool_namewrite_file:returnself.file_tools.write_file(params.get(filepath,),params.get(content,))eliftool_namecreate_note:returnself.file_tools.create_note(params.get(title,),params.get(content,))eliftool_nameweb_search:resultsself.web_tools.search_duckduckgo(params.get(query,),params.get(max_results,3))returnjson.dumps(results,ensure_asciiFalse,indent2)eliftool_nameget_webpage:returnself.web_tools.get_webpage_summary(params.get(url,))else:returnf未知工具:{tool_name}exceptjson.JSONDecodeError:return工具调用格式错误exceptExceptionase:returnf工具执行失败:{str(e)}defgenerate_response(self,prompt:str,max_length:int800)-str:生成回复支持工具调用full_promptf{self.system_prompt}\n\n用户:{prompt}\n助手: # 生成初始回复inputsself.tokenizer(full_prompt,return_tensorspt).to(self.device)withtorch.no_grad():outputsself.model.generate(**inputs,max_lengthmax_length,temperature0.7,do_sampleTrue,top_p0.9,pad_token_idself.tokenizer.eos_token_id)responseself.tokenizer.decode(outputs[0],skip_special_tokensTrue)responseresponse.split(助手: )[-1].strip()# 检查是否需要工具调用ifTOOL_CALL:inresponse:tool_call_partresponse.split(TOOL_CALL:)[-1].strip()tool_resultself.process_tool_call(tool_call_part)# 将工具结果加入上下文重新生成最终回复follow_up_promptf{full_prompt}{response}\n工具结果:{tool_result}\n助手: inputsself.tokenizer(follow_up_prompt,return_tensorspt).to(self.device)withtorch.no_grad():outputsself.model.generate(**inputs,max_length1000,temperature0.7,do_sampleTrue,top_p0.9,pad_token_idself.tokenizer.eos_token_id)final_responseself.tokenizer.decode(outputs[0],skip_special_tokensTrue)final_responsefinal_response.split(助手: )[-1].strip()returnfinal_responsereturnresponse6. 部署与优化6.1 一键启动脚本创建start_agent.batWindowsecho off echo 正在启动个人AI Agent... cd /d %~dp0 call ai_agent_env\Scripts\activate python app.py pause创建start_agent.shmacOS/Linux#!/bin/bashecho正在启动个人AI Agent...cd$(dirname$0)sourceai_agent_env/bin/activate python app.py6.2 性能优化技巧模型量化减少内存占用# 使用4位量化加载模型fromtransformersimportBitsAndBytesConfig quant_configBitsAndBytesConfig(load_
零成本搭建个人AI Agent：在本地电脑上部署免费智能助手详细教程
1. 引言什么是个人AI Agent在人工智能技术飞速发展的今天AI Agent智能代理已成为提升个人工作效率和学习能力的重要工具。与传统的聊天机器人不同AI Agent能够理解复杂指令、自主规划任务、调用工具并执行多步骤操作真正成为你的数字助手。为什么要在个人电脑上搭建AI Agent隐私安全所有数据都在本地处理不经过第三方服务器完全可控可自定义功能、调整参数、集成个人工具离线可用即使没有网络也能使用核心功能学习价值深入了解AI技术的工作原理成本效益无需订阅云服务长期使用成本更低-隐私安全所有数据都在本地处理不经过第三方服务器完全可控可自定义功能、调整参数、集成个人工具离线可用即使没有网络也能使用核心功能学习价值深入了解AI技术的工作原理成本效益无需订阅云服务长期使用成本更低本教程将手把手教你从零开始在普通个人电脑上搭建功能完整的AI Agent系统。2. 环境准备与系统要求2.1 硬件要求最低配置CPUIntel i5 或 AMD Ryzen 5第8代及以上内存8GB RAM存储20GB可用空间显卡集成显卡即可有独立显卡可加速推荐配置CPUIntel i7 或 AMD Ryzen 7内存16GB RAM存储50GB SSD空间显卡NVIDIA GTX 1060 6GB 或更高用于GPU加速2.2 软件要求操作系统Windows 10/11、macOS 10.15 或 Ubuntu 18.04Python 3.8AI开发的基础环境Git用于获取开源项目代码Docker可选简化部署过程3. 核心组件选择与安装3.1 选择适合的AI模型对于个人电脑部署我们选择轻量级但功能强大的开源模型模型名称参数量内存需求特点Llama 3.1 8B80亿8-12GB性能均衡响应速度快Qwen2.5 7B70亿7-10GB中文优化好代码能力强Phi-3 Mini38亿4-6GB超轻量低配电脑首选3.2 安装Python环境# 1. 下载并安装Python 3.10# 访问 https://www.python.org/downloads/# 2. 验证安装python--versionpip--version# 3. 创建虚拟环境推荐python-mvenv ai_agent_env# 4. 激活虚拟环境# Windows:ai_agent_env\Scripts\activate# macOS/Linux:sourceai_agent_env/bin/activate3.3 安装核心依赖# 升级pippipinstall--upgradepip# 安装AI框架pipinstalltorch torchvision torchaudio --index-url https://download.pytorch.org/whl/cpu# 安装模型加载库pipinstalltransformers accelerate# 安装Web界面框架pipinstallgradio streamlit# 安装工具调用库pipinstalllangchain langchain-community# 安装其他工具pipinstallrequests beautifulsoup4 python-dotenv4. 搭建基础AI Agent系统4.1 项目结构创建my_ai_agent/ ├── app.py # 主应用程序 ├── config.py # 配置文件 ├── agents/ # Agent模块 │ ├── __init__.py │ ├── base_agent.py # 基础Agent类 │ └── task_agent.py # 任务执行Agent ├── tools/ # 工具库 │ ├── web_search.py # 网络搜索工具 │ ├── file_ops.py # 文件操作工具 │ └── calculator.py # 计算工具 ├── models/ # 模型文件 │ └── download_model.py └── requirements.txt # 依赖列表4.2 基础Agent实现创建agents/base_agent.pyimporttorchfromtransformersimportAutoTokenizer,AutoModelForCausalLMfromtypingimportList,Dict,AnyimportjsonclassBaseAIAgent:def__init__(self,model_name:strmicrosoft/phi-2):初始化基础AI Agentself.model_namemodel_name self.devicecudaiftorch.cuda.is_available()elsecpuprint(f使用设备:{self.device})# 加载模型和分词器self.tokenizerAutoTokenizer.from_pretrained(model_name)self.modelAutoModelForCausalLM.from_pretrained(model_name,torch_dtypetorch.float16ifself.devicecudaelsetorch.float32,device_mapautoifself.devicecudaelseNone)# 系统提示词self.system_prompt你是一个有帮助的AI助手运行在用户的个人电脑上。 请用清晰、准确的方式回答用户的问题如果不知道就说不知道。 你可以使用各种工具来帮助完成任务。defgenerate_response(self,prompt:str,max_length:int500)-str:生成回复full_promptf{self.system_prompt}\n\n用户:{prompt}\n助手: inputsself.tokenizer(full_prompt,return_tensorspt).to(self.device)withtorch.no_grad():outputsself.model.generate(**inputs,max_lengthmax_length,temperature0.7,do_sampleTrue,top_p0.9,pad_token_idself.tokenizer.eos_token_id)responseself.tokenizer.decode(outputs[0],skip_special_tokensTrue)# 提取助手回复部分responseresponse.split(助手: )[-1].strip()returnresponsedefchat(self):交互式聊天print(AI Agent已启动输入 退出 或 exit 结束对话。)print(*50)whileTrue:user_inputinput(\n你: ).strip()ifuser_input.lower()in[退出,exit,quit]:print(再见)breakifnotuser_input:continueprint(AI: ,end,flushTrue)responseself.generate_response(user_input)print(response)4.3 创建主应用程序创建app.pyfromagents.base_agentimportBaseAIAgentimportgradioasgrdefcreate_gradio_interface():创建Web界面agentBaseAIAgent()defrespond(message,history):处理用户消息responseagent.generate_response(message)returnresponse# 创建Gradio界面demogr.ChatInterface(fnrespond,title本地AI助手,description这是一个运行在你电脑上的AI Agent,themesoft)returndemoif__name____main__:print(正在启动AI Agent...)# 选择运行模式modeinput(选择模式 (1: 命令行聊天, 2: Web界面): )ifmode1:agentBaseAIAgent()agent.chat()elifmode2:democreate_gradio_interface()demo.launch(server_name0.0.0.0,server_port7860,shareFalse)else:print(启动Web界面...)democreate_gradio_interface()demo.launch(server_name0.0.0.0,server_port7860,shareFalse)5. 添加实用工具功能5.1 文件操作工具创建tools/file_ops.pyimportosimportjsonimportcsvfromtypingimportList,DictfromdatetimeimportdatetimeclassFileOperations:文件操作工具类staticmethoddefread_file(filepath:str)-str:读取文件内容try:withopen(filepath,r,encodingutf-8)asf:returnf.read()exceptExceptionase:returnf读取文件失败:{str(e)}staticmethoddefwrite_file(filepath:str,content:str)-str:写入文件try:# 确保目录存在os.makedirs(os.path.dirname(filepath),exist_okTrue)withopen(filepath,w,encodingutf-8)asf:f.write(content)returnf文件已保存:{filepath}exceptExceptionase:returnf写入文件失败:{str(e)}staticmethoddeflist_files(directory:str.,pattern:str*)-List[str]:列出目录中的文件importglob filesglob.glob(os.path.join(directory,pattern))return[os.path.basename(f)forfinfiles]staticmethoddefcreate_note(title:str,content:str)-str:创建笔记timestampdatetime.now().strftime(%Y%m%d_%H%M%S)filenamefnotes/{title}_{timestamp}.mdnote_contentf#{title}创建时间:{datetime.now().strftime(%Y-%m-%d %H:%M:%S)}{content}returnFileOperations.write_file(filename,note_content)5.2 网络搜索工具创建tools/web_search.pyimportrequestsfrombs4importBeautifulSoupfromtypingimportList,DictimportjsonclassWebSearch:简易网络搜索工具staticmethoddefsearch_duckduckgo(query:str,max_results:int5)-List[Dict]:使用DuckDuckGo搜索无需API密钥try:urlhttps://api.duckduckgo.com/params{q:query,format:json,no_html:1,skip_disambig:1}responserequests.get(url,paramsparams,timeout10)dataresponse.json()results[]# 提取摘要ifdata.get(AbstractText):results.append({title:data.get(Heading,摘要),snippet:data.get(AbstractText),url:data.get(AbstractURL,)})# 提取相关主题fortopicindata.get(RelatedTopics,[])[:max_results-1]:ifisinstance(topic,dict)andTextintopic:results.append({title:topic.get(Text,).split( - )[0],snippet:topic.get(Text,),url:topic.get(FirstURL,)})returnresults[:max_results]exceptExceptionase:return[{error:f搜索失败:{str(e)}}]staticmethoddefget_webpage_summary(url:str)-str:获取网页摘要try:headers{User-Agent:Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36}responserequests.get(url,headersheaders,timeout10)soupBeautifulSoup(response.text,html.parser)# 提取标题titlesoup.title.stringifsoup.titleelse无标题# 提取正文简易版fortagin[article,main,div.content,div.post-content]:elementsoup.select_one(tag)ifelement:textelement.get_text()[:500]returnf标题:{title}\n摘要:{text}...# 如果没有找到特定标签取前几个段落paragraphssoup.find_all(p)text .join([p.get_text()forpinparagraphs[:3]])[:500]returnf标题:{title}\n摘要:{text}...exceptExceptionase:returnf获取网页内容失败:{str(e)}5.3 增强版Agent创建agents/task_agent.pyfromagents.base_agentimportBaseAIAgentfromtools.file_opsimportFileOperationsfromtools.web_searchimportWebSearchimportjsonclassTaskAIAgent(BaseAIAgent):支持工具调用的增强版Agentdef__init__(self,model_name:strmicrosoft/phi-2):super().__init__(model_name)# 初始化工具self.file_toolsFileOperations()self.web_toolsWebSearch()# 更新系统提示词self.system_prompt你是一个运行在用户电脑上的AI助手可以调用以下工具 可用工具 1. 文件操作读取、写入、创建笔记、列出文件 2. 网络搜索搜索信息、获取网页摘要 3. 计算器执行数学计算 4. 时间日期获取当前时间、日期计算 请根据用户需求选择合适的工具如果不需要工具就直接回答。 使用工具时请用以下格式 TOOL_CALL: {tool: 工具名, params: {参数1: 值1, 参数2: 值2}} defprocess_tool_call(self,tool_call:str)-str:处理工具调用try:# 解析工具调用tool_datajson.loads(tool_call)tool_nametool_data.get(tool)paramstool_data.get(params,{})# 调用对应工具iftool_nameread_file:returnself.file_tools.read_file(params.get(filepath,))eliftool_namewrite_file:returnself.file_tools.write_file(params.get(filepath,),params.get(content,))eliftool_namecreate_note:returnself.file_tools.create_note(params.get(title,),params.get(content,))eliftool_nameweb_search:resultsself.web_tools.search_duckduckgo(params.get(query,),params.get(max_results,3))returnjson.dumps(results,ensure_asciiFalse,indent2)eliftool_nameget_webpage:returnself.web_tools.get_webpage_summary(params.get(url,))else:returnf未知工具:{tool_name}exceptjson.JSONDecodeError:return工具调用格式错误exceptExceptionase:returnf工具执行失败:{str(e)}defgenerate_response(self,prompt:str,max_length:int800)-str:生成回复支持工具调用full_promptf{self.system_prompt}\n\n用户:{prompt}\n助手: # 生成初始回复inputsself.tokenizer(full_prompt,return_tensorspt).to(self.device)withtorch.no_grad():outputsself.model.generate(**inputs,max_lengthmax_length,temperature0.7,do_sampleTrue,top_p0.9,pad_token_idself.tokenizer.eos_token_id)responseself.tokenizer.decode(outputs[0],skip_special_tokensTrue)responseresponse.split(助手: )[-1].strip()# 检查是否需要工具调用ifTOOL_CALL:inresponse:tool_call_partresponse.split(TOOL_CALL:)[-1].strip()tool_resultself.process_tool_call(tool_call_part)# 将工具结果加入上下文重新生成最终回复follow_up_promptf{full_prompt}{response}\n工具结果:{tool_result}\n助手: inputsself.tokenizer(follow_up_prompt,return_tensorspt).to(self.device)withtorch.no_grad():outputsself.model.generate(**inputs,max_length1000,temperature0.7,do_sampleTrue,top_p0.9,pad_token_idself.tokenizer.eos_token_id)final_responseself.tokenizer.decode(outputs[0],skip_special_tokensTrue)final_responsefinal_response.split(助手: )[-1].strip()returnfinal_responsereturnresponse6. 部署与优化6.1 一键启动脚本创建start_agent.batWindowsecho off echo 正在启动个人AI Agent... cd /d %~dp0 call ai_agent_env\Scripts\activate python app.py pause创建start_agent.shmacOS/Linux#!/bin/bashecho正在启动个人AI Agent...cd$(dirname$0)sourceai_agent_env/bin/activate python app.py6.2 性能优化技巧模型量化减少内存占用# 使用4位量化加载模型fromtransformersimportBitsAndBytesConfig quant_configBitsAndBytesConfig(load_
