基于GPT

本文引见如何应用GPT-4o-mini模型和LangChain框架,构建一款能够迅速响运行户查问的AI搜查智能体。文章以一个详细疑问为例,展现智能体的高效性能和老本效益。

1 智能体性能实例

以查问What year was IBM founded and in what year was Apple founded?疑问为例,智能体不只能够极速给出答案,而且在老本效益上也极具长处:仅消耗165个token,破费0.0000594美元,同时照应速度极快,首个token的照应期间仅为1,389毫秒。

这里智能体装备了工具——Tavily API,专门用于网络数据检索。

详细性能:tools = [TavilySearchResults(max_results=1)]

2 基本设置

接上去展现如何在Python代码中设置LangSmith集成。首先,须要从LangSmith控制台失掉LangChain的API密钥。至于名目称号,可以依据团体喜好自在命名。

import osfrom uuid import uuid4unique_id = uuid4().hex[0:8]os.environ["LANGCHAIN_TRACING_V2"] = "true"os.environ["LANGCHAIN_PROJECT"] = "OpenAI_SM_Agent_1"os.environ["LANGCHAIN_ENDPOINT"] = "https://api.smith.langchain.com"os.environ["LANGCHAIN_API_KEY"] = "<LangSmith API Key Goes Here>"

须要参与 OpenAI 和 Tavily 网络搜查 API 密钥。

os.environ["OPENAI_API_KEY"] = getpass.getpass()os.environ["TAVILY_API_KEY"] = getpass.getpass()

模型设置为:

llm = ChatOpenAI(model="gpt-4o-mini")

3 LangSmith

在LangSmith平台上,可以访问名为"OpenAI_SM_Agent_1"的名目。在这个名目中,可以检查到总共五次的运转记载。假设选用检查初次运转的概略,系统会展现出该运转环节中的每一个步骤,包含每一步的操作细节、所需费用、以及成功操作的期间长短。

LangSmith平台不只支持创立数据集,还支持对输入结果启动注释,标志为正确或失误。此外,它还能智能启动评价,以验证结果的准确性。

4 智能体口头

智能体会将用户提出的复杂疑问拆解为若干个子疑问,逐个给出解答。

这段代码示范了如何性能并运行OpenAI的言语模型(LLM),特意是经过LangChain框架的辅佐,并整合了Tavily搜查工具来优化消息检索的效率。

网络搜查LangChain智能体:

## 装置必要的包pip install -qU langchain-openai langchain langchain_community## 导入所需的模块import getpassimport os## 设置API密钥的环境变量os.environ["OPENAI_API_KEY"] = getpass.getpass()os.environ["TAVILY_API_KEY"] = getpass.getpass()## 初始化OpenAI LLMfrom langchain_openai import ChatOpenAIllm = ChatOpenAI(model="gpt-4o-mini")## 导入必要的LangChain组件from langchain.agents import AgentExecutor, create_tool_calling_agentfrom langchain_community.tools.tavily_search import TavilySearchResultsfrom langchain_core.prompts import ChatPromptTemplate## 设置Tavily搜查工具tools = [TavilySearchResults(max_results=1)]## 创立聊天揭示模板prompt = ChatPromptTemplate.from_messages([("system","You are a helpful assistant. Make sure to use the tavily_search_results_json tool for information.",),("placeholder", "{chat_history}"),("human", "{input}"),("placeholder", "{agent_scratchpad}"),])## 构建智能体agent = create_tool_calling_agent(llm, tools, prompt)## 创立智能体口头器,并传入智能体和工具agent_executor = AgentExecutor(agent=agent, tools=tools, verbose=True)## 调用智能体口头器agent_executor.invoke({"input": "What year was IBM founded and in what year was Apple founded?"})

智能体的输入结果会明晰展现两个查问:“year IBM founded”和“year Apple founded”。最终,这些查问的答案与网络上的参考消息启动了整合。

总之,代码经常使用LangChain框架设置了一个基于LLM的代理,集成了一个自定义搜查工具,并用其来回答特定的查问。

5 技术长处总结

GPT-4o-mini的长处剖析:

GPT-4o-mini的长处亮点:

本文转载自​​,作者:

您可能还会对下面的文章感兴趣: