langchain中LLM模型使用完整指南

平时做技术实践时，很多问题不是概念不会，而是细节没串起来。拿“langchain中LLM模型采用”来说，它看着像小点，放到项目里常会牵出环境、配置、兼容性和维护成本。下面按实际采用顺序，把思路、关键写法和容易踩坑的地方讲清楚，便于大家直接对照操作。

简介

实际处理时，构建在大语言模型基础上的应用通常有两种，第一种叫做text completion,也就是一问一答的模式，输入是text，输出也是text。这种模型下应用同时不会记忆之前的问题内容，每一个问题都是最新的。通常用来做知识库。

从实现思路看，还有一种是类似聊天机器人这种会话模式，也叫Chat models。这种模式下输入是一个Chat Messages的列表。从而能够保存上下文信息，让模型的回复更加真实。

理解这一步时，实际上Chat models的底层还是LLMs,只不过在调用方式上有些变化。

轻松采用LLMs

落到代码里，什么是LLMs呢？LLMs是Large Language Models的简称，也就是我们常说的大语言模型。

理解这一步时，对于langchain来说，它本身同时不提供大语言模型，它只是一个中间的粘合层，提供了统一的接口，便于我们对接底层的各种LLMs模型。

结合项目来看，langchain除了能够对接OpenAI之外，还能够对接Cohere, Hugging Face等其他的大语言模型。

比如下面是openAI的采用：

from langchain.llms import OpenAI
llm = OpenAI(openai_api_key="...")

下面就能够调用llm的方法来进行text completion了。

一般来说有两种方式。第一种方式就是直接输出：

llm("给我写首诗")

还有一种方式调用他的generate方法：

llm_result = llm.generate(["给我唱首歌", "给我写首诗"])

这种方式能够传入一个数组，用来生成比较复杂的结果。

langchain兼容的LLM

现在大语言模型可谓是蓬勃发展，一不留神就可能出一个新的大语言模型。

就目前而言，基本的国外主流模型langchain都是兼容的。

比如：openai,azure openai,AmazonAPI,Hugging Face Hub等等。数目繁多，功能齐全,你想要的他全都有，你没想到的他也有。

理解这一步时，那么有小伙伴可能要问题了，langchain支不兼容国产的大语言模型呢？

答案是肯定的，但并不是直接的。

结合项目来看，若你发现langchain同时没有你想要的llm，那么你能够尝试进行自定义。

在这个场景下，langchain为我们提供了一个类叫做LLM，我们只需继承这个LLM即可：

class LLM(BaseLLM):
    @abstractmethod
    def _call(
        self,
        prompt: str,
        stop: Optional[List[str]] = None,
        run_manager: Optional[CallbackManagerForLLMRun] = None,
    ) -> str:
        """Run the LLM on the given prompt and input."""

实际处理时，其中，唯一一个必须要实现的方法就是_call,这个方法传入一个字符串和一些可选的stop word，随后得到LLM的输出即可。

在这个场景下，另外还能够完成一个_identifying_params方法，用来输出自定义LLM的一些参数信息。

大家能够自行尝试和接入不同的LLM模型。

一些特殊的LLM

实际处理时，很多时候调用LLM是需收费的，如果我们在开发的过程中也要不断的消耗token肯定是得不偿失。

所以langchain为了给我们省钱，提供了一个FakeLLM来采用。

理解这一步时，顾名思义，FakeLLM就是能够手动来mock一些LLM的回答，便于测试。

from langchain.llms.fake import FakeListLLM
responses = ["窗前明月光n低头鞋两双"]
llm = FakeListLLM(responses=responses)
print(llm("给我写首诗"))

上面的输出结果如下所示：

窗前明月光
低头鞋两双

在这个场景下，langchain中还有一个和FakeLLM类似的叫做HumanInputLLM。

理解这一步时，这个LLM能够打印出给用户的prompt，同时且将用户的输入作为输出得到给用户，大家能够自行体验。

LLM的高级用法

理解这一步时，除了正常的LLM调用之外，langchain还提供了一些LLM的高级用法。

异步调用

从实现思路看，比如异步调用LLM。当然目前只兼容OpenAI, PromptLayerOpenAI, ChatOpenAI 和 Anthropic这几个LLM。其他的对LLM的兼容貌似正在开发中。

从实现思路看，异步方法也很轻松，主要是调用llm的agenerate方法,比如下面这样：

async def async_generate(llm):
    resp = await llm.agenerate(["Hello, how are you?"])
    print(resp.generations[0][0].text)

缓存功能

理解这一步时，另外，对于一些重复的请求来说，langchain还提供了缓存功能，这样能够重复的请求就不需再发送到LLM去了，给我们节约了时间和金钱，很好用。

在这个场景下，langchain提供的cache也有很多种，比如InMemoryCache,FullLLMCache,SQLAlchemyCache,SQLiteCache和RedisCache等等。

我们以InMemoryCache为例，看看是怎么采用的：

from langchain.cache import InMemoryCache
langchain.llm_cache = InMemoryCache()
# 第一次没有使用缓存
llm.predict("Tell me a joke")
# 第二次使用了缓存
llm.predict("Tell me a joke")

采用起来很轻松，只需添加一行llm_cache即可。

若你采用其他的cache，除了构造函数不同之外，其他的都是类似的。

保存LLM设置

从实现思路看，有时候我们设置好了LLM之外，还能够把LLM相关的参数以文本的形式存储起来。

保存llm到文件：

llm.save("llm.json")

加载llm：

llm = load_llm("llm.json")

流式处理

在这个场景下，LLM的速度是一个硬伤，由于得到整个响应的速度太慢了，所以推出了流式响应。只要有response得到，就传输给用户。同时不需等待所有内容都获得之后再处理。这样对用户的体验是最好的。

结合项目来看，目前langchain只兼容OpenAI,ChatOpenAI和ChatAnthropic。

落到代码里，要实现这个流式处理， langchain提供了BaseCallbackHandler，我们只需继承这个类，实现on_llm_new_token这个方法即可。

从实现思路看，当然langchain已经给我们提供了一个实现好的类叫做：StreamingStdOutCallbackHandler。下面是他的实现：

def on_llm_new_token(self, token: str, **kwargs: Any) -> None:
        sys.stdout.write(token)
        sys.stdout.flush()

采用的时候，只需在构建llm的是传入对应的callback即可：

from langchain.llms import OpenAI
from langchain.callbacks.streaming_stdout import StreamingStdOutCallbackHandler
llm = OpenAI(streaming=True, callbacks=[StreamingStdOutCallbackHandler()], temperature=0)
resp = llm("给我写首诗")

统计token数目

这个统计token采用数目的功能目前只能在openai采用。

from langchain.llms import OpenAI
from langchain.callbacks import get_openai_callback
llm = OpenAI(model_name="text-davinci-002", n=2, best_of=2)
with get_openai_callback() as cb:
    result = llm("T给我写首诗")
    print(cb)

总结

实际处理时，LLM是大语言模型最基础的模式，chat模式的底层就是基于LLM实现的。后续我们会详细说明chat模式，尽请期待。

更多关于langchain LLM模型的资料请关注脚本之家其它相关文章！