提示词相干

一、提示词模板

目的：

• 相识提示词模板的作用
  
• 相识提示词模板的使用方式
  

先容
LangChain的提示词模板引擎（Prompt Template Engine）是核心组件之一，重要用于构建和管理与大预言模子交互的提示词。
作用是 将用户的输入或动态数据结构化嵌入到预界说的模板中，从而天生适当模子处理惩罚的提示词，提拔输出的准确性和同等性。
示例

1. from langchain_community.llms import tongyi
2. from langchain.prompts import PromptTemplate
3. # ==================== 配置 ====================
4. key = "your key"#替换为个人申请的api_key
5. llm = tongyi.Tongyi(api_key=key)
6. # 定义模板
7. tempalte = '你是一个{role},请用{style}风格回答{question}'
8. #创建模板对象
9. prompt_template = PromptTemplate.from_template(tempalte)
10. #变量填充
11. filled_prompt = prompt_template.format(role='数学老师',style='通俗易懂',question='勾股定理是什么？')
12. #模型回答
13. response = llm.invoke(filled_prompt)
14. print(response)

复制代码

二、输特别式化

1. from langchain_community.llms import tongyi
2. from langchain.output_parsers import StructuredOutputParser,ResponseSchema
3. from langchain.prompts import PromptTemplate
5. # ==================== 配置 ====================
6. key = "your key"#替换为个人申请的api_key
7. llm = tongyi.Tongyi(api_key=key)
9. #定义输出结构
10. response_schemas = [
11.     ResponseSchema(name='name',description='人的姓名',type='string'),
12.     ResponseSchema(name='age',description='人的年龄',type='integer')
13. ]
14. #创建输出解析器
15. output_parser = StructuredOutputParser.from_response_schemas(response_schemas)
17. #创建提示模板，包含格式化指令
18. template = """你是一个信息提取助手，请从以下文本中提取姓名和年龄，并以JSON格式返回：
19. 文本:{input_text}
20. {format_instructions}"""
22. prompt = PromptTemplate(
23.     template=template,
24.     partial_variables={"format_instructions":output_parser.get_format_instructions()}
25. )
27. #填充输入
28. input_text = "张三今年25岁，来自北京。"
29. filled_prompt = prompt.format(input_text=input_text)
31. #获取响应
32. response = llm.invoke(filled_prompt)
33. parsed_output = output_parser.parse(response)
34. print(parsed_output)

复制代码

示例-对象

1. from langchain.output_parsers import PydanticOutputParser
2. from pydantic import BaseModel,Field
3. from langchain_community.llms import tongyi
4. from langchain.prompts import PromptTemplate
6. # ==================== 配置 ====================
7. key = "your key"#替换为个人申请的api_key
8. llm = tongyi.Tongyi(api_key=key)
10. #定义输出模板，Person对象
11. class Person(BaseModel):
12.     name:str = Field(description="name of a person")
13.     age:int = Field(description="age of a person")
15. #创建输出解析器
16. output_parser = PydanticOutputParser(pydantic_object=Person)
18. #创建提示模板
19. template = """你是一个信息提取助手，请从以下文本中提取姓名和年龄，并以Person格式返回：
20. 文本:{input_text}
21. {format_instructions}"""
23. prompt = PromptTemplate(
24.     template=template,
25.     partial_variables={"format_instructions":output_parser.get_format_instructions()}
26. )
28. #填充输入
29. input_text = "张三今年28岁，来自北京。"
30. filled_prompt = prompt.format(input_text=input_text)
32. #获取响应
33. response = llm.invoke(filled_prompt)
34. parsed_output = output_parser.parse(response)
35. print(parsed_output)

复制代码

三、链式调用

目的：

• 相识什么是链式调用
  
• 相识怎样使用链式调用
  

先容
LLMChain是一个核心对象，用于实现基于LLM的链式调用。
它将提示词模板、语言模子以及可选的输出表明器组合在一起，形成一个可重复实行的流程，简化了与LLM的交互。
LLMChain的核心组件：
1.PromptTemplate:

• 界说提示词的模板，包罗占位符，用于动态天生提示词。
  

2.LLM：

• 大语言模子，根据提示词天生输出。
  

3.OutputParser(可选)：

• 用于将LLM的原始文本输出分析为结构化格式。
  

4.Memory(可选)：

• 可集成上下文影象，支持对话汗青管理。
  

示例

1. from langchain_community.llms import tongyi
2. from langchain.output_parsers import StructuredOutputParser,ResponseSchema
3. from langchain.prompts import PromptTemplate
4. from langchain.chains import LLMChain
6. # ==================== 配置 ====================
7. key = "your key"#替换为个人申请的api_key
8. llm = tongyi.Tongyi(api_key=key)
10. #定义输出结构
11. response_schemas = [
12.     ResponseSchema(name='answer',description='问题的答案',type='string'),
13.     ResponseSchema(name='confidence',description='答案的置信度',type='float')
14. ]
15. #创建输出解析器
16. output_parser = StructuredOutputParser.from_response_schemas(response_schemas)
18. #创建提示模板
19. template = """你是一名数学老师，请用{style}风格回答以下问题，并以JSON格式返回答案和置信度：
20. 问题:{question}
21. {format_instructions}"""
23. prompt = PromptTemplate(
24.     template=template,
25.     partial_variables={"format_instructions":output_parser.get_format_instructions()}
26. )
28. #创建LLMChain-写法进行警告，最终使用了最新的写法
29. # llm_chain = LLMChain(llm=llm,prompt=prompt,output_parser=output_parser)
30. #
31. # #运行链
32. # response = llm_chain.run({
33. #     'style':'通俗易懂',
34. #     'question':'勾股定理是什么'
35. # })
36. chain = prompt|llm|output_parser
37. response = chain.invoke({
38.     'style':'通俗易懂',
39.     'question':'勾股定理是什么'
40. })
41. print(response)

复制代码

四、流式输出

对比维度	非流式（平凡）	流式（Stream）
返回方式	等候完备复兴后一次性返回	天生一个字符就返回一个字符
用户体验	长时间等候后忽然看到大段笔墨	像打字机一样逐字出现
首字耽误	便是总相应时间	极短（几十毫秒）
实用场景	批量处理惩罚、自动化	对话交互、实时反馈

示例

1. from langchain_community.llms import tongyi
2. from langchain.output_parsers import StructuredOutputParser,ResponseSchema
3. from langchain.prompts import PromptTemplate
5. # ==================== 配置 ====================
6. key = "your key"#替换为个人申请的api_key
7. llm = tongyi.Tongyi(api_key=key)
9. #定义输出结构
10. response_schemas = [
11.     ResponseSchema(name='answer',description='问题的答案',type='string'),
12.     ResponseSchema(name='confidence',description='答案的置信度',type='float')
13. ]
14. #创建输出解析器
15. output_parser = StructuredOutputParser.from_response_schemas(response_schemas)
17. #创建提示模板
18. template = """你是一名数学老师，请用{style}风格回答以下问题，并以JSON格式返回答案和置信度：
19. 问题:{question}
20. {format_instructions}"""
22. prompt = PromptTemplate(
23.     template=template,
24.     partial_variables={"format_instructions":output_parser.get_format_instructions()}
25. )
27. #创建LLMChain--写法进行警告，最终使用了最新的写法
28. # llm_chain = LLMChain(llm=llm,prompt=prompt,output_parser=output_parser)
29. #
30. # #运行链
31. # response = llm_chain.run({
32. #     'style':'通俗易懂',
33. #     'question':'勾股定理是什么'
34. # })
35. chain = prompt|llm
36. #流式输出
37. chunks = []
38. for chunk in chain.stream({
39.     'style':'通俗易懂',
40.     'question':'勾股定理是什么'
41. }):
42.     chunks.append(chunk)#存储每次的输出结果
43.     print(chunk,end='',flush=True)

复制代码