한빛미디어의 'AI에이전트 마스터 클래스' 내용의 일부를 정리했습니다.
1. 프롬프트
프롬프트를 랭체인 문법에 맞춰 작성하는 방법
1. PromptTemplate.from_template()
langchain_core 패키지의 prompts 모듈로부터 Prompt Template 객체를 가져오는 법
from langchain_core.prompts import PromptTemplate
prompt = PromptTemplate.from_template("{topic}에 대해 {level} 수준으로 설명해 주세요.")
print(prompt)
"""
input_variables=['level', 'topic'] input_types={} partial_variables={} template='{topic}에 대해 {level} 수준으로 설명해 주세요.'
"""
2. PromptTemplate
from_template 메서드 없이 promptTemplate를 직접 사용하는 방법
- input variables: template에 작성한 입력 변수({topic}, {level})를 리스트ust 형태로 작성
- partial_variables: 특정 변수의 값을 미리 지정할 때 사용
from langchain_core.prompts import PromptTemplate
prompt = PromptTemplate(
template= "{topic}에 대해 {level} 수준으로 설명해 주세요",
input_variables=["topic", "level"],
partial_variables={
"topic": "양자역학"
}
)
"""
input_variables=['level'] input_types={} partial_variables={'topic': '양자역학'} template='{topic}에 대해 {level} 수준으로 설명해 주세요.'
"""
3. ChatPromptTemplate
from langchain_core.prompts import ChatPromptTemplate
prompt = ChatPromptTemplate([
("system", "당신은 강아지 안구 건강 관련 조언을 해주는 AI 첫봇입니다."),
("human", "안녕하세요! 저희 집 강아지가 눈을 자주 굵어요"),
("ai", "그렇군요. 사용자님의 강아지는 몇 살인가요?"),
("human", "(user_input]"),
])
chain = prompt | model | output_parser
chain.invoke({"user input" : "3살이에요"})
"""
답변 예시:
3살 강지가 눈을 자주 굵는다면 눈 건강에 문제가 있을 수 있습니다. 명 가지 가능한 이 유가 있을 수 있지만, 가장 흔한 이유는 다음과 같습니다: .(후략)
"""ChatpromptTemplate에 리스트로 시스템 메시지(개발자가 사전에 정의한 LLM의 역할)와 사용자와 AI가 나눈 대화를 사용자 메시지(human message) 와 AI 메시지(AI message)로 미리 작성하여 대회 의 맥락을 주입합니다. 또한, 사용자가 입력할 질문을 전달받을 입력 변수({user_input})도 추가합니다. 이후, invoke 메서드를 호출하면 이전 대화 맥락을 참고하여 답변을 생성할 수 있습니 다. 사용법이 다소 복잡해 보일 수 있으나, LIM 모델에게 장기간 대화 맥락을 전달할 수 있는 강력한 기능을 제공합니다.
2. 모델
from langchain_openai import ChatOpenAI
# from langchain_anthropic import ChatAnthropic
model = ChatOpenAI(model-"gpt-5.4-nano")
# model = ChatAnthropic(model="claude-haiku-4-5")
model= ChatOpenAI(
model-"gpt-5.4-nano",
temperature=0.8,
max_tokens=2048,
max_retries=2
)• model: 오픈AI에서 제공하는 여러 LLM 모델 중 특정 모델을 지정합니다.
• temperature: 생성되는 텍스트의 다양성을 조절하는 매개변수입니다. 낮은 값(예: 0.2)은 더 결정적이고 일관된 출력을 생성하는 반면. 높은 값(예: 0.8)은 더 창의적이고 다양성이 높은 출력을 생성합니다.
◦ max_tokens: 모델이 생성할 수 있는 최대 토큰 수를 지정합니다.
• max_retries: 모델 호출이| 실패할 경우 재시도 횟수를 지정합니다.
3. 출력 파서
랭체인은 Str, JSON, CSV 등 다양한 데이터 포멧 파서를 지원합니다.
StrOutputParser를 제외한 다은 파서들을 사용할 때는, 프롬프트에 모델이 해당 포멧에 맞게 답변을 생성하도록 지침을 명시해야 합니다. 이 지침은 get_format_instructions 메소드를 통해 얻을 수 있으며, 이를 프롬프트의 partial_variables에 담아 전달합니다.
output_parser = StrOutputParser()
from Langchain_core.output_parsers import JsonOutputParser
outout_parser = JsonOutputParser()
format_instructions = output_parser.get_format_instructions()
print (format_instructions)
prompt = PromptTemplate(
template=template,
partial_variables={
"format": format_instructions #"JSON 형태로 답변하시오"
},
)
from langchain_core.output_parsers import CommaSeparatedListOutputParser
#파서 초기화
output_parser = CommaSeparatedListOutputParser()
format_instructions = output_parser.get_format_instructions()
print(format_instructions)
template = """
당신은 K-POP 정보를 제공하는 AI입니다. 그룹의 멤버 이름을 말해주세요.
K-POP Group: {name}
FORMAT :
{format}
"""
prompt = PrompTemplate(
template=template,
partial_variables = {
"format" : format_instructions
},
)
model = ChatopenAI(model_name-"gpt-5.4-nano")
chain = prompt| model|output-parser
result = chain. invoke({"name" : "블랙핑크"})
prompt = PromptTemplate(
template=template,
partial_variables ={
"format": """
Return a JSON object like this:
{
"answer" : "질문에 대한 답변을 작성합니다"
"source" : "답변 생성에 활용한 출처를 작성합니다."
}
"""
},
)
chain = prompt|model|output_parser
result = chain.invoke({"name" : "블랙핑크"})
print('출력 결과 : ', result)하지만 이조차도 완전히 안전한 해결 방법은 아닙니다. 반복적으로 코드를 실행하면 키는 포함하지만 구조는 일관되지 않는 한계가 있습니다. 이때. 모델의 답변을 제어하기 위해 pydantic 모듈을 활용할 수 있습니다.
4. 랭체인 허브
langchain에서 hub 모듈을 import한 뒤. hub.pull 미서드에 해당 프콤프트 이름(hard kothari/prompt-maker )을 입력합니다.
invoke 메서드 호출 시 해당 프롬 프트가 필요로 하는 2개의 입력 변수({task}, {lazy_prompt})를 전달하면 개선된 프롬프트가 만들어집니다.
# Create a LANGSNITH_API_KEY in Settings > API Keys
from langsmith import Client
client = Client(api_key=LANGSMITH_API_KEY)
prompt = client.pull_prompt("hardkothari/prompt-maker", include_model=True)
prompt # 객체 확인
chain = prompt | ChatOpenAI() | StrOutputParser()
task ="""
반드시 한글로 작성되어야 합니다.
사용자의 질문을 읽고, 핵심 키워드를 파악해 전문 지식이 있는 사람의 질문으로 변경해 주세요.
더 체계적이고, 단계적인 질문이 될 수 있도록 변경하세요.
사용자의 질문에서 벗어나서는 안됩니다.
"""
lazy_prompt = "강아지 눈이 좀 이상해요"
improved_prompt = chain.invoke({"task" : task, "lazy_prompt" : lazy_prompt})
print(imcroved_prompt) # 개선된 프롬프트 확인