챗봇을 생성할 때 고려사항

• OpenAPI 으로 이용 시 챗 방이 유지되지 않으며 매회 프롬프트가 초기화 됨
• 한 번의 전달할 수 있는 프롬프트가 제한이 존재 하여 긴 대화나 성격 유지가 어려움

대응 방법

• DB와 Elasticsearch를 이용하여 GPT 이전에 내용을 정리 해주는 기능이 필요
• Open API 소스로 langchain 이 존재

Google Colaboratory

• 기본 패키지 설치

pip install openai (chatGPT)

pip install langchain (대화 내용을 저장 및 빠르게 조회 해주며 GPT의 프롬프트를 생성 해주는 역활)

• 단순 대화 형태
  • 프롬프트에 고정이 되는 시스템 메세지를 정의를 하고 chain.run 명령을 통해 사용자 메세지를 전달

from langchain.prompts import PromptTemplate
from langchain.chains import LLMChain

prompt = PromptTemplate(
    input_variables=["상품"],
    template="{상품} 만드는 회사 이름 추천해줘. 기억에 남는 한글 이름으로",
)

#prompt.format(상품="AI 여행 추천 서비스")

chain = LLMChain(llm=chat, prompt=prompt)

#input_variables 변수가 하나 일때
chain.run("AI 여행 추천 서비스")
#input_variables 변수가 여러개 일때
chain.run(상품="AI 여행 추천 서비스")

• 단기 기억 대화 형태
• SystemMessagePromptTemplate : 고정되는 타입 정의
• human_template : 챗 내용 입력

from langchain.chat_models import ChatOpenAI
from langchain.prompts.chat import (
    ChatPromptTemplate,
    SystemMessagePromptTemplate,
    HumanMessagePromptTemplate,
)

chat = ChatOpenAI(temperature=0)

template="You are a helpful assisstant that tranlates {input_language} to {output_language}."
system_message_prompt = SystemMessagePromptTemplate.from_template(template)
human_template="{text}"
human_message_prompt = HumanMessagePromptTemplate.from_template(human_template)

chat_prompt = ChatPromptTemplate.from_messages([system_message_prompt, human_message_prompt])

chatchain = LLMChain(llm=chat, prompt=chat_prompt)
chatchain.run(input_language="English", output_language="Korean", text="I love programming.")