[2024/07/21/일] 모델 성능 향상을 위한 시도2

[zlwmxkdla]

🔶모델 성능 향상을 위한 방법

1. Rag 활용
2. 추가적인 데이터 학습

🔶 Rag가 적절한가?

Rag(Retrieval-Augmented Generation)란?

Rag는 모델이 응답을 만들어내기 전에 외부의 지식 베이스를 참조하는 과정입니다. LLM이 챗봇에 많이 사용되기 때문에 특정 상황을 위한 챗봇을 만들 때 해당 상황에 대한 지식이 필요하게 되는데 그 지식을 참조할 곳이 필요하기 때문에 Rag가 사용됩니다.

처음에는 Rag가 성능을 높여줄 수 있다고 들어서 당연히 사용해야지 했는데
Rag는 모델을 훈련하는 게 아니라 pdf 파일, 문서를 준비해 놓고 질문을 던졌을 때 그 질문에 대한 답을 pdf 파일, 문서에서 찾는 것이기 때문에 저희랑 적합하지 않다고 판단했습니다. 그 이유는 일단 저희가 참조할 수 있는 역할놀이 데이터 파일이 없습니다. '역할놀이 대본' 등과 같은 걸로 찾아보긴 했지만 나오는게 많이 없었습니다. 그리고 만든다고 해도 그러면 초기에 만들었던 csv파일 구축이랑 차이점이 거의 없는 것 같습니다.

만약에 역할놀이와 관련한 문서를 찾아서 Rag를 활용할 수 있는 상황이 되었다면?

Rag를 활용할 수 있는 문서를 발견하였다면 해당 문서를 가지고 모델을 훈련시켜야 할 것 같습니다. 근데 문서를 바로 훈련시킬 수 없기 때문에 훈련 가능한 형태인 (질문 , 응답) 형식으로 만들어야 하는데 이 과정은 LangChain으로 이용해야 한다고 합니다.