llama fine tuning 방법 #1 – gguf 파일 변환과 Ollama 모델 생성
오늘부터는 연속하여 llama fine tuning(라마 모델 파인 튜닝)에 대해 이야기해 보려 합니다. 특히 llama fine tuning을 위한 사전 작업과 튜닝 과정을 자세하게 다뤄볼 예정입니다. 지금까지 llama 3.1, llama 3.2를 설치하고 …
Llama 3.2 3b 와 Llama 3.1 8b 비교, 변화와 성능 차이
며칠 전 Meta에서 Llama 3.2를 발표했습니다. Llama 3.1을 발표한지 얼마 되지도 않았는데, 또 다른 버전이 발표했습니다. Meta가 상당히 적극적으로 움직이고 있는 모양새입니다. 이번 발표한 Llama3.2는 어떤 변화가 있는지 알아보고 발표된 …
랭체인(LangChain)으로 Llama 3.1의 능력 향상하기 – 2nd
랭체인(LangChain)으로 라마(llama 3.1)의 능력을 높이는 방법, 오늘은 그 두 번째 이야기로, 프롬프트 체이닝 (Prompt Chaining)에 대해 설명해 보고자 합니다. 랭체인(LangChain)으로 Llama 3.1의 능력 향상하기 지난 글에서는 랭체인을 이용하여 라마와 주고 …
LangChain으로 Llama 3.1 AI 모델의 자연어 처리 능력 향상하기
오늘은 LangChain을 이용해서 llama 3.1의 부족한 부분을 보완하는 기능을 구현해 보도록 하겠습니다. 물론, LangChain의 개념과 특징에 대해서도 당연히 정리해 보도록 하겠습니다. LangChain과 Llama 3.1 Meta의 Llama 3.1이 발표된 후 우리는 …
Llama3.1 (Ollama)과 Python Flask로 나만의 웹UI 만들기
이번 글에서는 지난 번에 이어서 llama3.1과 메시지를 주고 받는 방법으로 UI를 어떻게 하면 더 편리하게, 더 개별적으로 만드는 방법에 대해 살펴보려 합니다. 오늘은 파이썬을 이용하여 직접적으로 UI를 만들어 보도록 하겠습니다. …