안녕하세요!

드디어 Amazon 상품 가격 예측 봇 구축기 마지막 세션입니다.

오늘은 오픈소스 모델을 대표하는 Llama-3.1을 파인튜닝하고, 성능을 평가하도록 하겠습니다.

• 데이터 전처리
• Baseline 모델 생성
• LLM 파인튜닝 with GPT
• **LLM 파인튜닝 with LLAMA**

과연, 이번 프로젝트에서는 Llama가 GPT를 뛰어넘을 수 있을까요?

바로 출발하시죠~

LLM 파인튜닝 with Llama3

저는 A100 모델을 활용하기위해, Google Colaboratory 플랫폼을 사용했습니다.

따라서, Colab 관련 코드가 일부 포함되어 있음을 미리 알려드립니다 :)

라이브러리 로드 및 환경 설정

먼저, Llama 모델 파인튜닝과 평가에 관련된 라이브러리를 불러와요.

Open-source model 설정을 위해 transformers 라이브러리를 불러옵니다.