두근두근🤩

오늘은 드디어 OpenAI GPT-4o 모델을 파인튜닝하여 Amazon 상품 예측 봇을 만드는 날입니다.

• 데이터 전처리
• Baseline 모델 생성
• LLM 파인튜닝 with GPT
• LLM 파인튜닝 with LLAMA

바로 출발하시죠~

LLM 파인튜닝 with GPT

라이브러리 로드 및 환경 설정

먼저, GPT 파인튜닝 모델 및 평가와 관련한 라이브러리를 불러와요.

파인튜닝 및 학습/평가 로그 관리를 위해 OpenAI, Wandb 라이브러리를 가져왔습니다.

# imports

import os
import re
import json
import pickle

import matplotlib.pyplot as plt
from dotenv import load_dotenv
from huggingface_hub import login
from wandb.integration.openai.fine_tuning import WandbLogger
from openai import OpenAI

from items import Item
from testing import Tester

# Constants - used for printing to stdout in color
GREEN = "\\033[92m"
YELLOW = "\\033[93m"
RED = "\\033[91m"
RESET = "\\033[0m"
COLOR_MAP = {"red":RED, "orange": YELLOW, "green": GREEN}

%matplotlib inline

OpenAI API KEY 준비

OpenAI 플랫폼을 통해 LLM 모델을 파인튜닝 하려면, API KEY가 필요합니다. (OPEN_API_KEY)