머신러닝 입문 1

# -*- coding: utf-8 -*- """숙제.ipynb Automatically generated by Colaboratory. Original file is located at https://colab.research.google.com/drive/1D1sXQmU6qyVPzKF4ledW5L_gL5pJ3uQ2 """ import os os.environ['KAGGLE_USERNAME'] = '유저네임' # username os.environ['KAGGLE_KEY'] = '캐글키' # key # 캐글에서 데이터셋을 다운 받는다. !kaggle datasets download -d rsadiq/salary !unzip salary.zip from tensorflow.keras.models import Sequential from tensorflow.keras.layers import Dense from tensorflow.keras.optimizers import Adam, SGD import numpy as np import pandas as pd import matplotlib.pyplot as plt import seaborn as sns #그래프 그리는거. from sklearn.model_selection import train_test_split # 데이터프레임 형식으로 csv를 읽는다. df = pd.read_csv('Salary.csv') # 앞부분 10개 샘플로 보여준다. df.head(10) # 데이터프레임의 형태를 찍어본다. print(df.shape) # 데이터의 분포를 확인한다. x 축은 연차, y 축은 연봉, 그래프는 3인치 크기로 출력한다. sns.pairplot(df, x_vars=['YearsExperience'], y_vars=['Salary'], height=3) # 케라스는 데이터를 numpy float32형태로만 받기 때문에 array 에서 변환해서 추출한다. x_data = np.array(df['YearsExperience'], dtype=np.float32) y_data = np.array(df['Salary'], dtype=np.float32) print(x_data.shape) print(y_data.shape) # shape 이 이상하기 때문에 재정렬 한다. x_data = x_data.reshape((-1, 1)) y_data = y_data.reshape((-1, 1)) print(x_data.shape) print(y_data.shape) # 트레이닝 셋과 테스트 셋으로 나눈다. train_test_split 함수로 간편하게 랜덤으로 나눌 수 있다. # test_size 0.2 면 트레이닝은 80% 테스트셋은 20% 로 나눈다는 뜻이다. x_train, x_val, y_train, y_val = train_test_split(x_data, y_data, test_size=0.2, random_state=2021) print(x_train.shape, x_val.shape) print(y_train.shape, y_val.shape) # 모델을 만든다. model = Sequential([ Dense(1) ]) # loss 값을 mean_absolute_error로도 해보고 mean_squared_error로도 해본다. # learning_rate값을 변경 해본다. # 학습 시작 # model.compile(loss='mean_squared_error', optimizer=Adam(lr=160.93)) # model.compile(loss='mean_squared_error', optimizer=Adam(lr=170.93)) # model.compile(loss='mean_squared_error', optimizer=Adam(lr=200.93)) model.compile(loss='mean_absolute_error', optimizer=Adam(lr=200.93)) # model.compile(loss='mean_squared_error', optimizer=SGD(lr=0.01)) # model.compile(loss='mean_absolute_error', optimizer=SGD(lr=50.1)) # model.compile(loss='mean_absolute_error', optimizer=SGD(lr=90.1)) # 피팅을 한다. model.fit(x_train, y_train, validation_data=(x_val, y_val), epochs=100) # epochs 복수형으로 쓰기! # 트레이닝 된 것이 맞는지 확인한다. 테스트셋으로 떼놓은 20%의 x_val로 y를 예측한다. y_pred = model.predict(x_val) plt.scatter(x_val, y_val) plt.scatter(x_val, y_pred, color='r') plt.show() # 그래프로 찍어서 잘 맞는지 확인한다.

MSE(mean_squared_error) - 주로 회귀 용도모델에서 사용됩니다~
RMSE(root_mean_squared_error) - MSE에 루트를 씌워줬기 때문에 큰 왜곡을 피할 수 있습니다.
MAE(mean_absolute_error) -  MSE와 비슷하지만 오차 절대값 평균을 이용합니다.
binary_crossentrophy - 이진 분류기 훈련시 사용됩니다~ (추후 강의에서 사용합니다.)
categorical_crossentropy  - 주로 softmax(다중레이블)에서 이용(추후 강의에서 사용합니다.)
sparse_categorical_crosentrophy - 주로 정수형의 레이블을 가진 데이터에서 사용됩니다~

 

optimizer는 keras에서 기본적으로 제공되는 것은
SGD(확률적 경사하강), RMSprop, Adagrad, Adam 등이 있습니다. 신경망의 특성이나 풀려고하는 문제에 따라서 사용용도가 다릅니다~ 주로 Adam을 많이쓰는 추세이고, 아래 문서를 통해서 더 자세하게 보실 수 있습니다~
https://keras.io/ko/optimizers/

Optimizers - Keras Documentation

 

모델을 저장하고 다시 읽어서 사용하기

 

2. colab이나 주피터노트북처럼 모든게 날아가는 개념이긴합니다. 다만, 그것을 방지하기 위해 아래 코드형식을 이용해 모델파일을 저장하게됩니다.
from tensorflow.keras.callbacks import ModelCheckpoint
model.fit(
    x_data,
    y_data,
    epochs=20,
    callbacks=[
      ModelCheckpoint('model.h5', monitor='val_loss', verbose=1, save_best_only=True)
    ]
)
3. 제가 위에서 답변드린 형식으로 모델파일을 저장하게되면, 코드파일이 존재하는 곳에 model.h5라는 이름으로 저장됩니다~
4. 가능합니다~ 아래 코드형식으로 모델을 불러와 업데이트시킬 수 있습니다~
from tensorflow.keras.models import load_model
model = load_model('model.h5')