shine_hyun shine_hyun

미분의 이용 경사하강법 알고리즘 벡터에서의 경사하강법 (그레디언트 벡터) 선형회귀에 경사하강법 적용하기 SGD other optimizer 노랑색 : 내용 추가 (개인적으로 더 알아볼것) 분홍색 : 질문 (이해가 안되는 부분) 파랑색 : 스스로 찾아볼 것 미분의 이용 미분의 의미 미분은 함수 f 의 주어진 점 (x, f(x)) 에서의 접선의 기울기를 의미한다. import sympy as sym from sympy.abc import x #변수 #x^2+2x+3을 x로 미분 sym.diff(sym.poly(x**2 + 2*x + 3),x) 미분의 이용 한 점에서 접선의 기울기를 알면 어느 방향으로 점을 움직여야 함수값이 증가하는지/감소하는지 알 수 있다. 미분값을 더하면 경사상승법(gradient asc..

1. Introduction 기존 OOD 방법론 논문 : - ID/ OOD 라벨링이 되어있는 데이터로 모델 학습 - ID 데이터에 대한 clf 모델 학습 및 OOD 탐지. 본 논문 : - ID데이터에 대한 clf 모델 생성 --> ID/OOD데이터에 대한 라벨링 없이 clf 모델을 unsupervised learn을 통해 finetuning 2. 모델 3. 학습 STEP A 데이터를 통한 CLF 모델 FCL에 2개의 Linear Layer(Decision boundary)를 형성 Loss Function : Cross Entropy STEP B ID/OOD를 혼합한 라벨링 되지않은 데이터를 이용해 2개의 Linear Layer의 거리차이가 크도록 모델 학습 및 클래스 라벨링되어있는 ID 데이터로 모델 ..