딥러닝기초 5

[딥러닝 기초] 미분

딥러닝에서 미분은 굉장히 중요한 역할을 합니다. 딥러닝 내 gradient를 구하는 것이 미분을 사용하기 때문입니다. 고등학교 시절 다들 배우셨겠지만, 미분은 순간 기울기를 구하는데 사용됩니다. 딥러닝은 해당 시점에 낮은 값으로 움직일 수 있는 값을 찾는 것이기 때문에, 미분을 사용하여 해당 위치에서의 내려가는 곳을 찾아 gradient를 구합니다. 그렇다면, 간단하게 많이 사용되는 미분에 대해 알아보도록 하겠습니다! 1. 미분계수 가장 기초적인 것부터 알아보겠습니다. 위 그래프에서, x1 과 x2사이 순간 기울기를 구해보겠습니다. 이 도함수를 바탕으로 여러 함수들의 미분법에 대해 알아보겠습니다! 2. 곱의 미분법 {f(x)g(x)}' = f'(x)g(x) + f(x)g'(x) 곱의 미분법 증명은 다음과..

[인턴일지] 두 번째 인턴일지: BInary Classification(이진 분류)

오늘은 좀 더 자세하게 어떤 일을 하고 있는지 상세히 설명하고, 분류 모델 평가 지표에 대해 학습하기 위해 이진 분류에 대해 전반적으로 알아보도록 하겠습니다. Classification 딥러닝은 크게 두 종류로 나눌 수 있습니다. 바로 Regression(회귀)과 Classification(분류)입니다. 그 중에서도 저는 이번 인턴 프로젝트에서 진행하고 있는 Classification에 대해 정리해보도록 하겠습니다. Classification은 단어 그대로 분류하는 문제입니다. 정해진 개수의 class혹은 label이 있고, 주어진 데이터가 해당 레이블에 속하는지 아닌지 분류하는 문제를 말합니다. 우리가 흔히 딥러닝을 처음 시작할 때 많이 하는 개와 고양이를 구별하는 예제 가 이에 해당합니다. 그 중에서..

인턴일지 2023.09.26

[딥러닝 기초] numpy를 사용한 다차원 배열의 계산

본격적인 딥러닝 공부에 앞서, 딥러닝에 가장 중요한 배열의 계산에 대해 알아보겠습니다. 앞으로 나오는 모든 딥러닝은 파이썬을 사용하여 구현할 것이기 때문에 numpy 를 사용하여 배열 계산을 진행하겠습니다! 배열 다차원 배열은 숫자의 집합입니다. 숫자가 한 줄로 늘어서거나, 직사각형으로 늘어선 형태, 혹은 3차원으로 늘어선 형태를 배열이라고 합니다. 간단하게 1차원 배열부터 예제로 살펴보겠습니다. import numpy as np #1d array a = np.array([1,2,3,4]) print("-"*5, "a info", "*"*5) print(np.ndim(a))#a의 dimension 출력 print(a.shape) #a의 모양 출력 print(a.shape[0]) np.ndim() 함수를 ..

[딥러닝 기초] 활성화함수

해당 카테고리에 올라오는 포스팅들은 딥러닝호형님의 「실전 인공지능으로 이어지는 딥러닝 개념 잡기」 인프런 강의와, 「밑바닥부터 시작하는 딥러닝」을 공부하며 작성하였음을 알려드립니다. 활성화함수 활성화 함수는 입력신호의 총 합을 출력신호로 바꿔주는 함수를 말합니다. 활성화 함수 없이, 퍼셉트론들의 연결로만 이루어진 인공 신경망은 오직 선형으로만 나타낼 수 있습니다. 그러나, 대부분의 사회 현상들은 모두 비선형적으로 이루어집니다. 현실에 접목할 수 있는 인공 신경망을 만들기 위해선 비선형으로 이루어져 있어야 했고, 이를 위해 도입된 것이 바로 활성화 함수입니다. 우선, 활성화함수가 없는 인공신경망이 왜 선형으로 이루어지는지부터 알아보겠습니다. 이 부분은 바로 앞 포스팅인 인공 신경망 부분을 보면 이해가 빠른..

[딥러닝 기초] 인공신경망

논문을 읽다보니, 딥러닝 기초가 많이 부족하다는 생각이 들어서 기초를 다시 공부하게 되었습니다. 해당 카테고리에 올라올 포스팅들은 딥러닝호형님의 「실전 인공지능으로 이어지는 딥러닝 개념 잡기」 인프런 강의와, 「밑바닥부터 시작하는 딥러닝」을 공부하며 작성하였음을 알려드립니다. 딥러닝은 모두 인공 신경망으로 이루어져 있습니다. 인공 신경망은 인간의 신경망을 본따 만든 신경망입니다. 인간의 신경망은 이렇게 뉴런들이 이어져 있습니다. 인공신경망도 이러한 뉴런들의 모임에서 영감을 받아 만들어졌습니다. 사람의 뇌처럼 이렇게 층을 구성하여 '인공신경망'을 구성합니다. 이 인공신경망은 수식으로도 나타낼 수 있습니다. 인공신경망은 여기에 중요한 개념이 하나 더 추가됩니다. 바로 편향(bias)인데요, 편향은 정보 전달..