대학원 일기

학습 알고리즘 학습은 모델이 주어진 데이터로부터 학습하고 지식을 습득하여 데이터의 패턴이나 구조를 인식하는 역할을 수행한다. 보통의 딥러닝에서 학습은 각각의 노드에 연결된 가중치를 최적의 값으로 셋팅(업데이트)한다. 학습 알고리즘의 유형은 크게 지도학습(supervised learning), 비지도 학습(unsupervised learning), 강화 학습(reinforcement learning) 등이 있다. 지도 학습에서는 입력 데이터와 해당하는 레이블이 제공되며, 모델은 이 정보를 기반으로 예측 및 분류를 수행한다. 비지도 학습에서는 레이블이 없는 데이터로부터 데이터의 구조와 패턴을 발견하려고 시도한다. 강화 학습에서는 에이전트가 환경과 상호 작용하며 보상을 최대화하는 정책을 학습하려고 시도한다. ..

퍼셉트론(Perceptron)이란? 인공 신경망의 간단한 모형 중 하나인 퍼셉트론은 1957년 로센블렛(Rosenblatt)이 고안한 이진 분륜 문제를 위한 알고리즘이다. 인공신경망은 사람의 신경망을 따온 것으로 인공적인 뉴런의 집합이라고 봐도 된다. 초기 퍼셉트론은 입력된 정보에 가중치를 추가하고, 훈련하여 결과값을 얻는다. 위 사진처럼 수많은 입력 데이터에 가중치를 정해 최적의 가중치를 찾아내는 방법이다. 퍼셉트론은 다수의 이진 입력 신호(0 또는 1)를 받아 하나의 이진 출력 신호를 생성하는 방식으로 동작한다. 각 입력은 가중치(weight)와 연결되어 있고, 이 가중치는 입력 신호에 곱해져 출력을 결정하는 데 중요한 역할을 한다. 퍼셉트론은 가중치와 입력 신호의 곱을 합산한 값이 특정 임계값(th..

머신러닝과 딥러닝의 차이 대개 인공지능을 처음 접하는 사람들은 머신러닝과 딥러닝은 서로 다르다고 생각하지만, 딥러닝은 머신러닝의 한 종류이다. 아래 그림처럼 딥러닝은 머신러닝에 속해있고, 머신러닝은 인공지능에 속해있다. 머신러닝과 딥러닝의 차이 딥러닝은 머신러닝의 한 종류이지만, 두 학습 방법의 차이를 보자면 다음 그림과 같다. 우선, 머신러닝은 위 그림처럼 input 데이터를 사람이 직접 데이터의 특징들을 추출하고 머신러닝 모델로 output 데이터를 얻는다. 이에 반면에, 딥러닝은 input 데이터를 가지고 딥러닝 모델이 특징을 추출하고 분류하는 전과정(end-to-end) 과정을 거친다. 즉, 딥러닝은 모델 스스로 데이터를 학습하고, 머신러닝은 수동적으로 데이터를 제공하여 학습해야 한다. 머신러닝과..

최적화(Optimization) Generalization 일반화(Generalization)는 인공지능 모델이 있을 때, 그 모델의 성능을 올리는 것이다. 일반적으로 학습할 때 Learning iteration이 지나감에 따라 learning data에 대한 train_error는 줄어들게 되지만, 어느 정도 train을 하면 학습에 사용되지 않는 test data에 대한 test_error는 크게 발생하면서 Generalization gap(Generalization performance)이 커지게 된다. 즉, learning data에 대한 traning_error가 매우 낮은 0에 가까운 값이 되었다고 원하는 최적값이라고 보장할 수 없다. Underfitting, Overfitting 언더피팅(U..

Introduction 좋은 딥러너(Deep Learner)가 되려면? Implementation Skills : 실제로 구현할 수 있는 능력 (Tensorflow, Pytorch 등) Math Skills : Linear Algebra(선형대수학), Probability(확률) 등 Knowing a lot of recent Papers 인공지능(AI) $\supset$ 머신러닝(ML) $\supset$ 딥러닝(DL) Artificial Inteligence(인공지능): 컴퓨터가 사람의 지능을 모방하는 것을 의미한다. Machine Learning(기계학습): 데이터를 통해 주어진 모델이 학습하는 것을 의미한다. Deep Learning(딥러닝): Maching Learning의 기술에서 Neural N..