선형회귀 3

[딥러닝 기초이론3] 인간의 신경계를 모티브로 한 인공신경망

위 사진은 '딥러닝' 이라고 검색하면 가장 쉽게 볼 수 있는 이미지 중 하나이다. 이전 포스팅에서 인공지능이 어떻게 구현되는지를 설명했었는데, 그 계산 과정을 이러한 인공신경망으로 도식화 할 수 있다. 이 과정을 이해해보도록 하는 시간을 가져보도록 하겠다. 위 사진을 통해 사람의 뉴런이 신호를 전달하는 법을 알아보자. 먼저 자극을 받아들이는 부분이 존재하고 그 자극을 전달하는 부분이 존재한다. 그 후 다시 해당 자극을 다른 뉴런의 수상돌기로 보낸다. 이를 우리가 실습했던 수면시간에 따라 피로도를 계산하는 메커니즘과 접목시켜 보면 다음과 같이 도식화된다. x는 수면시간이고 y를 피로도라고 생각하면 실습에서 했던 내용과 같다는 것을 알 수 있다. 외부에서 들어오는 x는 데이터이다. 해당 데이터에 우리가 학습..

[딥러닝 기초이론2-1] 선형회귀 손실함수와 적절한 학습률 설정

[딥러닝 기초이론2] 에서 손실함수와 학습률(learning rate)에 대해 배워보았다. 이번 포스팅에서는 1. 선형회귀에서 MSE 손실함수가 자주 쓰이는 이유 2. 적절한 학습률(learning rate) 설정이 필요한 이유 이 두가지에 대해서 다뤄보겠다. 1. 선형회귀에서 MSE 손실함수가 자주 쓰이는 이유 1) 에러의 최댓값을 기준으로 하는 경우 이 경우는 특이 데이터가 있을 시 그 데이터에 편향된 예측모델이 나온다는 문제점이 있다. 2) 오차 제곱의 합이 아닌 오차들의 합으로 손실함수를 설정하는 경우 이 같은 경우 에러들간의 부호가 달라지게 된다. 실제값에서 예측치를 뺀 값이 error가 되는데, 부호가 다르기 때문에 서로 상쇄되어 오차의 크기를 대변할 수 없게 된다. 그렇다면 절댓값들의 합은 ..

[딥러닝 기초이론1] AI(Artificial Intelligence)란 무엇인가

우리는 실생활에서 알게 모르게 굉장히 많은 인공지능들과 맞닿아 있다. AI 반도체, AI 챗봇, AI 지우개, 생성형 AI 등등,,, 그렇다면 AI란 무엇일까? 나는 AI를 한 마디로 '통계 분석 프로그램' 이라고 표현하고 싶다. 인공지능이 무엇인지 얘기하다가 갑자기 통계 분석 프로그램? 의문이 들 수 있다. 의심은 잠시 접어두고 밑의 예시를 살펴보자. 강아지1 강아지2 강아지3 키 1m 2m 3m 무게 20kg 40kg ? 이 표는 강아지의 키에 따른 무게를 정리해놓은 표이다. 키가 3m인 강아지의 무게는 몇일까? 아마 대부분의 사람들이 60kg라는 결론을 냈을 것이라고 생각한다. 1에 20을 곱하면 20kg, 2에 20을 곱하면 40kg, 3에 20을 곱하면 60이기 때문이다. 이러한 우리의 자연스러..