728x90 Drawing (AI)111 [논문 리뷰] Deep Sparse Rectifier Neural Networks Deep Sparse Rectifier Neural Networks by Xavier Glorot et al. (2011) https://proceedings.mlr.press/v15/glorot11a/glorot11a.pdf -요약- 이 논문은 깊은 희소 Rectifier 신경망 구조를 소개하고 검증한다. 그 결과, Sparse rectifier neural network는 기존의 깊은 신경망보다 더 높은 성능을 보여주고, 제안된 구조의 효과가 입증되었다는 것을 보여준다. 논문의 핵심은 Rectifier 활성화 함수와 희소 정규화를 결합함으로써, 기존의 Deep neural network보다 더 높은 성능과 이해하기 쉬운 구조를 제공하는 것이다. Sigmoid neuron이 hyperbolic tang.. 2023. 2. 5. Udemy - 머신러닝의 모든 것 (Multiple Linear Regression-1) Multiple Linear Regression 이전 강의에서 가장 단순한 형태의 회귀인 단순 선형 회귀를 배웠다면 조금은 성능과 복잡성이 높은 다중 선형 회귀에 대하여 공부를 했다. 선형 회귀를 이용하기 위한 조건 선형성 (Linearity): 회귀분석에서 선형적 관계를 갖는 것을 의미한다. 예를 들어, 종속 변수와 한 개 이상의 독립 변수 간에 선형 관계가 존재한다면, 그것은 선형성을 만족한다고 할 수 있다. 동분산성 (Homoscedasticity): 회귀분석에서 표준 편차가 일정한 것을 의미한다. 즉, 모든 관측치에 대해 오차 편차가 같다면, 그것은 동분산성을 만족한다고 할 수 있다. 다변수 정규성 (Multivariate normality): 회귀분석에서 모든 변수가 정규 분포를 따른다는 것을 .. 2023. 2. 3. Udemy - 머신러닝의 모든 것 (Simple Linear Regression) Simple Linear Regression Regression의 이론적인 부분은 이전에 몇번 다뤄봤기에 간단하게 넘어가고 python을 통해 직접 다루는 것에 초점을 맞추고자 한다. 위와 같이 1차방정식 형태로 설명된다. Simple Linear Regressin model Experience vs Salary #Importing the libraries import numpy as np import matplotlib.pyplot as plt import pandas as pd #Importing the dataset dataset = pd.read_csv('Salary_Data.csv') #데이터 이름인 첫줄 제외 X = dataset.iloc[:, :-1].values y = dataset.ilo.. 2023. 1. 28. Udemy - 머신러닝의 모든 것 (Intro+Data Preprocessing) Machine Learning 머신 러닝은 딥러닝을 포함하는 큰 개념이다. 딥 러닝 강의를 듣는데 막히지는 부분이 있지는 않았지만 머신 러닝 강의를 듣고 오는것이 보다 수월하게 이해하는데 도움이 될 것 같고 순서를 맞춰서 듣는게 효율이 좋을 것 같아서 Machine Learning강의를 먼저 듣고자 한다. Why ML is the future 인간은 data에 둘러쌓여서 살고 있다. 2005년까지 인간이 생성한 data는 130exabyte 이다. 그리고 2010년까지 인간이 생성한 data는 1200exabyte 이고 2015년에는 7900exabyte이고 2020년에는 40900exabyte이다. 인간을 둘러싼 data는 기하급수적으로 증가함을 볼 수 있다. ML을 통해서 직접 다룰 수 없는 data.. 2023. 1. 15. TensorFlow 2.0 (Operations) 기본 연산 tensor = tf.constant([[1, 2], [3, 4]]) tensor #출력 기본 연산에 앞서서 2by2 행렬의 tensor array를 만든다. 덧셈 tensor + 2 #결과 스칼라 곱 tensor * 5 #결과 Numpy function # Getting the squares of all numbers in a TensorFlow tensor object np.square(tensor) #결과 array([[ 1, 4], [ 9, 16]], dtype=int32) # Getting the square root of all numbers in a tensorflow tensor object np.sqrt(tensor) #결과 array([[1. , 1.41421356], [1... 2023. 1. 14. TensorFlow 2.0 (Basic) Advantages of TensorFlow 2.0 프로젝트에서 체중감량정도를 예측하는 시스템을 만드는 역할을 맡게 되어서 구글 코랩에 의존하지 않고 텐서를 다룰줄 알아야하는 상황이와서 텐서에 대해 공부하고자 시작한 강의이다. 텐서2.0의 장점 10가지 정도를 알아보고 텐서에 대해 공부를 시작하고자 한다. 1. Backed by Google 구글이 구축하고 지원한다는 것은 사용자들이 좋은 성능의 빠른 업데이트와 새로운 기능들을 많이 이용할 수 있다는 것을 의미한다. 2. Open Source and Free 텐서를 이용하면 SOTA Machine Learning framework를 무료로 이용할 수 있다. 3. Large and Vibrant Community 텐서 2.0의 커뮤니티는 굉장히 방대하여 지.. 2023. 1. 9. Udemy - 딥러닝의 모든 것(ANN 구축하기) 인구 통계학적 세분화 모델 해당 모델은 고객중심의 산업에서는 부가 가치가 굉장히 높고 다양한 시나리오에서 사용될 수 있도록 할 수 있는 모델이다. 우선 이번에 구현해볼 ANN은 은행의 고객 이탈률이 증가하여 그 원인을 조사하여 추후의 새로운 고객에 대해서도 이탈할 고객을 예측하는 모델이다. 우선 자료를 보면 다음과 같다. Customer Id, Surname, CreditScore, Geography, Gender, Age, Tenure, Balance, NumOfProducts, HasCrCard, IsActiveMember, EstimatedSalary와 같은 변수들은 6개월 전에 조사된 자료이고 Exited 여부는 현재 이탈한 고객인지 알려주는 종속변수이다. 위 자료는 만명의 고객 샘플로 구성되어있.. 2023. 1. 6. Udemy - 딥러닝의 모든 것(ANN) The Neuron 인공신경망(Artificial Neural Network, 이후 ANN)을 구현하기 위해 제일 먼저 이해해야하는 것은 Neuron이다. 뉴런 한개는 아무런 일도 할 수 없지만 이런 뉴런들이 군집을 만들어서 대단한 작업을 할 수 있게 된다. 협업을 하기 위해 가지돌기와 축삭돌기가 큰 역할을 한다. 가지돌기가 신호 수신기 역할을 하고 축삭돌기가 신호 발신기 역할을 한다. 축삭돌기에서 가지돌기로 신호가 전달되는 부분에는 작은 틈이 존재하는데 그것을 시냅스라고 부른다. 이제 이런 뉴런을 기술적으로 구현하고자한다. Input의 value는 표준화를 통해 일정한 범위의 값들을 function에 넣어준다. 이때 표준화란 평균을 0으로 분산을 1로 하는 방식이고 normalization이라는 일정한.. 2022. 12. 27. Udemy - 딥러닝의 모든 것(Intro) What is Deep Learning? 인공 신경망이라는 개념은 나온지 오래되었지만 그 시대에는 데이터도 부족하고 processor의 연산 능력도 부족하였기 때문에 폐기되었었다. 하지만 현대에는 기하급수적인 속도로 데이터 storage의 용량이 커지고 가격이 저렴해졌고 processor의 연산 능력 또한 증가 하였기에 신경망, 딥러닝에 대한 관심도와 중요도가 올라간 것이다. 딥러닝은 결국 인간의 뇌의 연산, 데이터 처리 과정을 모방하여 구현하고자 하는 것이다. 뇌가 감각기관을 통해 입력받은 정보를 수십억개의 뉴런을 거쳐 결과가 되는 정보를 얻는 것과 같이 인공 신경망은 input이 hidden layer를 거쳐서 output으로 value를 생성하게 된다. 2022. 12. 27. 이전 1 ··· 8 9 10 11 12 13 다음 728x90
