Mr.Kang's life

[ 제 네이버 블로그 글을 티스토리로 이전한 글입니다. 해당 글은 제 네이버 블로그에 2018.06.09에 작성되었었습니다 ] Kdnuggets에서 inbalanced 데이터에 대한 글을 보다가, 정리해두면 좋을 것 같아서 글을 작성한다. 실제 데이터를 다루다보면, imbalanced 데이터를 다룰 때가 많다. 특히나 사람을 대상으로 인지적인 실험을 할 때, class 데이터 비율을 조절하기가 난감할 때가 종종있다. 나의 경우 이러한 데이터를 다룰 때는 data augmentation을 통하여 data가 부족한 class의 데이터 수를 보충해주거나, confusion matrix를 확인해보면서 모델의 성능을 확인하는 편이다. * Imbalanced 데이터: 전체 데이터 중, 특정 class 데이터가 대다..

Machine learning 2021. 8. 3. 09:36

[ 제 네이버 블로그 글을 티스토리로 이전한 글입니다. 해당 글은 제 네이버 블로그에 2018.06.14에 작성되었었습니다 ] Kdnugget에서 학습 데이터와 테스트 데이터 간의 유사성에 대한 글을 보고, 정리해두면 좋을 것 같아서 정리합니다. (원본 글을 번역한 것이 아니라, 글을 읽은 후 내 생각대로 정리한 글이므로 .. 이 부분을 참고해서 읽어주시면 좋겠습니다.) 원본 글 출처: https://towardsdatascience.com/how-dis-similar-are-my-train-and-test-data-56af3923de9b How (dis)similar are my train and test data? Understanding a scenario where your machine lear..

Machine learning 2021. 8. 2. 14:29

[ 제 네이버 블로그 글을 티스토리로 이전한 글입니다. 해당 글은 제 네이버 블로그에 2018.06.27에 작성되었었습니다 ] Kdnuggets에서 Batch normalization 관련 글을 보고 정리합니다. Batch normalization 논문이 발표된 이후(2015년), 대부분의 network들은 over-fitting을 줄이고 학습 속도를 높이기 위해 Batch normalization을 사용해왔습니다. 데이터를 처리함에 있어서, normalization의 유/무는 결과에 큰 영향을 주며, Batch normalization은 신경망 모델이 데이터를 처리할 때 각 Batch단위마다 normalization을 취해주는 것입니다. Batch normalization은 hidden unit 값의 ..

Machine learning 2021. 8. 2. 14:05

[ 제 네이버 블로그 글을 티스토리로 이전한 글입니다. 해당 글은 제 네이버 블로그에 2019.01.16에 작성되었었습니다 ] 논문 리뷰 중에 stroop task가 나와서, 관련 내용에 대하여 찾다가 정리하였습니다 :) (Stroop task에 대한 설명이 wikipedia에 워낙 잘 나와 있어서, 관련 내용에 대하여 더 자세히 정리가 필요하신 분들은 wikipedia에서 직접 검색해서 보시길 추천드립니다.) ​ Stroop task는 1935년에 John Ridley Stroop 박사가 발표한 논문의 실험 task를 이야기합니다. Stroop task는 세가지 condition으로 이루어집니다. 1) 일치 조건 (congruent condition) - content의 제목(이름)과 content의 ..

Machine learning 2021. 8. 2. 12:47

[ 제 네이버 블로그에 있던 글들을 티스토리로 이전한 글이며, 네이버 블로그에 2019.07.27에 작성하였습니다 ] 대구에서 서울로 올라오니, 평소에 관심있었던 활동들을 참여할 수 있게되어서 좋습니다 :) ​ 평소에 관심있었던 단체에서 'Working memory'에 대한 세미나를 한다고 해서 가보았습니다 :) 요즘에는 코로나로 인해 이러한 모임이나 세미나 참여가 제한적이거나, 대부분 온라인으로 진행되는 것 같습니다 ​ - 세미나 제목: 'How do Humans assess the credibility on Web Blogs: Qualifying and verifying Human factors with maching learning' - 연사: 조용걸 (아주대학교 HCI 전공) - 세미나 장소: 서..

Machine learning 2021. 7. 30. 00:20

Gradient descent는 objective 함수의 gradient 계산에 얼마나 많은 데이터를 적용하는가에 따라, 방법론이 나뉜다고 한다. Gradient descent에 적용하는 데이터의 양에 따라서, parameter 업데이트의 정확도와 업데이트를 행하기 위해 걸리는 시간 간의 trade off가 있다고 한다. Batch gradient descent 정통적인 gradient descent는 batch gradient descent를 말하며, 모든 학습 데이터세트에 대하여 cost 함수의 gradient를 계산한다. Batch gradient descent는 한번 업데이트 시, 전체 데이터세트에 대하여 gradient를 수행하기 때문에 처리 속도가 느리고 메모리 문제가 발생할 가능성도 있다. ..

Machine learning 2021. 1. 12. 11:12