Mr.Kang's life

얼마 전, arxiv sanity 사이트에 접속해서 최근 hot한 논문들을 찾아보던 중, ‘Quantum Neural Networks: Concepts, Applications, and Challenges’란 논문이 눈에 들어왔습니다. Quantum computing이란 단어를 한두번 들어본적이 있고, IBM에서 이 분야에 대해 한번씩 성과를 내놓고 있는 것으로 알고있었는데, Quantum Neural Network(QNN)이란 건 도대체 뭘까란 생각이 들었습니다. 그래서, QNN의 기본 개념을 파악하기 위해, 해당 논문을 읽어봤습니다. 논문명: Quantum Neural Networks: Concepts, Applications, and Challenges Arxiv 업로드 날짜: 2021.08.02...

Machine learning 2021. 8. 27. 16:50

[ 제 네이버 블로그 글을 티스토리로 이전한 글입니다. 해당 글은 제 네이버 블로그에 2018.11.12에 작성되었었습니다 ] Bayesian inference를 이해해서, 내 문제에 적용하기 위해 여러 자료를 계속 보고 있습니다. Bayesian inference를 이해하는데 도움이 되는 유투브 영상 및 자료들을 정리하였습니다. - Hierarchical Bayesian models of cognition - 유익한 slide http://halweb.uc3m.es/esp/Personal/personas/causin/eng/2011-2012/Bayes/chapter_12.pdf - 기본 paper https://arxiv.org/pdf/1405.4895.pdf 아래 글들을 읽고나서, Bayesian i..

Machine learning 2021. 8. 18. 08:05

[ 제 네이버 블로그 글을 티스토리로 이전한 글입니다. 해당 글은 제 네이버 블로그에 2018.06.30에 작성되었었습니다 ] Kdnuggets에 올라와 있는 글들 중, weight initialization에 관한 글이 있어서 정리하였습니다. 저의 경우 weight initialization을 할 때, 보통 Xavier initialization을 많이 사용하는 편입니다. 경험적으로는, random 초기화 방법보다는 학습속도가 빠른 것으로 느껴집니다. 해당 글에서는 fully connected neural network을 기준으로 설명을 하고 있습니다. Neural Network의 학습은 크게 4단계로 이루어집니다. 1) network의 parameter들(weight, bias) 초기화 . 2) Fo..

Machine learning 2021. 8. 13. 07:57

[ 제 네이버 블로그 글을 티스토리로 이전한 글입니다. 해당 글은 제 네이버 블로그에 2018.07.04에 작성되었었습니다 ] KDnuggets에서 clustering에 관한 글이 올라왔다. 정리해두면 유용할 것 같아서, 정리해둔다. clustering은 종종 사용하는 편이다. 주로, data의 특성을 확인하기 위해 사용한다. 나의 경우에는 사람의 감정을 분류하는 일을 종종하는데, 관련 논문들 중 몇몇은 감정 score의 적절한 threshold value를 찾기위해 clustering 알고리즘을 적용하기도 했다. 아래 문장이 중요한 것 같다. 원문 그대로 복사해둔다. 'In Data Science, we can use clustering analysis to gain some valuable insig..

Machine learning 2021. 8. 12. 07:38

[ 제 네이버 블로그 글을 티스토리로 이전한 글입니다. 해당 글은 제 네이버 블로그에 2018.09.07에 작성되었었습니다 ] 저의 경우 데이터를 받았을 때, 우선적으로 해보는 것은 히스토그램을 그려보는 것 같습니다. 히스토그램만으로는 데이터가 직관적으로 이해되지 않을 경우는 데이터를 시각화하는 도구들을 사용해서 데이터를 이해하려고 합니다. 몇일 전 kdnuggets에 데이터 이해에 관련된 글이 올라왔습니다. 여기서는 그 글을 간략하게 요약하려합니다. 해당 글을 다 읽고 나니, topological data analysis (TDA)에 대한 관심이 좀 생겼습니다. ================================================================= 데이터 분석에 있어서, ..

Machine learning 2021. 8. 11. 07:15

[ 제 네이버 블로그 글을 티스토리로 이전한 글입니다. 해당 글은 제 네이버 블로그에 2018.03.26에 작성되었습니다 ] ICA (Independent component analysis) 관련 논문을 보다가, non-Gaussian distribution에 관련된 내용이 나와서 정리한다. (이 때까지 non-Gaussian이란 표현을 많이 봐왔지만, 그것에 대한 정확한 내용을 모른채로 어림 짐작을 해왔다.) non-Gaussian 분포는 말 그대로, Gaussian 분포를 따르지 않는 분포로 이해하고 있다. Gaussian 분포는 {mean, standard deviation}으로 표현할 수 있는데, non-Gaussian 분포는 {평균, 표준편차}만으로는 해당 분포 표현이 어려운 분포로 보인다. G..

Machine learning 2021. 8. 9. 13:04

인공지능을 접한지도 어느덧 10년정도 되어갑니다. 처음 인공지능을 접할 때만해도, 인공지능이 이렇게 붐이 일지는 몰랐습니다. 저는 단지 사람과 비슷하게 사고하고 동작하는 인공 두뇌를 만들고 싶었습니다. 그래서, 대학원 연구실에 진학했는데, 처음에는 너무나도 어려웠습니다. 저희 연구실은 생물학적 기반 인공지능 네트워크를 연구했었는데, 해당 부분을 연구하기 위해서 생물학적 지식과 심리학적 지식, 그리고 일반적인 인공지능 네트워크 지식들을 필요로 했습니다. 대학원에 갓 입학해서, open CV를 활용하여 영상처리를 할때는 정말 재미있었습니다. 특정 operator를 통해서 영상의 feature를 추출하는 것에서부터, 그당시에 강력한 성능을 보여주었던 adaboost알고리즘을 학습하여 응용하는 부분까지 정말 직..

Machine learning 2021. 8. 6. 14:26

[ 제 네이버 블로그 글을 티스토리로 이전한 글입니다. 해당 글은 제 네이버 블로그에 2018.05.17에 작성되었었습니다 ] kdnuggets에서 재미있는 글을 보았다. Data augmentation에 관한 글이였는데, 논리적으로 설명을 해두어서 data augmentation에 대한 이해가 조금 더 생긴것 같다. Data augmentation을 사용하는 이유는 가지고 있는 training dataset은 현실에서 보게 되는 test dataset과 괴리감이 있기에, 임의의 잡음이나 translation을 training dataset에 가해서 test dataset과의 괴리를 줄이는데 목적이 있다고 생각한다. 참고 post 글에서는 data augmentation을 기계학습에 적용할 때, 2가지 ..

Machine learning 2021. 8. 4. 09:45