Mr.Kang's life

최근 인공지능 분야에서는 chat GPT (Generative Pre-trained Transformer)가 매우 화두입니다. 사용자가 궁금한 것을 물으면, 웹에서 학습한 내용을 바탕으로 조리있게 응답해줍니다. 비록 모델을 학습한 데이터가 2021년까지이기에 그 이후의 event에 대해서는 정확하게 답변하지는 못하지만, 역사적 지식이나 변화가 매우 적은 분야에서는 chat GPT의 답변이 어느정도 유용하게 사용 가능할 것이라고 생각됩니다. 하나더 덧붙이자면, 아직은 영어 질문에 더 잘 답변을 하기에, 한글로 질문을 하는 것보다는 영어로 질문을 하는 것이 효과적입니다. https://openai.com/blog/chatgpt/ ChatGPT: Optimizing Language Models for Dial..

Machine learning 2023. 2. 18. 14:41

얼마 전, arxiv sanity 사이트에 접속해서 최근 hot한 논문들을 찾아보던 중, ‘Quantum Neural Networks: Concepts, Applications, and Challenges’란 논문이 눈에 들어왔습니다. Quantum computing이란 단어를 한두번 들어본적이 있고, IBM에서 이 분야에 대해 한번씩 성과를 내놓고 있는 것으로 알고있었는데, Quantum Neural Network(QNN)이란 건 도대체 뭘까란 생각이 들었습니다. 그래서, QNN의 기본 개념을 파악하기 위해, 해당 논문을 읽어봤습니다. 논문명: Quantum Neural Networks: Concepts, Applications, and Challenges Arxiv 업로드 날짜: 2021.08.02...

Machine learning 2021. 8. 27. 16:50

[ 제 네이버 블로그 글을 티스토리로 이전한 글입니다. 해당 글은 제 네이버 블로그에 2018.11.12에 작성되었었습니다 ] Bayesian inference를 이해해서, 내 문제에 적용하기 위해 여러 자료를 계속 보고 있습니다. Bayesian inference를 이해하는데 도움이 되는 유투브 영상 및 자료들을 정리하였습니다. - Hierarchical Bayesian models of cognition - 유익한 slide http://halweb.uc3m.es/esp/Personal/personas/causin/eng/2011-2012/Bayes/chapter_12.pdf - 기본 paper https://arxiv.org/pdf/1405.4895.pdf 아래 글들을 읽고나서, Bayesian i..

Machine learning 2021. 8. 18. 08:05

[ 제 네이버 블로그 글을 티스토리로 이전한 글입니다. 해당 글은 제 네이버 블로그에 2018.06.30에 작성되었었습니다 ] Kdnuggets에 올라와 있는 글들 중, weight initialization에 관한 글이 있어서 정리하였습니다. 저의 경우 weight initialization을 할 때, 보통 Xavier initialization을 많이 사용하는 편입니다. 경험적으로는, random 초기화 방법보다는 학습속도가 빠른 것으로 느껴집니다. 해당 글에서는 fully connected neural network을 기준으로 설명을 하고 있습니다. Neural Network의 학습은 크게 4단계로 이루어집니다. 1) network의 parameter들(weight, bias) 초기화 . 2) Fo..

Machine learning 2021. 8. 13. 07:57

인공지능을 접한지도 어느덧 10년정도 되어갑니다. 처음 인공지능을 접할 때만해도, 인공지능이 이렇게 붐이 일지는 몰랐습니다. 저는 단지 사람과 비슷하게 사고하고 동작하는 인공 두뇌를 만들고 싶었습니다. 그래서, 대학원 연구실에 진학했는데, 처음에는 너무나도 어려웠습니다. 저희 연구실은 생물학적 기반 인공지능 네트워크를 연구했었는데, 해당 부분을 연구하기 위해서 생물학적 지식과 심리학적 지식, 그리고 일반적인 인공지능 네트워크 지식들을 필요로 했습니다. 대학원에 갓 입학해서, open CV를 활용하여 영상처리를 할때는 정말 재미있었습니다. 특정 operator를 통해서 영상의 feature를 추출하는 것에서부터, 그당시에 강력한 성능을 보여주었던 adaboost알고리즘을 학습하여 응용하는 부분까지 정말 직..

Machine learning 2021. 8. 6. 14:26

[ 제 네이버 블로그 글을 티스토리로 이전한 글입니다. 해당 글은 제 네이버 블로그에 2018.05.17에 작성되었었습니다 ] kdnuggets에서 재미있는 글을 보았다. Data augmentation에 관한 글이였는데, 논리적으로 설명을 해두어서 data augmentation에 대한 이해가 조금 더 생긴것 같다. Data augmentation을 사용하는 이유는 가지고 있는 training dataset은 현실에서 보게 되는 test dataset과 괴리감이 있기에, 임의의 잡음이나 translation을 training dataset에 가해서 test dataset과의 괴리를 줄이는데 목적이 있다고 생각한다. 참고 post 글에서는 data augmentation을 기계학습에 적용할 때, 2가지 ..

Machine learning 2021. 8. 4. 09:45

[ 제 네이버 블로그 글을 티스토리로 이전한 글입니다. 해당 글은 제 네이버 블로그에 2018.06.09에 작성되었었습니다 ] Kdnuggets에서 inbalanced 데이터에 대한 글을 보다가, 정리해두면 좋을 것 같아서 글을 작성한다. 실제 데이터를 다루다보면, imbalanced 데이터를 다룰 때가 많다. 특히나 사람을 대상으로 인지적인 실험을 할 때, class 데이터 비율을 조절하기가 난감할 때가 종종있다. 나의 경우 이러한 데이터를 다룰 때는 data augmentation을 통하여 data가 부족한 class의 데이터 수를 보충해주거나, confusion matrix를 확인해보면서 모델의 성능을 확인하는 편이다. * Imbalanced 데이터: 전체 데이터 중, 특정 class 데이터가 대다..

Machine learning 2021. 8. 3. 09:36

[ 제 네이버 블로그 글을 티스토리로 이전한 글입니다. 해당 글은 제 네이버 블로그에 2018.06.14에 작성되었었습니다 ] Kdnugget에서 학습 데이터와 테스트 데이터 간의 유사성에 대한 글을 보고, 정리해두면 좋을 것 같아서 정리합니다. (원본 글을 번역한 것이 아니라, 글을 읽은 후 내 생각대로 정리한 글이므로 .. 이 부분을 참고해서 읽어주시면 좋겠습니다.) 원본 글 출처: https://towardsdatascience.com/how-dis-similar-are-my-train-and-test-data-56af3923de9b How (dis)similar are my train and test data? Understanding a scenario where your machine lear..

Machine learning 2021. 8. 2. 14:29