
(Reference: https://colah.github.io/posts/2015-09-Visual-Information/)I love the feeling of having a new way to think about the world. I especially love when there’s some vague idea that gets formalized into a concrete concept. Information theory is a prime example of this.Information theory gives us precise language for describing a lot of things. How uncertain am I? How much does knowing the a..

VSCode로 Linux 서버에 원격 접속해서 작업하려고 한다. 1. Remote - SSH 설치 좌측 Extensions에서 Remote-SSH를 설치한다. 설치가 완료 되면 아래처럼 아이콘이 생기는 걸 확인할 수 있다. 2. SSH Host 정보 추가하기F1 또는 Ctrl + Shift + p 를 클릭해서 입력창에 Connect Current Window to Host... 를 입력 또는 선택한다. 선택 후에 + Add New SSH Host...를 클릭하고, 아래 양식에 따라 입력한다.1번 방법[user]@[hostname]:[port] # ex) hello@microsoft.com:3000# or2번 방법ssh [hostname] -p [port] # ex) ssh microsoft.com -..

Source: https://jalammar.github.io/illustrated-transformer/ Korean(Translated): https://nlpinkorean.github.io/illustrated-transformer/In the previous post, we looked at Attention – a ubiquitous method in modern deep learning models. Attention is a concept that helped improve the performance of neural machine translation applications. In this post, we will look at The Transformer – a model that ..

브라운 운동(Brownian motion)은 1827년 스코틀랜드 식물학자 로버트 브라운(Robert Brown)이 발견한, 액체나 기체 속에서 미소입자들이 불규칙하게 운동하는 현상이다. 수학 분야에서는 Random Walk로 모델링 될 수 있다.(In mathematics, Brownian motion is described by the Wiener process)Brownian motion is a fundamental concept in mathematics, particularly in probability theory and stochastic processes. It provides a mathematical model for the random motion of particles suspen..

오늘은 머신러닝을 공부하다 보면 자주 듣게 되는 용어인 Cross entropy, KL divergence에 대해 알아볼 예정입니다. 이 개념을 잘 정리해 놓은 글을 발견해서 이 글을 바탕으로 제 나름대로 번역하고 설명, 그림 등을 추가하여 설명드릴 예정입니다!Information and EntropyInformation은 정보이론에서는 bit로 측정되며, 주어진 이벤트에서 발생하는 놀라움의 양 으로 이해할 수 있습니다. 엄청 불공평한 동전이 있다고 가정해봅시다. 앞면이 나올 확률이 99%, 뒷면이 나올 확률이 1%일때, 앞면이 나오는 일은 놀랍지 않습니다. 다만 뒷면이 나오면 굉장히 놀라겠죠. Information의 수학적 정의는 다음과 같습니다.특정한 stochastic event E에 대한 확률의 ..

https://github.com/mlabonne/llm-course GitHub - mlabonne/llm-course: Course to get into Large Language Models (LLMs) with roadmaps and Colab notebooks.Course to get into Large Language Models (LLMs) with roadmaps and Colab notebooks. - GitHub - mlabonne/llm-course: Course to get into Large Language Models (LLMs) with roadmaps and Colab notebooks.github.com 최근 일주일 만에 깃허브 이용자 만 명 이상이 저장한 학습 자료. 다..

이 블로그 보고 진행했다. https://eona1301.github.io/github_blog/GithubBlog-Favicon/ [Github Blog] minimal mistakes - 파비콘(Favicon) 세팅하기 📌 작성자 개발 환경 OS : Windows 10 Tool : Visual Studio Code eona1301.github.io 로그인 안 하고 fabicon 샘플 다운로드는 여기서 가능. https://icooon-mono.com/ アイコン素材ダウンロードサイト「icooon-mono」 | 商用利用可能なアイコン素材が無料(フリー)ダ icooon-mono.com 아래에서 generate 하고 적용하면 끝! https://realfavicongenerator.net/ Favicon Gene..