Dogun Kim

ch2. Text classification # BPE1.1 유형1) Byte-Pair Encoding(BPE)를 사용해 주어진 코퍼스에서 #n-size의 vocabulary 만들기. Sol)순서1) 코퍼스 안에서 유니크한 word 하나 뽑기vocab = {a, b, c} 순서2) 첫 번째 반복: 띄어 쓰기를 기준으로 코퍼스를 나누고, 한 칸씩 이동하면서 2 word 묶음 개수 카운팅.> abc / ccba / abbccc/ aaabbbccaai) abc -> ab, bcii) ccba -> cc, cb, baiii) abccc -> ab, bc, cc, cciv) aaabbbccaa -> aa, aa, ab, bb, bb ,bc, cc, ca, aa> ab: 3개, bc: 3개, cc: 4개, cb: ..

LMDrive: Closed-Loop End-to-End Driving with Large Language Modelshttps://arxiv.org/abs/2312.07488 LMDrive: Closed-Loop End-to-End Driving with Large Language ModelsDespite significant recent progress in the field of autonomous driving, modern methods still struggle and can incur serious accidents when encountering long-tail unforeseen events and challenging urban scenarios. On the one hand, lar..

The Era of 1-bit LLMs: All Large Language Models are in 1.58 Bitshttps://arxiv.org/abs/2402.17764 The Era of 1-bit LLMs: All Large Language Models are in 1.58 BitsRecent research, such as BitNet, is paving the way for a new era of 1-bit Large Language Models (LLMs). In this work, we introduce a 1-bit LLM variant, namely BitNet b1.58, in which every single parameter (or weight) of the LLM is tern..

서울시립대학교 인공지능학과 정지영 교수님의 패턴인식 강의를 정리함을 미리 알립니다. Continuous Time ConvolutionConvolution PropertiesThe Response of LTI Systems to Complex Exponentials CTFSDTFS 이전 글을 꼭 보고 오자 The Response of LTI Systems to Complex Exponentials와 연결된다.https://dogunkim.tistory.com/54 CTFS # CT 신호에 대한 푸리에 시리즈이다.1. Fourier series앞에서 Input 신호가 지수 복소 형태 즉 Complex Exponentials 형태이면 Output 신호 예측이 쉽다는 걸 알 수 있었다.결론부터 말하자면, 주기성..

서울시립대학교 인공지능학과 정지영 교수님의 패턴인식 강의를 정리함을 미리 알립니다.  Continuous Time Convolution Convolution Properties The Response of LTI Systems to Complex Exponentials CTFSDTFS L02에서 배운 LTI Convolution을 CT 신호에 대해 적용해볼 것이고, 푸리에 시리즈를 공부할 것이다.Continuous Time ConvolutionL_02 DT 신호에 대한 LTI Convolution에 이어서 CT 신호에 대해서는 어떻게 될까? 를 공부할 것이다.결론부터 말하자면, 모든 CT 신호도 Impulse 신호로 표현할 수 있으며, LTI 시스템이라면 Output를 합성곱을 통해 구할 수 있다. 우선..

서울시립대학교 인공지능학과 정지영 교수님의 패턴인식 강의를 정리함을 미리 알립니다. SignalCT/ DT SignalSignal Properties SystemCT/ DT SystemSystem Properties ConvolutionLTI SystemLTI Convolution Signal- What is a Signal? :  A signal is a pattern of variation of some form + Signals are variables that carry information어떤 형태로든 변화의 패턴을 나타내는 것이 바로 신호이다. 신호는 변화하면서 정보를 갖는다.무엇이 변화하는 값인지에 대해서는 어떤 신호이냐에 따라 다르다. ex) Electrical signals, Video ..

https://arxiv.org/abs/2203.08195 DeepFusion: Lidar-Camera Deep Fusion for Multi-Modal 3D Object DetectionLidars and cameras are critical sensors that provide complementary information for 3D detection in autonomous driving. While prevalent multi-modal methods simply decorate raw lidar point clouds with camera features and feed them directly to existing 3D detarxiv.org - AbstractLiDAR와 카메라는 3D de..

Ch03. Point cloud matching 3-1. Point cloud 매칭 및 활용 분야3-2. Point cloud 특징 추출 방법3-3. 고전적인 Point cloud 매칭 방법론, 실습3-4. 딥러닝 기반 Point cloud 매칭 - RPM-Net3-5. TEASER 라이브러리를 통한 Point cloud 정합3-6. Point cloud 매칭을 활용한 Place recognition-PointNetVLAD   3-3. 고전적인 Point cloud 매칭 방법론, 실습고전적인 방법들이 뒤에서 배울 딥러닝에 비해 효율이 많이 떨어지는 건 맞지만.. 기본적인 라이브러리에서 쉽게 함수를 불러올 수 있기에 급하게 정합이 필요할 때 정도 사용할 수 있다.. 그냥 여기서 파생해서 어떤 방법들을 사용..

서울시립대학교 인공지능학과 고상기 교수님의 강화학습 수업을 정리함을 미리 알립니다. 1. About Reinforcement Learning 강화학습 기본 구조강화학습에서는 Agent가 Environment에서의 Observation과 reward를 바탕으로 action을 결정하며, 리워드를 크게 받기 위한 행동들을 학습한다. 이 상호작용은 시간에 흐름에 따라 진행한다. 이러한 강화학습은 다음과 같은 특징을 보인다.- No supervisor: 강화학습은 지도 학습하지 않는다. 관찰과 보상을 스스로 수집하여 학습을 진행한다. - Date-driven: 데이터를 기반으로 의사결정을 한다.- Discrete time steps: 연속적 시간을 강화학습에 적용할 수 없기에 이산적으로 가정하고 근사하여 강화학습..