반응형

자연어 2

[밑시딥2] Chapter 2. 자연어와 단어의 분산 표현

본 포스팅은 '밑바닥부터 시작하는 딥러닝2'를 읽고 공부 및 학습 내용을 정리한 글입니다. 언제든지 다시 참고할 수 있도록, 지식 공유보단 개인적인 복습을 목적으로 포스팅하였습니다. 2.1 자연어 처리란? 우리가 일상생활에서 평소에 쓰는 한국어, 영어와 같은 말을 자연어라고 한다. 따라서 자연어 처리(Natural Language Processing, NLP)란? 말 그대로 '자연어를 처리하는 분야'이며, 사람의 말을 컴퓨터에게 이해시키기 위한 기술이다. 2.2 시소러스 시소러스란 사전적 정의로는 '뜻이 같은 단어(동의어)'나 '뜻이 비슷한 단어(유의어)'가 한 그룹으로 분류된 것을 뜻한다. 이러한 시소러스는 자연어 처리에서 '상위와 하위' 혹은 '전체나 부분'등 조금 더 세세한 관계까지도 정의할 수 있..

[밑시딥2] Chapter 1. 신경망 복습

본 포스팅은 '밑바닥부터 시작하는 딥러닝2'를 읽고 공부 및 학습 내용을 정리한 글입니다. 언제든지 다시 참고할 수 있도록, 지식 공유보단 개인적인 복습을 목적으로 포스팅하였습니다. 1.1 수학과 파이썬 복습 1.2 신경망의 추론 1.3 신경망의 학습 1.4 신경망으로 문제를 풀다 1.5 계산 고속화 1.6 정리신경망은 입력층, 은닉층(=중간층), 출력층을 지닌다.완전연결계층에 의해 선형 변환이 이뤄지고, 활성화 함수에 의해 비선형 변환이 이뤄진다.완전연결계층이나 미니배치 처리는 행렬로 모아 한꺼번에 계산할 수 있다.오차역전파법을 사용하여 신경망의 손실에 관한 기울기를 효율적으로 구할 수 있다.신경망이 수행하는 처리는 계산 그래프로 시각화할 수 있으며, 이를 통해 순전퍼와 역전파를 이해하는 데 도움이 된..

반응형