[RL] Do it 강화 학습 입문 6장 - 분산 강화 학습

6-1. 분산 학습 기초

분산 학습의 필요성

학습해야 할 데이터의 양이 너무 많아졌다

 

분산 학습 환경

분산 학습은 분산 컴퓨팅을 기반으로 한다

분산 컴퓨팅은 여러 컴퓨터를 연결하여 문제를 빠르게 해결하는 방법이다

 

분산 학습 환경의 큰 축은 클러스터 컴퓨팅과 클라우드 컴퓨팅, 멀티스레드와 멀티코어, 하드웨어 가속기로 총 3가지이다

클러스터 컴퓨팅과 클라우드 컴퓨팅은 컴퓨터를 여러 대 연결하여 컴퓨팅 자원을 늘린다

멀티스레드와 멀티코어는 한 번에 여러 작업을 진행하도록 한다

하드웨어 가속기: GPU, TPU 등

 

클러스터 컴퓨팅은 컴퓨터 여러 대를 하나의 그룹으로 묶어 연산력을 높이는 컴퓨팅 환경이다

클러스터 컴퓨팅은 원하는 자원을 주문하고 바로 사용하며, 사용한만큼 지불하는 유연한 컴퓨팅 환경이다

 

멀티스레드는 한 CPU 안에서 여러 연산이 병렬로 진행되는 기술이다

멀티코어는 CPU  코어를 여러 개 사용하는 기술이다

 

하드웨어 가속기에는 GPU, TPU, FPGA 등이 있다

컴퓨터의 CPU와 메모리를 사용하지 않으며 별도의 연산 유닛과 메모리 구조를 가진다

 

분산 학습을 위한 소프트웨어

추후 진행