반응형
딥러닝을 할 때 코드는 처음부터 다 짠다?
ㄴㄴ
남이 만든 걸 쓰는게 이점이 많다. 자료가 많고 관리도 잘되고 표준임
왜 텐서플로를 개방했는가?
문서화하기 위해서
지금 표준은 파이토치와 텐서플로 두 개다.
케라스 자체가 연산 지원하기 보다 이러한 다른 언어를 쉽게 쓸 수 있게 함
케라스는 텐서플로 사에 흡수되었다.
파이토치와 텐서플로 가장 큰 차이는 그래프 그리는 점
하나는 스태틱 -> 백프로포게이션
파이토치는 실행 시점에서 그래프를 그린다.
자동미분 실행시점에서 그래프를 그린다.
텐서플로는
- Define and Run
그래프 정의 코드를 만들고 실행 시점에 데이터를 넣어준다.
파이토치는
- Define by Run (Dynamic Computational Graph, DCG)
Pytorch는 실행을 하면서 그래프 생성하는 방식
파이토치는 중간중간 값을 확인할 수 있어서 디버깅이 쉽다는 장점이 있다.
학회가 선호하는 파이토치. 위는 mention ( 구현 정도) 그래프. 파이토치가 우상향하는 중
텐서플로는 production, cloud, multiple GPU에서 큰 장점을 가짐
그래서 실제 제품 적용에 장점을 가지고 있음
파이토치는 논문, 아이디어 구현 등 low level 수준에서 좋음
PyTorch 시작하기
PyTorch
Numpy + AutoGrad + Function
Numpy 구조를 가지는 Tensor 객체로 array 표현
자동미분을 지원하여 DL 연산을 지원
다양한 형태의 DL을 지원하는 함수와 모델을 지원함
Dataset, Multi-GPU ....
반응형
'Boostcamp AI tech 3기 > 개념 이해' 카테고리의 다른 글
| torch.range is deprecated warning -> torch.arange (0) | 2022.01.25 |
|---|---|
| 텐서 함수 조금 정리. 생성, 타입, select, cat, stack (0) | 2022.01.25 |
| pytorch의 reshape and view 차이 (+ contiguity 문제) (0) | 2022.01.24 |
| [Week02] Pytorch - 3강 Pytorch 기본 환경 세팅 : colab에서 ssh 연결해 vscode 실행하기 (0) | 2022.01.24 |
| [Week01] AI Math - 경사하강법과 알고리즘 (0) | 2022.01.20 |
| [Week01] AI Math - 행렬과 역행렬 그리고 무어-펜로즈 역행렬 (0) | 2022.01.20 |
| [Week01] AI Math - 벡터의 길이, 각도, 내적 구하기 (0) | 2022.01.20 |
| jupyter notebook : ModuleNotFoundError 모듈 설치했는데도.. (0) | 2022.01.20 |