Published on2026년 3월 17일PyTorch 내부 구조 & 고급 최적화: autograd, torch.compile, FSDP, Triton까지PyTorchtorch.compileFSDPTriton혼합정밀도분산학습2026-032026-03-17PyTorch autograd 엔진, torch.compile() TorchInductor 최적화, FSDP 분산 학습, gradient checkpointing, 커스텀 CUDA 연산까지 PyTorch 완전 정복 가이드입니다.