AI 하드웨어·소프트웨어 스택
XLA, TVM, PyTorch의 컴파일 기능과 같은 AI 컴파일러가 수행하는 주된 처리로 올바른 것은 무엇인가?
- AAI 모델의 답을 사람의 말로 번역한다
- B학습용 데이터를 자동으로 수집한다
- C모델의 계산 그래프를 분석하여 연산 융합, 데이터 배치, 타일링 등을 최적화하고 대상 하드웨어용 코드를 생성한다
정답과 해설 보기
정답: C. 모델의 계산 그래프를 분석하여 연산 융합, 데이터 배치, 타일링 등을 최적화하고 대상 하드웨어용 코드를 생성한다
AI 컴파일러는 모델을 연산과 데이터 흐름의 계산 그래프로 받아, 묶을 수 있는 연산의 융합, 불필요한 계산의 삭제, 메모리 배치의 선택, 타일 크기의 조정 등을 수행하고 GPU나 NPU 등 대상에 맞는 커널을 만듭니다. 같은 모델이라도 하드웨어마다 최적의 코드를 자동으로 만들 수 있으므로, 수작업 최적화의 수고를 크게 줄일 수 있습니다.
- A. 자연어 번역과는 관계가 없습니다.
- B. 데이터 수집 도구가 아닙니다.
- C. 정답입니다. 하드웨어의 성능을 끌어내기 위한 도구입니다.