인텔은 AI 및 고성능 컴퓨팅 (HPC) 성능을 향상시키기 위해 두 가지 신규 제품인 Xeon 6 프로세서와 Gaudi 3 AI 가속기를 출시했습니다.

Xeon 6 프로세서
- AI 비전 성능을 두 배로 늘릴 수 있는 성능 코어(P-cores)를 특징으로 합니다.
- 코어 수를 증가시키고 메모리 대역폭을 두 배로 늘리며, 내장된 AI 가속 기능으로 컴퓨터 집약적인 작업을 처리하도록 설계되었습니다.
- 엣지에서 데이터 센터, 클라우드 환경까지 AI의 성능 요구를 충족하도록 만들어졌습니다.
- 이전 모델보다 두 배의 성능을 제공합니다.

Gaudi 3 AI 가속기
- 대규모 생성 AI에 최적화되어 있으며, 64개의 텐서 프로세서 코어(TPCs)와 8개의 행렬 곱셈 엔진(MMEs)을 포함하여 심층 신경망 계산을 가속화합니다.
- 훈련과 추론을 위한 128 GB의 HBM2e 메모리와 확장 가능한 네트워킹을 위한 24개의 200 기가비트 이더넷 포트를 포함합니다.
- LLaMa 2 70B 모델의 추론에 대해 Nvidia의 H100보다 20% 더 많은 처리량과 2배의 가격 성능을 제공합니다.
- PyTorch 프레임워크 및 고급 Hugging Face 변환기와 확산 모델과 호환됩니다.
- IBM과의 협업의 일환으로, Gaudi 3 AI 가속기를 IBM Cloud에서 서비스로 배포하여 총 소유 비용을 낮추고 성능을 향상시키는 것을 목표로 합니다.

이점 및 배포
- 이 솔루션들은 인텔이 최적의 성능과 낮은 총 소유 비용(TCO)을 가진 강력한 AI 시스템을 제공하겠다는 약속의 일환입니다.
- 인텔은 Dell Technologies, Hewlett Packard Enterprise, Supermicro와 같은 OEM과 협력하여 특정 고객 요구에 맞춘 공동 설계 시스템을 개발하고 있습니다.
- Intel Tiber Developer Cloud는 기술 평가 및 테스트를 위한 Xeon 6의 미리보기 시스템을 제공하며, 선택된 고객은 AI 모델 배포를 검증하기 위해 Gaudi 3에 조기 접근할 수 있습니다.