AD
오픈AI가 브로드컴과 손잡고 자체 개발한 차세대 인공지능 칩 '할라페뇨'를 연내 실제 모델 구동에 투입할 계획이라고 밝혔습니다.
오픈AI 하드웨어 총괄은 할라페뇨가 전력당 처리량과 응답 속도 두 가지 핵심 지표에서 엔비디아의 최고 성능 칩을 앞질렀다고 강조했습니다.
이번에 공개된 신형 칩은 이미 학습을 마친 모델이 사용자의 요청에 응답하고 작업을 처리하는 '추론' 단계에 특화되어 설계되었습니다.
특히 IT 전문매체 세미애널리시스는 할라페뇨가 패키지당 15.4TB/s 대역폭의 HBM4 메모리를 탑재했으며, 그 공급업체가 삼성전자인 것으로 추정된다고 보도했습니다.
700와트의 상대적으로 낮은 전력에서도 고성능을 내는 이 칩은 데이터센터의 최대 골칫거리인 전력비와 운영 비용을 큰 폭으로 낮춰줄 것으로 기대됩니다.
오픈AI는 자체 소형 모델은 물론 딥시크와 문샷AI의 타사 모델을 대상으로 한 테스트에서도 뛰어난 성능 우위를 확인했다고 덧붙였습니다.
다만 엔비디아가 여전히 핵심 파트너이며 컴퓨팅 수요가 워낙 커서 당분간 다양한 공급업체와의 협력을 유지할 방침이라고 설명했습니다.
이미 2세대와 3세대 칩 개발에 속도를 내고 있는 오픈AI의 이번 독자 행보가 글로벌 AI 칩 시장에 어떤 지형 변화를 몰고 올지 주목됩니다.
YTN 권영희 (kwonyh@ytn.co.kr)
※ '당신의 제보가 뉴스가 됩니다'
[카카오톡] YTN 검색해 채널 추가
[전화] 02-398-8585
[메일] social@ytn.co.kr
[저작권자(c) YTN 무단전재, 재배포 및 AI 데이터 활용 금지]
오픈AI 하드웨어 총괄은 할라페뇨가 전력당 처리량과 응답 속도 두 가지 핵심 지표에서 엔비디아의 최고 성능 칩을 앞질렀다고 강조했습니다.
이번에 공개된 신형 칩은 이미 학습을 마친 모델이 사용자의 요청에 응답하고 작업을 처리하는 '추론' 단계에 특화되어 설계되었습니다.
특히 IT 전문매체 세미애널리시스는 할라페뇨가 패키지당 15.4TB/s 대역폭의 HBM4 메모리를 탑재했으며, 그 공급업체가 삼성전자인 것으로 추정된다고 보도했습니다.
700와트의 상대적으로 낮은 전력에서도 고성능을 내는 이 칩은 데이터센터의 최대 골칫거리인 전력비와 운영 비용을 큰 폭으로 낮춰줄 것으로 기대됩니다.
오픈AI는 자체 소형 모델은 물론 딥시크와 문샷AI의 타사 모델을 대상으로 한 테스트에서도 뛰어난 성능 우위를 확인했다고 덧붙였습니다.
다만 엔비디아가 여전히 핵심 파트너이며 컴퓨팅 수요가 워낙 커서 당분간 다양한 공급업체와의 협력을 유지할 방침이라고 설명했습니다.
이미 2세대와 3세대 칩 개발에 속도를 내고 있는 오픈AI의 이번 독자 행보가 글로벌 AI 칩 시장에 어떤 지형 변화를 몰고 올지 주목됩니다.
YTN 권영희 (kwonyh@ytn.co.kr)
※ '당신의 제보가 뉴스가 됩니다'
[카카오톡] YTN 검색해 채널 추가
[전화] 02-398-8585
[메일] social@ytn.co.kr
[저작권자(c) YTN 무단전재, 재배포 및 AI 데이터 활용 금지]
AD
