
삼성전자가 엔비디아의 인공지능(AI) 및 그래픽처리장치(GPU) 기술을 활용해 반도체 개발에 필요한 시뮬레이션 속도를 최대 4000배 높였다. 자체 개발한 물리 해석 알고리즘과 엔비디아의 GPU 가속 기술을 결합해 기존 18시간이 걸리던 계산을 41초로 단축하는 성과를 거뒀다.
◆ 자체 알고리즘·엔비디아 기술로 계산 병목 완화
9일 이성엽 삼성전자 반도체 부문 CS팀 박사는 서울 코엑스에서 열린 '엔비디아 AI 데이 서울 2026'에서 엔비디아 기술을 활용한 연구 및 협업 성과를 발표했다.
이번 성과의 핵심은 삼성전자가 개발한 영역 분할·물성 균질화 알고리즘과 엔비디아의 가속 컴퓨팅 기술을 결합한 데 있다.
삼성전자는 반도체 물리 방정식에 AI를 접목해 학습시키는 '사이언티픽 머신러닝' 기술을 활용, 시뮬레이션의 계산 병목을 완화했다. 반도체 소자가 미세화되고 공정이 복잡해지면서, 점점 늘어나는 열과 기계적 응력을 빠르게 예측해 불량을 조기에 잡기 위한 기술이다.
이 박사는 "최근 소자의 크기가 작아지고 공정이 첨단화되면서 열과 기계로 인한 불량을 해결하는 것이 굉장히 중요한 이슈"라며 "CS팀과 엔비디아 협업에서 관심을 가졌던 주제는 다중 물리를 학습한 파운데이션 모델 개발"이라고 설명했다.
삼성전자는 대면적 반도체를 여러 작은 영역으로 나눠 각각의 열과 기계 분야의 다중 물리 현상을 예측한 뒤 이를 통합하는 방식을 적용했다. 특히 인접 영역 간 발생하는 오차를 줄이는 자체 업데이트 알고리즘을 통해 전체 해석의 결과 도출 속도와 정확도를 높였다.
여기에 삼성전자는 엔비디아의 피직스네모(PhysicsNeMo)와 워프(Warp) 등 기술을 활용해 대규모 연산을 가속했다. 그 결과 기존 32코어 CPU에서 정밀 격자 해석에 약 18시간이 소요되던 작업을 AI 기반 물성 예측과 격자 간소화, GPU 가속 해석을 통해 약 41초로 줄였다.
이 박사는 "기존 CPU 기반에서 하루 정도 걸리는 시뮬레이션 작업이 GPU 환경에서는 수십 초에서 약 1분 내로 단축됐다"며 "작게는 1000배, 많게는 4000배 가까운 시뮬레이션 실행 시간의 이득을 얻을 수 있었다"고 밝혔다.
이어 "우리가 설계하고 검증한 방법론을 나타낸 엔드투엔드 파이프라인에서 결정적인 역할을 한 것은 엔비디아의 피직스네모와 워프 같은 오픈소스 프레임워크"라고 덧붙였다.
◆ 반도체 개발 전반 AI 시뮬레이션 확대
삼성전자는 이번 기술을 통해 대면적 반도체의 열·기계적 해석에서 발생하던 계산 병목을 개선하고, 복잡한 반도체 구조를 보다 신속하게 분석할 수 있는 기반을 확보했다.
이 박사는 "이번 협업을 통해 병목 구간으로 여겨지던 대면적 반도체 시뮬레이션에서 고속화를 노릴 수 있는 단계까지 나아가게 됐다"며 "복잡한 물성 패턴에서 정밀한 시뮬레이션을 요구하는 실제 애플리케이션에서는 더 큰 고속화 효과를 기대하고 있다"고 말했다.
삼성전자는 이와 함께 엔비디아의 cuISS·cuDSS를 활용한 반도체 공정 및 소자 시뮬레이션(TCAD) 가속과 공정·광학 시뮬레이션의 GPU 적용도 추진하고 있다. 자체 소재 연구 플랫폼 'sMOL'에는 엔비디아의 cuEST를 적용해 일부 양자화학 계산에서 최대 5배의 속도 향상을 달성하며 소재 후보군 평가와 연구개발 효율을 높일 것으로 기대하고 있다.
향후에는 시뮬레이션 도구와 AI 모델을 연결해 설계 대안을 비교하고 해석 결과를 검증하는 엔지니어링 에이전트 기술로 연구 범위를 확대할 계획이다.
이 박사는 "반도체 물리를 바탕으로 AI 기반의 고속 시뮬레이션 기술 개발을 지속할 것"이라며 "그 과정에서 엔비디아와 지속적인 협업이 이뤄지길 기대한다"고 밝혔다.


댓글 (0)
댓글을 작성하려면 로그인이 필요합니다.
로그인하기