
SK하이닉스가 엔비디아의 인공지능(AI) 기술을 활용해, 극도로 복잡한 반도체 식각 시뮬레이션 속도를 수십 배 높이는 등 공정 효율을 개선하는 데 성공했다. 또 SK하이닉스는 엔비디아의 GPU 연산을 활용해 반도체 칩의 열·변형 등 물리 해석 속도를 기존 대비 30배 이상 개선했다.
◆ "엔비디아와 만든 AI 시뮬레이터로 식각 공정 데이터 증강"
9일 김정한 SK하이닉스 미래기술연구원 팀장은 서울 강남구 코엑스에서 열린 '엔비디아 AI 데이 서울 2026'에서 엔비디아의 AI 및 GPU 가속 기술을 활용한 반도체 공정 시뮬레이션 연구 성과를 공개했다.
SK하이닉스는 엔비디아와 협력해 기존 반도체 기술컴퓨터지원설계(TCAD)에 AI를 결합한 'TCAD 3.0'를 개발하고 있다. 반도체 공정의 복잡성과 방대한 계산량, 학습 데이터 부족 등 기존 시뮬레이션의 한계를 극복하기 위한 기술이다.
김 팀장은 "현재 HBM 등 커스터마이즈 메모리 시대가 도래함에 따라 기존 TCAD는 다시 한번 변화를 가져와야 하는 시점"이라며 "TCAD 3.0을 활용하면 전통적인 반도체 물리 시뮬레이션에 AI를 결합해 계산 속도와 정확도, 대면적 해석의 한계를 극복할 수 있다"고 설명했다.
TCAD 3.0의 대표적인 개발 성과는 식각 공정 시뮬레이션이다. 식각은 가스로 반도체 제조 과정에서 불필요한 부분을 조금씩 깎아나가는 공정이다. 이 과정을 거듭하면서 파인 홈의 깊이 등 형상이 계속 바뀌므로, 시간에 따른 변화를 안정적으로 예측해 공정을 이어가는 게 관건이다.
SK하이닉스는 엔비디아의 물리 AI 개발 프레임워크인 '피직스네모(PhysicsNeMo)'를 활용해, 식각 공정에서 발생하는 매우 복잡한 계산을 안정적으로 해결하는 모델을 개발했다.
김 팀장은 "반도체 식각 공정은 5개 이상의 단계로 이뤄져 있으며 단계가 많아지면 경우의 수가 기하급수적으로 많아진다"며 "협업을 통해 개발한 AI 프로세스 시뮬레이터는 데이터 어그멘테이션(증강) 측면에서 적절한 해결 방안이 됐다"고 강조했다.
◆ GPU 기술로 반도체 칩 물리 해석 30배 가속
SK하이닉스는 엔비디아의 GPU 기반 병렬 연산 기술을 통해, 반도체 칩의 대면적 열과 기계적 변형을 계산 및 해석하는 성능도 개선했다.
이전까지는 미세 구조를 칩 전체 규모로 해석할 때 계산량과 메모리 사용량에 한계가 있었다. SK하이닉스는 GPU 최적화 과정에서 엔비디아의 CuPy와 cuBLAS를 활용했다. GPU 병렬 연산과 다중 GPU 기술로 연산을 분산해, 처리 속도를 전통적인 32스레드 CPU 대비 30배 이상으로 높였다. 이는 공정 및 개발 효율 제고로 직결된다.
김 팀장은 "전통적인 TCAD 시뮬레이션을 통해서는 계산량과 메모리 문제로 대면적 문제를 풀 수 없었다"며 "엔비디아의 CuPy와 cuBLAS 같은 GPU 통신을 활용하면서 계산을 여러 장치에 나눠 처리한 결과 SK하이닉스가 기대하는 속도 개선과 메모리 사용량 개선을 확보했다"고 말했다.
SK하이닉스는 이번 성과를 바탕으로 TCAD 3.0에 AI가 물리 시뮬레이션 모델 개발을 지원하는 '바이브 모델링' 도입도 추진한다.
김 팀장은 "피직스 AI 솔루션을 바이브 코딩하듯 다루는 바이브 모델링 단계로 가져올 수 있다면, 개발에 속도를 더 낼 수 있을 것"이라며 "엔비디아와 함께 반도체 생산성 향상을 피지컬 AI를 통해 만들겠다"고 말했다.


댓글 (0)
댓글을 작성하려면 로그인이 필요합니다.
로그인하기