2025.08.20by 배종인 기자
임의철 SK하이닉스 부사장이 ‘2025년 제2회 상생포럼 Deep Tech Convergence 네트워킹 데이’ 행사에서 ‘Crushing the token cost wall of LLM Service-Attention offloading with PIM-GPU heterogeneous System’이란 주제로 발표했다. 임의철 부사장은 PIM과 GPU를 함께 써서 어텐션 연산을 메모리 쪽으로 분리 처리함으로써 토큰 길이에 따라 급증하는 비용·지연 문제를 근본적으로 낮춰야 한다고 밝혔다.
E4DS의 발빠른 소식을 이메일로 받아보세요
[열린보도원칙] 당 매체는 독자와 취재원 등 뉴스이용자의 권리 보장을 위해 반론이나 정정보도, 추후보도를 요청할 수 있는 창구를 열어두고 있음을 알려드립니다.
고충처리인 장은성 070-4699-5321 , news@e4ds.com
아직 회원이 아니신가요?
아이디와 비밀번호를 잊으셨나요?