e4ds news

LLM

“AI 성공, 양질의 데이터 확보·GPU 등 인프라 병렬화·최적화가 핵심”

2025.12.10by 배종인 기자

12월10일 소공동 롯데호텔에서 개최된 인공지능반도체 미래기술 컨퍼런스에서 전기정 LG AI연구원 부문장은 ‘AX성공의 열쇠:EXAONE AI Stock 전략 사례’를 주제로 발표하며, “AI의 성공적 도입을 위해서는 데이터 생성·가공의 자동화, 인프라의 효율적 확장, 그리고 각 산업별 맞춤형 모델 개발이 필수”라고 밝혔다.
AMD, 자이프라의 프런티어급 AI 모델 학습 지원

2025.11.25by 배종인 기자

글로벌 반도체 기업 AMD가 혁신적인 AI 스타트업 자이프라(Zyphra)와 협력해 최초의 대규모 전문가 혼합(Mixture-of-Experts, MoE) 파운데이션 모델 ZAYA1을 성공적으로 훈련했다. 이번 성과는 AMD 인스팅트(Instinct) MI300X GPU, AMD 펜산도(Pensando) 네트워킹, 그리고 ROCm 오픈 소스 소프트웨어 스택을 기반으로 달성된 것으로, 대규모 AI 모델 학습 분야에서 AMD의 기술적 우수성을 입증하는 사례로 평가된다.
[2025 e4ds Tech Day]“온디바이스 AI 시대, 경량화 기술이 핵심”

2025.10.20by 배종인 기자

“경량화는 단순히 모델을 작게 만드는 것이 아니다. 저전력 디바이스에서 실시간으로 AI를 구동하기 위해서는 연산량을 줄이고, 하드웨어에 맞게 최적화하는 복합적인 기술이 필요하다. 특히 온디바이스 AI 환경에서는 클라우드에 의존하지 않고 디바이스 자체에서 AI를 실행해야 하므로, 경량화는 선택이 아닌 필수다” 조석영 Nota AI(노타 AI) 매니저는 지난 9월9일 개최된 ‘2025 e4ds Tech Day’ 행사에서 ‘온디바이스 AI를 위한 하드웨어 인지 AI 모델 최적화 솔루션 및 성공 사례’에 대해 발표하며, 온디바이스 AI 시대 AI 모델의 경량화 기술의 중요성에 대해 밝혔다.
델, 책상 위에서 2,000억 매개변수 LLM 구현

2025.10.14by 배종인 기자

델 테크놀로지스(Dell)가 초고성능 데스크톱 AI 시스템 ‘델 프로 맥스 위드 GB10(Dell Pro Max with GB10)’을 공식 발표했다. 이 제품은 엔비디아의 최신 그레이스 블랙웰(GRACE BLACKWELL) 아키텍처 기반 GB10 슈퍼칩을 탑재해, 클라우드 연결 없이도 최대 2,000억 개 매개변수의 대규모 언어 모델(LLM)을 로컬 환경에서 직접 개발·추론할 수 있는 것이 특징이다.
데이터브릭스, 오픈AI와 파트너십 체결…GPT-5 기반 프론티어 인텔리전스 제공

2025.09.26by 배종인 기자

글로벌 데이터 및 AI 기업 데이터브릭스(Databricks)가 오픈AI와 1억 달러 규모의 전략적 파트너십을 체결하고, 자사 데이터 인텔리전스 플랫폼과 대표 AI 제품인 에이전트 브릭스(Agent Bricks)에 오픈AI의 최신 모델을 네이티브로 통합했다.
“낮은 사양에서도 고성능 LLM 구현”

2025.09.25by 배종인 기자

AI 최적화 및 경량화 기술 전문기업 노타(대표 채명수)는 25일 낮은 사양의 디바이스에서도 대규모 언어모델(LLM)을 안정적으로 구현할 수 있는 ‘LLM 최적화 서비스’를 공식 출시했다. 이 서비스는 기존 하드웨어를 그대로 활용하면서도 최신 LLM과 비전-언어모델(VLM)을 빠르게 추론할 수 있도록 설계돼, 기업의 인프라 투자 부담을 크게 줄일 수 있다는 점에서 주목받고 있다.
“AI 적용 위한 PoC는 끝났다, 온프레미스 전환해야”

2025.09.17by 배종인 기자

델 테크놀로지스(Dell Technologies) 조용노 전무가 17일 Dell AI Factory Media Briefing에서 이제 AI는 단순한 기술 시연을 넘어, AI가 실제 업무에 적용하는 단계에 진입했다며 엔터프라이즈 AI에 집중하며, 퍼블릭 클라우드의 한계를 인식하고 온프레미스 환경으로의 전환을 강조했다.
“현재는 AI와 인간의 경주 시대, AI 극복하고 활용해야”

2025.09.17by 배종인 기자

김경진 델 테크놀로지스 코리아 총괄사장이 17일 ‘델 테크놀로지스 포럼(Dell Technologies Forum’ 인사말을 통해 “현재는 AI와 인간의 경주 시대다. AI는 단순한 도구가 아닌, 마치 생명체와 같은 존재로 인간은 AI에 종속되지 않고 이를 활용하는 방향으로 나아가야 한다”며, 인공지능이 인간의 삶과 일터를 어떻게 재편하고 있는지를 성찰했다.
SKT, 자체 LLM 기술로 초거대 AI 모델 도전…A.X 3.1·4.0 4종 전격 오픈소스 공개

2025.07.24by 배종인 기자

SK텔레콤(대표이사 유영상)이 글로벌 오픈소스 커뮤니티 허깅페이스(Hugging Face)에 자체 개발한 대형 언어 모델(LLM) ‘A.X(에이닷 엑스) 3.1’을 공개하며 국내 AI 주도권 확보에 나섰다. SKT는 반도체·모델·데이터·서비스를 잇는 ‘풀스택 AI’ 역량을 앞세워 과학기술정보통신부 주관 ‘독자 AI 파운데이션 모델 사업’ 컨소시엄을 구성했다. 게임사 크래프톤, 모빌리티 데이터 기업 포티투닷, NPU 전문기업 리벨리온, AI 에이전트 라이너, 데이터 안정성 기술사 셀렉트스타, 서울대·KAIST 연구진 등 10여 개 기관이 참여해 국내 독자 파운데이션 모델 개발에 시너지를 더한다.
잠재 추론 트랜스포머 모델 출현, HBM 지고 PIM 도래

2025.02.17by 권신혁 기자

딥시크의 출현으로 기존 판도에 균열이 발생하고 있다. AI 하드웨어 시장에 HBM 의존도를 낮출 수 있는 새로운 트랜스포머 모델들의 출현이 가속화되면서 빠른 미래 혁신의 흐름에 대응할 필요성이 있어 보인다. 최근 7일 메릴랜드 대학 연구진은 ‘Scaling up Test-Time Compute with Latent Reasoning: A Recurrent Depth Approach’이란 논문을 발표하며 혁신적인 AI 모델 구조를 제시했다.

많이 본 뉴스

[열린보도원칙] 당 매체는 독자와 취재원 등 뉴스이용자의 권리 보장을 위해 반론이나 정정보도, 추후보도를 요청할 수 있는 창구를 열어두고 있음을 알려드립니다.

고충처리인 장은성 070-4699-5321 , news@e4ds.com