CPU의 귀환이 시작되었습니다.
에이전트형 AI는 CPU를 새로운 성능 병목 현상으로 만들었습니다.
The CPU Comeback Is Upon Us
Agentic AI has made CPUs the new performance bottleneck
https://spectrum.ieee.org/ai-cpu-comeback
https://spectrum.ieee.org/ai-cpu-comeback
IEEE Spectrum의 8월 16일자 온-라인 기사입니다.
GPU가 기계 학습(또는 인공지능)의 모든 것 인듯 말하지만 학습의 결과를 전달하고 이를 (인간을 위해)실행은 결국 CPU의 몫입니다. 에이전트형 AI는 CPU에 의해 실행된다는 의미입니다. 이 기사의 일부분은 인용하면,
인텔 의 선임 연구원인 소우빅 쿤두는 "에이전트형 AI 작업의 많은 구성 요소는 본질적으로 CPU 기반 작업입니다."라고 설명합니다 . "CPU는 출력을 분석하고, 어떤 도구를 호출할지 결정하고, API를 호출하거나 코드를 실행하고, 결과를 수집하고, 피드백하는 작업을 수행합니다." AMD 의 컴퓨팅 및 엔터프라이즈 AI 제품 담당 부사장인 마두 랑가라잔도 비슷한 주장을 하며, "우리의 테스트 결과, 실제 에이전트형 AI 파이프라인의 8단계 중 7단계가 전적으로 CPU에서 실행되었습니다."라고 말합니다.
인간과의 소통, 각종 센서를 전자계산기에 연결 하려면 '인터페이스' 장치가 필요합니다. 거대한 "인공지능 칩(GPU든 NPU 든)" 만이 설계할 가치가 있는 듯이 착각하게 만드는 요즘입니다. 하지만 요소요소마다 적정한 규모의 설계가 뒤따라야 비로서 "인공지능"이 실현될 수 있을 것입니다. "내 칩 제작 서비스" MPW에서 제공하는 칩의 규모가 비록 작지만 "거대한" 칩을 향한 시작으로 의미있을 것입니다.
---------------------------------------------------------------------------------
"내 칩 제작 서비스"/"반도체 설계 교실" 오픈-소스 디자인 킷 사용자 그룹
댓글 없음:
댓글 쓰기