IT & Technology42 뉴로모픽 컴퓨팅 기반의 초저전력 거대 언어모델 AI반도체 뉴로모픽 컴퓨팅 기반의 초저전력 ‘상보형-트랜스포머’ KAIST, 뉴로모픽 컴퓨팅 기반의 초저전력 거대 언어 모델 인공지능반도체 핵심기술 ‘상보형-트랜스포머’ 개발했다고 몇일전 기사를 통해 접했다. 삼성 28나노공정을 활용하여 GPT-2 거대 언어 모델을 400mW전력 소모로 성공적 구동하는 시물레이션을 통해 시연하였고, 이런 수치의 결과는 GPU(엔비디아 A100) 대비 소모전력은 625배, 칩 면적 41배 작은 인공지능 반도체 핵심기술 개발에 가장 큰 성과라고 알려졌다. 온디바이스 AI의 핵심인 초저전력·고성능 인공지능반도체를 뉴로모픽 컴퓨팅으로 구현한 것이 가장 큰 핵심이며, 400밀리와트 초저전력을 소모하면서 0.4초 초고속으로 거대 언어 모델을 처리할 수 있는 인공지능 반도체인 ‘상보형-트랜스포.. 2024. 3. 12. 새로운 디바이스로 주목받고 있는 전기차(EV) 스마트폰 이후 새로운 디지털 디바이스로 점차 부상하고 있는 전기차 스마트폰 이후 이를 뛰어넘는 새로운 디바이스가 부상하지 못하는 상황에서 전기차가 자동차, 운송수단 이라는 인식에서 추가해 주목해야 할 디지털 디바이스로 부상하고 있다. 미 바이든 대통령은 2021년 8월 전기차 비중 확대를 위해 2030년까지 미국에서 새로 판매되는 승용차의 50%를 친환경 차(전기차 & 하이브리드차)가 차지하도록 행정명령 발표하였다. 실제로 미국내 소비자들의 전기차에 대한 관심이 매우 높은 상태로 미국 전기차 판매량은 지난 5년간 꾸준히 오르는 모습을 보여주며 2021년에는 전년 대비 약 86% 급증하였고 전기차는 배터리, 모터와 같은 기계적인 요소의 중요성과 더불어 원활한 운영 소프트웨어(OS)를 비롯해 자율 주행수준,.. 2024. 3. 11. 헬스케어(health care) 데이터 각국의 활용 사례 헬스케어(health care) 데이터 각국의 활용 사례 헬스케어(health care) 란, 넓은 의미로는 질병의 치료, 예방, 건강 관리 과정을 모두 포함한 것을 말합니다. 좁은 의미로는 원격 진료나 건강 상담을 말하는 것이지요. 헬스 케어와 IT 기술이 합쳐지면 많은 사람들이 더 자유롭게 의료 서비스를 이용할 수 있습니다. 예를 들어, 의료 서비스와 유비쿼터스1) IT기술을 활용하면 u-헬스 케어라 불리는, 언제 어디서나 건강 관리를 받을 수 있는 원격 의료 서비스가 생겨나는 것이지요. IT 기술을 이용하여 집과 병원 사이의 거리가 너무 멀어 진료를 받기 어려운 지역에 영상 통화를 통해 진료를 받을 수 있는 기기를 갖춘 보건소를 만들면 전국의 병원과 실시간으로 질병과 건강에 관한 상담을 받을 수 있.. 2024. 3. 9. 대한민국 KAIST 연구진, ‘엔비디아 625배 효율’ AI 반도체 개발 KAIST 유회준 교수 연구팀, 뇌 모사 첨단기술로 초저전력 구현 국내 연구진이 초저전력으로 거대 언어모델을 0.4초만에 처리 가능한 인공지능(AI) 반도체 핵심기술을 세계 최초로 개발했다. 현존 최고의 엔비디아 GPU A100 대비 소모전력은 625배, 칩 면적은 41배 작게 만들어 효율을 극대화시켰다. 과학기술정보통신부는 유회준 KAIST 인공지능반도체대학원 교수 연구팀이 400㎽(밀리와트)의 초저전력을 소모하면서 0.4초 초고속으로 거대 언어 모델을 처리할 수 있는 인공지능 반도체인 ‘상보형-트랜스포머’를 삼성 28나노 공정을 통해 세계 최초로 개발했다고 7일 밝혔다. 연구팀은 다량의 GPU와 250와트의 전력소모를 통해 구동되는 GPT 등 거대 언어 모델(LLM)을 4.5㎜x4.5㎜의 작은 한 개.. 2024. 3. 7. 국내·외 빅데이터 서비스 사례 살펴보기 오늘은 십여 년전부터 이슈가 되고 있고 전 산업계에 퍼져 활용되고 있는 빅데이터 분야에 대해 함께 알아보고자 합니다. 빅데이터는 정보를 수집하여 가공 후 일정한 규칙된 자료화를 시킨 결과물의 집합이라고 이해를 하면 좋을 것 같습니다. 이런 자료들이 수십만개에 걸쳐서 상호 트리거 형태로 나열되어 연계되고 학습되어 하나의 데이터 뭉치로 구동하게 되는데, 이것을 흔히들 빅데이터로 인식되고 있습니다. 우리가 빅데이터로 활용하기 위해서는 사전에 자료화된 정보들이 잘 취합되어야 하고, 규칙성을 가진 자료들이 누적되어 데이터화 됨으로써 각 분야에서 활용이 되고 있습니다. 오늘은, 우리 주변의 각각의 파편화된 정보들이 모여서 자료가 된 후에 이를 활용하는 사례에 대해서 알아보고자 합니다. 국내 지자체 빅데이터 서비스 .. 2024. 3. 4. 인공지능 AI 기반, 터줏대감 laaS와 NVIDIA 기반의 기반 생성형AI 가치 사슬에서 FM의 기반, 즉 “기반의 기반”이 되는 영역이 IaaS와 반도체다. IaaS 시장에서는 이미 아마존의 AWS, MS의 Azure, 구글의 GCP 등이 글로벌 경쟁을 하고 있다. AI IaaS 영역에서는 MS가 오픈AI와 함께 제대로 준비해 왔고, 구글은 자신들의 AI 연구와 함께 TPU를 직접 개발, 제작하며 AI IaaS 경쟁력을 확보해 왔다. 물론 AWS는 글로벌 No.1 IaaS 사업자의 위치에 맞게 투자를 지속해 왔지만, MS와 구글은 AI 중심으로 IaaS 시장이 변화되고 있음을 활용해 AWS의 입지를 흔들고자 공략 중이다. AI 반도체 영역에서 구글의 TPU와 경쟁을 하고 있지만, 단연코 독보적인 기업은 엔비디아NVIDIA이다. 반도체기업 NVIDIA 엔.. 2024. 2. 28. 이전 1 2 3 4 5 6 7 다음 728x90
