[주간 OSS 동향리포트]KAIST 박종세 교수팀, 'AI 인프라' 시뮬레이션 오픈소스 툴 개발
Open UP에서는 지난 한 주의 국내외 공개SW 관련 동향을 모아 정리합니다.
자세한 기사 내용은 아래 기사 내용 중 굵게 표시된 제목을 클릭하시면 보실 수 있습니다.
KAIST 전산학부 박종세 교수 연구팀이 챗GPT와 같은 LLM 추론 서비스를 실행하는 대규모 시스템을 여러 가지 하드웨어와 소프트웨어를 추가해 시뮬레이션할 수 있는 '시뮬레이션 인프라 툴'을 오픈소스로 개발했습니다.
이를 통해 GPU(그래픽처리장치), NPU(신경망처리장치)와 PIM(지능형메모리반도체)과 같은 다양한 하드웨어뿐만 아니라 반복 수준 스케쥴링, KV 캐시 페이징과 같은 초거대 언어모델 추론을 위한 소프트웨어적 요소를 모두 함께 시뮬레이션할 수 있습니다.
이 연구를 통해 컴퓨터 시스템 워크로드 특성화 분야에서 권위를 자랑하는 국제 학회인 ‘2024 IEEE 국제 워크로드 특성화 심포지엄(IEEE International Symposium on Workload Characterization, IISWC 2024)’에서 최우수 논문상(Best Paper Award)과 최우수 연구 기록물 상(Distinguished Artifact Award)’을 동시에 수상했습니다.
이번 수상 연구는 대규모 거대언어모델(LLM) 추론 서비스를 위한 하드웨어와 소프트웨어 통합 시뮬레이션 인프라를 최초 개발한 점, 향후 LLM 추론 연구의 지속적인 발전을 위해 오픈소스로 공개한 코드의 완성도와 사용자 편의성 측면에서 높은 평가를 받았습니다.
□ “악성 오픈소스 소프트웨어 패키지, 올해 폭발적으로 증가” 소나타입 보고서(CIO)
소프트웨어 공급망 관리 기업 소나타입(Sonatype)의 새 보고서에 따르면 맬웨어가 오픈소스 소프트웨어 개발 생태계에 놀라운 속도로 침투하고 있다. 이 회사는 널리 사용되는 자바, 자바스크립트, 파이썬 및 .NET 패키지 레지스트리에서 2023년 11월 이후 50만 개 이상의 새로운 악성 패키지를 포착했다고 밝혔다.
설명에 따르면 이는 회사가 연례 소프트웨어 공급망 현황 보고서를 통해 2019년부터 추적해온 약 70만 개의 맬웨어 패키지 중 70% 이상에 해당하는 수치다.
- OpenUP -
| 번호 | 제목 | 조회수 | 작성 |
|---|---|---|---|
| 공지 | [Open UP 활용가이드] 공개SW 활용 및 개발, 창업, 교육 "Open UP을 활용하세요" | 387477 | 2020-10-27 |
| 공지 | [Open UP 소개] 공개SW 개발·공유·활용 원스톱 지원 Open UP이 함께합니다 | 377290 | 2020-10-27 |
| 11124 | 구글, '신스ID 텍스트' 오픈소스로 공개..."AI 작성 텍스트 잡아낸다" | 4656 | 2024-10-24 |
| 11123 | 하나증권이 STO 사업 효율화한 방법…“오픈소스 DBMS로 합리적 운영” | 4756 | 2024-10-24 |
| 11122 | IBM, 비즈니스용 오픈소스 AI 모델 ‘그래니트 3.0’ 출시 | 5305 | 2024-10-23 |
| 11121 | "생산성 향상부터 훈련 최적화까지" 개발자가 사랑할 오픈소스 AI 프로젝트 11가지 | 5322 | 2024-10-23 |
| 11120 | [주간 OSS 동향리포트]KAIST 박종세 교수팀, 'AI 인프라' 시뮬레이션 오픈소스 툴 개발 | 5325 | 2024-10-23 |
| 11119 | 메타, AI로 신소재 개발 가속화… 오픈 소스 데이터 공개 | 6147 | 2024-10-22 |
| 11118 | 라온시큐어, ‘2024 K-오픈소스X’에서 블록체인 디지털 ID 오픈소스화 계획 공개 | 6127 | 2024-10-22 |
| 11117 | “리눅스 재단의 오픈소스 프로젝트 지원·역할 커지고 있다” | 10044 | 2024-10-18 |
| 11116 | “‘K-오픈소스’ 토대로 한국이 주도하는 오픈소스 생태계 만들어야” | 10054 | 2024-10-18 |
| 11115 | 최초의 10B '분산형 모델 훈련' 등장..."오픈 소스 AGI 개발의 시작" | 10765 | 2024-10-16 |
0개 댓글