KAIST 박종세 교수팀, 'AI 인프라' 시뮬레이션 오픈소스 툴 개발... 'IISWC 2024'서 다수 상 동시 석권
support
게시글 작성 시각 2024-10-14 13:21:09
2024.10.11
ⓒ인공지능신문/최광민 기자
대형언어모델(LLM) 추론 서비스는 단순한 챗봇을 넘어 이미지, 음성, 동영상까지 생성할 수 있는 멀티모달 생성 인공지능(Generative AI)로 발전하고 있다. 하지만 이러한 초거대 언어모델 추론 서비스를 실행하려면 수천 개의 GPU가 탑재된 대규모 서버 등 대규모 AI 인프라 시스템이 필요하다.
이처럼, 막대한 자원과 더불어 이 하드웨어와 소프트웨어를 대규모로 실험하기 위한 시뮬레이션 인프라 또한 필수적이다. 여기에, KAIST 전산학부 박종세 교수 연구팀이 챗GPT와 같은 LLM 추론 서비스를 실행하는 대규모 시스템을 여러 가지 하드웨어와 소프트웨어를 추가해 시뮬레이션할 수 있는 '시뮬레이션 인프라 툴'을 오픈소스로 개발했다.
(후략)
[원본기사 : https://www.aitimes.kr/news/articleView.html?idxno=32409]
번호 | 제목 | 조회수 | 작성 |
---|---|---|---|
공지 | [Open UP 활용가이드] 공개SW 활용 및 개발, 창업, 교육 "Open UP을 활용하세요" | 403397 | 2020-10-27 |
공지 | [Open UP 소개] 공개SW 개발·공유·활용 원스톱 지원 Open UP이 함께합니다 | 393182 | 2020-10-27 |
11111 | KAIST 박종세 교수팀, 'AI 인프라' 시뮬레이션 오픈소스 툴 개발... 'IISWC 2024'서 다수 상 동시 석권 | 7286 | 2024-10-14 |
11110 | 메타 부사장 "AGI도 오픈소스 공개…차기 '라마'는 크로스 모달리티" | 8241 | 2024-10-11 |
11109 | 애플, 3D 깊이 지도 생성 AI 모델 ‘뎁스 프로’ 공개 | 8158 | 2024-10-10 |
11108 | 오노마AI, 일러스트레이션 AI 모델 '일러스트리우스' 오픈 소스 공개 | 8110 | 2024-10-10 |
11107 | KT, 오픈소스 SW 보안 관리 체계 국제 표준 ‘ISO/IEC 18974’ 인증 획득 | 6164 | 2024-10-08 |
11106 | [주간 OSS 동향리포트] 이클립스 재단, 오픈소스 생태계의 전 세계 규제에 대응을 위한 오픈 규제 준수 워킹그룹 출범 | 6463 | 2024-10-08 |
11105 | IoT 기반 '스마트 인테리어' 테스트베드 센터 내달 문 연다 | 6219 | 2024-10-07 |
11104 | AMD, 최초의 sLM 'AMD-135M' 오픈 소스 출시..."AMD 하드웨어에 최적화" | 6219 | 2024-10-07 |
11103 | '노트북LM' 인기 끌자 유사 오픈 소스 모델도 등장 | 6212 | 2024-10-07 |
11102 | 과기부 지원 받은 지능형 클라우드 자원관리 기술 발표회 열려, 공개 SW 확산 기대 | 6189 | 2024-10-07 |
0개 댓글