[주간 OSS 동향리포트] AI 스타트업 누스, “누구냐”는 질문에 기억상실 겪는 모델인 오픈소스 '헤르메스 3' 출시

Open UP에서는 지난 한 주의 국내외 공개SW 관련 동향을 모아 정리합니다.
자세한 기사 내용은 아래 기사 내용 중 굵게 표시된 제목을 클릭하시면 보실 수 있습니다.

인공지능(AI) 스타트업 누스 리서치가 컴퓨팅 인프라 스타트업 람다와 협력하여 메타 '라마 3.1'의 미세조정 버전인 오픈소스 모델 ‘헤르메스(Hermes)’의 최신 버전을 출시했습니다.  누스와 람다는 이전에 오리지널 헤르메스, 헤르메스 2 및 오픈 헤르메스 2.5 등의 모델을 공동으로 개발했습니다. 이 모델은 80억, 700억, 4,050억 매개변수의 세가지 크기로 제공됩니다.

헤르메스 3 모델은 창의적인 답변을 제공하고 강력한 에이전트 기능을 수행하나 “누구냐”라는 질문에 기억상실을 일으킨다고 밝혔습니다. 

 4050억 매개변수 버전에서 응답의 지침을 설정하는 '시스템 프롤프트'를 제거하고 "당신은 누구입니까"라는 질문을 하면 모델이 기억상실을 일으킨다고 밝혔습니다. 이런 현상은 전혀 예상치 못한 것이었으며, AI 모델을 특정 임계값 이상으로 확장할 때 발생하는 ‘이상 행동’이라고 설명했습니다.

헤르메스 3 모델은 창의성, 추론 및 사용자 지침 준수를 향상하기 위해 다양한 데이터셋으로 훈련했으며 특히 장기 컨텍스트 유지 능력이 뛰어나, 특정 상황을 기억하며 인간과 더 유사한 대화를 나눌 수 있고, 대화 세션 관리와 복잡한 롤플레잉에서도 우수한 성능을 발휘한다고 합니다.

[참고기사]

□ 캘리포니아서 AI 규제법 이달 말 최종 투표..."실리콘 밸리 반발 일으켜"(AI타임스)
미국 연방정부와는 별개로, 캘리포니아주 의회가 이달 말 인공지능(AI) 규제법 도입을 추진하고 있다. 실리콘 밸리 기업들은 AI로 인한 재해를 예방하려는 이 법이 AI 업계에 재해를 발생시킬 것이라며 반발하고 있다. 뉴욕타임스와 테크크런치 등은 18일(현지시간) 캘리포니아주 하원 예산위원회가 지난 15일 '첨단 AI 시스템을 위한 안전과 보안 혁신법안'(Safe and Secure Innovation for Frontier Artificial Intelligence Systems Act)에 대한 수정안을 통과시켰다고 보도했다

□ 글로벌 AI 레이스 변화 바람 부나...中 기업들 오픈소스 AI 두각(디지털투데이)
중국 AI 업체들의 글로벌 시장 공략이 급물살을 타고 있다. 미국 테크 기업들이 주도하는 AI 레이스에 변화를 몰고올지 주목된다. 최근 중국 회사들은 글로벌 시장을 겨냥해 미국 기업들과 경쟁할 수 있는 AI 시스템들을 잇따라 선보였다.
동영상 생성 AI 플랫폼인 클링(Kling)도 그중 하나. 중국 인터넷 회사 쿠아이쇼우(Kuaishou)가 개발한 클링은 사용자가 보유하고 있는 실제 사진을 기반으로 영상을 생성해주는데, 글로벌 사용자들 사이에서 나름 관심을 끄는 모습이다. 

- OpenUP -