자세한 기사 내용은 아래 기사 내용 중 굵게 표시된 제목을 클릭하시면 보실 수 있습니다.

비영리 단체인 센티언트 재단이 LLM에 검색 및 추론 능력을 손쉽게 추가할 수 있는 오픈소스 프레임워크 ‘ODS(Open Deep Search)’를 공개하고 연구 논문을 온라인 아카이브에 게재했습니다. `챗GPT-서치`나 퍼플렉시티 수준의 인공지능(AI) 검색 기능을 구현할 수 있는 프레임워크로 플러그 앤 플레이 방식으로 설계되어 `딥시크-R1` 같은 오픈 소스 LLM은 물론, `GPT-4o`나 `클로드`와 같은 폐쇄형 모델과도 유연하게 통합할 수 있습니다.

▲오픈 검색 도구(Open Search Tool) ▲오픈 추론 에이전트(Open Reasoning Agent) 등 두가지 핵심 요소로 구성되었는데 오픈 검색 도구는 사용자 쿼리를 받아 웹에서 정보를 검색한 뒤, 이를 LLM이 참고할 수 있는 문맥(Context)으로 제공하고 오픈 추론 에이전트는 LLM과 다양한 도구를 활용해 최종적인 답변을 도출합니다.

센티언트 재단은 ODS는 단순 요약을 넘어, 퍼플렉시티 같은 AI 검색 엔진의 핵심 인프라 역할을 할 수 있으며 폐쇄형 솔루션 중심의 AI 검색 시장에서 오픈소스 대안의 새로운 기준을 제시할 것이라고 밝혔습니다.

ODS 프레임워크는

깃허브

에서 다운로드해 사용할 수 있습니다.

[참고기사]

□ 디노티시아·한양대, AI 양자화 평가 플랫폼 오픈소스로 공개(데이터넷)

https://www.datanet.co.kr/news/articleView.html?idxno=201115

인공지능(AI) 및 반도체 통합 솔루션 전문기업 디노티시아(대표 정무경)는 한양대학교 AIHA 연구실(최정욱 교수팀)과 산학협력 연구를 통해 개발한 AI 양자화(Quantization) 알고리즘 평가 플랫폼 ‘QLLM-INFER’를 깃허브에 오픈소스로 공개했다. 이 플랫폼은 아파치 2.0 라이선스를 적용해 누구나 자유롭게 사용하고 기여할 수 있다.

- Open UP -