메타, 안전한 생성 AI 개발 위한 '퍼플 라마' 도입
support
게시글 작성 시각 2023-12-11 10:13:29
- 2023.12.08
- ⓒAI타임스/ 박찬 기자
메타가 안전한 인공지능(AI) 모델 구축을 위한 프로젝트를 발표했다. 이는 빅테크들이 지난 7월 공동으로 발표한 'AI 안전 서약'에 따른 것으로, 개발자가 책임감 있게 AI 모델을 개발하는 데 도움이 되는 도구 및 평가 기능을 제공한다는 내용이다.
메타는 7일(현지시각) 공식 블로그를 통해 '퍼플 라마(Purple Llama)' 프로젝트를 발표했다. 이는 생성 AI 혁신을 촉진하면서도, 개발자들이 책임감 있게 AI 모델을 배포할 수 있도록 지원하기 위한 포괄적인 프로젝트다.
퍼플 라마의 첫 단계로, '사이버 보안 평가 기준(CyberSec Eval)'과 입출력 안전장치 ‘라마 가드(Llama Guard)’를 출시했다. 사이버 보안 평가 기준은 백악관 안전 서약에 명시된 위험을 해결하는 데 초점을 맞춘 벤치마크 도구다. 대형언어모델(LLM)의 보안 위험을 정량화하는 것이 목적이다. AI가 안전하지 않은 코드를 제안하는 빈도를 평가하며, 악성 코드를 생성하거나 사이버 공격을 하지 못하도록 방지한다.
(후략)
[원본기사 : https://www.aitimes.com/news/articleView.html?idxno=155755]
번호 | 제목 | 조회수 | 작성 |
---|---|---|---|
공지 | [Open UP 활용가이드] 공개SW 활용 및 개발, 창업, 교육 "Open UP을 활용하세요" | 316104 | 2020-10-27 |
공지 | [Open UP 소개] 공개SW 개발·공유·활용 원스톱 지원 Open UP이 함께합니다 | 305704 | 2020-10-27 |
10821 | 리눅스재단, 생성AI 프로젝트 '제네레이티브 AI 커먼즈' 공개 | 1058 | 2023-12-18 |
10820 | MS, '애저 AI 스튜디오' 대폭 확장...오픈 소스 LLM 40개 추가 | 999 | 2023-12-18 |
10819 | 카카오뱅크, 혁신 금융 기술 오픈소스 공개 2 | 1392 | 2023-12-15 |
10818 | [주간 OSS 동향리포트]메타, IBM 등 글로벌 50개사, AI 연합(얼라이언스) 구축 | 1535 | 2023-12-14 |
10817 | 메타, 안전한 생성 AI 개발 위한 '퍼플 라마' 도입 | 1236 | 2023-12-11 |
10816 | EU, 'AI 법' 잠정 합의...오픈 소스 이어 생체 인식도 예외 인정 | 1159 | 2023-12-11 |
10815 | "AI 미래, 오픈소스 빼놓고 말할 수 없다" 글로벌 공룡들도 뛰어드는 이유 | 1199 | 2023-12-08 |
10814 | "챗GPT 추격"…IBM·메타 등 50개사 AI 오픈소스 동맹 | 1222 | 2023-12-06 |
10813 | 알리바바 클라우드, 멀티모달 기능 갖춘 LLM 4종 오픈소스로 공개 | 1270 | 2023-12-06 |
10812 | [주간 OSS 동향리포트] ‘오픈소스로 바꾸는 세상’ 공개SW 페스티벌 성료 | 1605 | 2023-12-06 |
0개 댓글