[주간 OSS 동향 리포트] MS, AI 보안평가도구 '카운터핏(Counterfit)' 오픈 소스로 공개
2021.05.12.
Open UP에서는 지난 한 주의 국내외 공개SW 관련 동향을 모아 정리합니다.
자세한 기사 내용은 아래 기사 내용 중 굵게 표시된 제목을 클릭하시면 보실 수 있습니다.
마이크로소프트는 오픈소스 인공지능 보안평가 도구인 카운터핏(Counterfeit)을 미국 현지시간 기준 5월 3일 공개했습니다. 해당 도구는 마이크로소프트의 레드팀이 자동화된 공격 테스트를 목적으로 구축한 인터페이스 도구로, 자사의 '책임있는 AI' 원칙에 따라 AI 서비스의 사전보호를 목적으로 구축되었습니다.
카운터핏은 개별 AI 모델을 대상으로 한 공격 스크립트 모음에서 대규모 AI 시스템을 공격대상으로 하는 일반 자동화 도구로 변형되었으며, 이를 통해 기업의 AI 알고리즘이 강력하고 신뢰할 수 있는지에 대한 위험 평가가 이뤄질 수 있습니다. 또한, 보안전문가는 텔레메트리(Telemetry, 원격측정) 정보를 제공하는 로깅 기능을 통해 AI 모델의 문제점을 파악할 수 있으며, AI 모델의 취약성 범위에 맞춘 사용자 지정을 취약성 스캔 단계에서 사용할 수 있습니다.
한편, 마이크로소프트는 메타스플로이트(Metasploit)와 파워셸 엠피레(PowerShell Empyre)와 비슷한 자사의 카운터핏이 기존 공격 도구와 연결 가능하다고 밝힌 동시에, AI 소프트웨어 개발단계에서부터 자사 AI 시스템이 구현되기 전까지의 취약점 포착을 위해 카운터핏을 사용하고 있는 중이라고 밝혔습니다.
□ 피스톤 2.2 출시··· “기본 파이썬보다 30% 더 빠르게 실행” (CIO Korea)
LLVM JIT 프레임워크를 사용한 파이썬 런타임의 대체 구현 프로젝트인 피스톤(Pyston)의 버전 2.2가 출시되었다. 피스톤 버전 2.2에서는 기본 파이썬보다 약 30% 빠르게 실행되는 동시에, 전체 소스코드의 오픈소스 프로젝트 사용이 가능하며, 파이썬 코드베이스에 기반해 파이썬 확장 프로그램과의 호환성을 유지한다.
□ 소프트웨어 개발에 사용되는 스니펫들 점검하면 취약점도 나온다? (보안뉴스)
미국 노스이스턴 대학의 연구원들이 일관적이지 않은 프로그래밍 요소인 '코드 스니펫(Code Snippet)'을 사용한 머신러닝 기반 보안 솔루션인 픽스(FICS)에 대해 발표했다. 연구원 측은 상기한 코드 스니펫과 기타 코드 요소를 비교하는 방식으로 취약점과 버그를 찾아냈으며, 상세 연구결과는 8월에 발표될 예정이다.
- Open UP -
번호 | 제목 | 조회수 | 작성 |
---|---|---|---|
공지 | [Open UP 활용가이드] 공개SW 활용 및 개발, 창업, 교육 "Open UP을 활용하세요" | 316042 | 2020-10-27 |
공지 | [Open UP 소개] 공개SW 개발·공유·활용 원스톱 지원 Open UP이 함께합니다 | 305640 | 2020-10-27 |
9351 | [주간 OSS 동향 리포트] MS, AI 보안평가도구 '카운터핏(Counterfit)' 오픈 소스로 공개 | 5051 | 2021-05-12 |
9350 | 젯브레인, 코틀린 1.5 버전 출시 | 5368 | 2021-05-12 |
9349 | AWS·구글 등 러스트 도입 박차…C++ 대체하나 | 4644 | 2021-05-12 |
9348 | [이슈] AI 알고리즘이 '강력하고 신뢰할 수 있는지' 공격... 사전 보안 평가 도구, MS '카운터핏(Counterfit)' 오픈 소스로 공개 | 4863 | 2021-05-10 |
9347 | 피스톤 2.2 출시··· “기본 파이썬보다 30% 더 빠르게 실행” | 4938 | 2021-05-10 |
9346 | MS, 비주얼 스튜디오 코드 1.56 출시··· “호버 피드백 및 디버깅 개선” | 4851 | 2021-05-10 |
9345 | 제주대학교 SW융합교육원, ‘창업 및 오픈소스SW Meet-Up’ 특강 개최 | 4942 | 2021-05-06 |
9344 | 소프트웨어 개발에 사용되는 스니펫들 점검하면 취약점도 나온다? | 4817 | 2021-05-06 |
9343 | MS, 파이썬소프트웨어재단 후원 최고 등급 상향 | 4864 | 2021-05-04 |
9342 | [주간 OSS 동향 리포트] 포스텍, 메타물질 설계용 SW 오픈소스로 공개 | 5538 | 2021-05-04 |
0개 댓글