본문 바로가기

Home > 열린마당 > 공개SW 소식

공개SW 소식

2023.12.20

ⓒCIO Korea /Matt Asay  |  InfoWorld

 

몇몇 벤더가 자사 생성형 AI 프로젝트의 기능을 과대 포장하는 기만적인 행태를 펼치고 있다. 이를 멈추게 하는 방안이 오픈소스화일 수 있다.

12월은 생성형 AI에 있어 순탄치 않은 시기인 듯하다. 먼저 AWS가 마이크로소프트 코파일럿(Microsoft Copilot)의 대항마로 아마존 Q(Amazon Q)을 출시했지만 '심각한 환각'과 데이터 유출 문제가 내부 직원들에 의해 지적됐다. 

그 다음으로는 구글이   챗GPT의 대항마로 제미나이(Gemini)를 출시했다. 대대적인 광고를 펼치며 대단한 시연을 선보였으나 이내 그 시연은 가짜였음을 시인했다. 아, 그리고 메타(Meta)는 AI 안전을 위한 새로운 오픈소스 도구를 공개했다. 그러나 어쩐 일인지 생성형 AI 도구의 가장 어처구니없이 위험한 측면은 인정하지 않았다. 바로 프롬프트 주입 공격에 취약하다는 점이다.

(후략)

 

[원본기사 : https://www.ciokorea.com/column/318994]

맨 위로
맨 위로