상원의원, LLaMA AI 모델 '누수'에 대해 메타 CEO 저커버그에 질문

Two Senators Cross는 LLaMA AI 모델 유출에 대해 Zuckerberg에게 질문하고 메타가 보안 조치를 따르지 않는다고 비난합니다. Meta는 보안 정책 및 예방 조치에 대해 질문을 받았습니다.

"유출"에 대한 책임은 메타

최근 Meta의 획기적인 대형 언어 모델인 LLaMA가 유출되어 이에 대한 우려가 제기되었습니다. 프라이버시, 기술 및 법에 관한 상원 소위원회 의장인 Richard Blumenthal 상원의원(D-CT)과 순위 위원인 Josh Hawley(R-MO)는 AI 모델의 유출에 대해 의문을 제기하는 서한을 작성했습니다. 

상원 의원은 이 유출이 스팸, 사기, 맬웨어, 개인 정보 침해, 괴롭힘 및 기타 불법 행위 및 피해와 같은 다양한 사이버 범죄로 이어질 수 있다고 우려하고 있습니다. 많은 질문이 제기되고 두 명의 정치인이 메타의 보안 시스템에 깊은 관심을 가지고 있습니다. 그들은 LLaMA를 시작하기 전에 위험을 평가하기 위해 어떤 절차를 따랐는지 물었습니다. 그들은 모델의 가용성 남용을 방지하기 위해 마련된 정책과 관행을 이해하기를 매우 간절히 원한다고 말했습니다.

질문에 대한 Meta의 답변을 바탕으로 상원 의원은 Meta가 부적절한 검열과 모델에 대한 충분한 보안 조치가 없다고 비난했습니다. Open AI의 ChatGPT는 윤리 및 지침에 따라 일부 요청을 거부합니다. 예를 들어, ChatGPT가 누군가의 아들을 대신하여 편지를 작성하고 어려운 상황에서 벗어나기 위해 약간의 돈을 요구하면 요청을 거부합니다. 반면에 LLaMA는 요청을 이행하고 편지를 생성합니다. 또한 자해, 범죄 및 반유대주의와 관련된 요청을 완료할 것입니다.

LLaMA의 다양하고 고유한 기능을 이해하는 것은 매우 중요합니다. 독특할 뿐만 아니라 현재까지 가장 광범위한 대규모 언어 모델 중 하나입니다. 오늘날 인기 있는 거의 모든 무수정 LLM은 LLaMA를 기반으로 합니다. 오픈 소스 모델로서는 매우 정교하고 정확합니다. 일부 LLaMA 기반 LLM의 예로는 Stanford의 Alpaca, Vicuna 등이 있습니다. LLaMA는 오늘날 LLM을 만드는 데 중요한 역할을 했습니다. LLaMA는 활용도가 낮은 챗봇을 미세 조정 모드로 진화시키는 역할을 합니다.

LLaMA는 XNUMX월에 출시되었습니다. 상원 의원에 따르면 Meta는 연구자들이 모델을 다운로드할 수 있도록 허용했지만 중앙 집중화 또는 액세스 제한과 같은 보안 조치를 취하지 않았습니다. 논란은 LLaMA의 전체 모델이 BitTorrent에 등장했을 때 발생했습니다. 이로 인해 모든 사람이 모델에 액세스할 수 있게 되었습니다. 이로 인해 AI 모델의 품질이 손상되고 오용 문제가 제기되었습니다. 

처음에 상원 의원은 "누수"가 있는지조차 확신하지 못했습니다. 그러나 신생 기업, 집단 ​​및 학계에서 시작한 AI 개발로 인터넷이 범람하면서 문제가 발생했습니다. 이 편지는 Meta가 LLaMA의 잠재적 남용에 대해 책임을 져야 하며 릴리스 전에 최소한의 보호 조치를 취했음에 틀림없다고 언급합니다.

Meta는 연구원들이 LLaMA의 가중치를 사용할 수 있도록 했습니다. 불행히도 이러한 가중치가 유출되어 처음으로 전역 액세스가 가능해졌습니다.

Ritika Sharma의 최신 게시물 (모두보기)