AI 전문가, 'AI로 인한 멸종' 위험을 대유행, 핵전쟁과 비교하는 문서에 서명

OpenAI, Google DeepMind 및 Anthropic의 CEO를 포함한 수십 명의 인공 지능(AI) 전문가가 최근 CAIS(Center for AI Safety)에서 발표한 공개 성명서에 서명했습니다. 

방금 다음과 같은 성명을 발표했습니다.

"AI로 인한 멸종 위험을 완화하는 것은 전염병 및 핵전쟁과 같은 다른 사회적 규모의 위험과 함께 전 세계적으로 우선 순위가 되어야 합니다."

서명자에는 Hinton, Bengio, Altman, Hassabis, Song 등이 포함됩니다.https://t.co/N9f6hs4bpa

(1 / 6)

— 댄 헨드릭스(@DanHendrycks) 2023 년 5 월 30 일

성명서에는 다음과 같은 한 문장이 포함되어 있습니다.

"AI로 인한 멸종 위험을 완화하는 것은 전염병 및 핵전쟁과 같은 다른 사회적 규모의 위험과 함께 전 세계적으로 우선 순위가 되어야 합니다."

이 문서의 서명자 중에는 AI의 "대부"인 Geoffrey Hinton; 캘리포니아 대학교 버클리의 스튜어트 러셀; 매사추세츠 공과 대학의 Lex Fridman. 뮤지션 그라임스(Grimes)도 "기타 주목할만한 인물" 카테고리에 등록된 서명자입니다.

관련 : 음악가 Grimes, AI 생성 음악으로 '50% 로열티 분할'

이 성명이 표면적으로는 무해해 보일 수 있지만 근본적인 메시지는 AI 커뮤니티에서 다소 논란의 여지가 있는 메시지입니다.

점점 더 많은 전문가들이 현재의 기술이 인간 종에 실존적 위협을 가할 수 있는 AI 시스템의 출현 또는 개발로 이어질 수 있거나 필연적으로 이어질 것이라고 믿고 있습니다.

그러나 그들의 견해는 정반대의 의견을 가진 전문가 파견단에 의해 반박됩니다. 예를 들어 메타의 수석 AI 과학자인 Yann LeCun은 AI가 제어할 수 없게 될 것이라고 반드시 믿지는 않는다고 여러 차례 언급했습니다.

초인간 AI는 실존적 위험 목록의 최상위에 근접하지 않습니다.
대부분 아직 존재하지 않기 때문입니다.

개 수준의 AI(인간 수준은 물론)에 대한 기본 설계가 있을 때까지 이를 안전하게 만드는 방법에 대해 논의하는 것은 시기상조입니다. https://t.co/ClkZxfofV9

— 얀 르쿤(@ylecun) 2023 년 5 월 30 일

그와 Google Brain의 공동 창립자이자 Baidu의 전 수석 과학자인 Andrew Ng와 같이 "멸종" 수사에 동의하지 않는 다른 사람들에게 AI는 문제가 아니라 답입니다.

반면에 Hinton과 Conjecture CEO Connor Leahy와 같은 전문가들은 인간 수준의 AI가 불가피하며 따라서 지금이 행동할 때라고 믿고 있습니다.

모든 주요 AI 연구실의 수장은 AGI로 인한 멸종 위험을 명시적으로 인정하는 이 서한에 서명했습니다.

놀라운 발전을 이룬 Dan에게 축하의 말을 전하고 더 나은 미래를 위해 자신의 몫을 다해 준 모든 서명자에게 감사드립니다! https://t.co/KDkqWvdJcH

— 코너 리히(@NPCollapse) 2023 년 5 월 30 일

그러나 성명서 서명자들이 어떤 행동을 요구하고 있는지는 불분명하다. 거의 모든 주요 AI 회사의 CEO 및/또는 AI 책임자와 학계의 저명한 과학자들이 서명한 사람들 중 하나이며 잠재적으로 위험한 시스템의 개발을 중단하려는 의도가 아님을 분명히 보여줍니다.

이달 초 위에서 언급한 성명서의 서명자 중 한 명인 OpenAI CEO Sam Altman은 AI 규제를 논의하기 위한 상원 청문회에서 의회에 처음 모습을 드러냈습니다. 그의 증언은 국회의원들에게 자신의 산업을 규제하도록 촉구하는 데 대부분을 보낸 후 헤드라인을 장식했습니다.

암호화폐와 개인 증명을 결합한 프로젝트인 알트만의 월드코인(Altman's Worldcoin)도 최근 시리즈 C 펀딩에서 115억 240만 달러를 모금한 후 미디어 라운드를 진행하여 XNUMX번의 라운드 후 총 펀딩을 XNUMX억 XNUMX만 달러로 끌어올렸습니다.