저명한 AI 전문가로서의 AI 흔들림, AI 윤리와 AI 법을 파헤치는 마음을 구부리는 "필멸의 컴퓨터" 제안

다음은 아마도 아직 숙고하지 않았을 것입니다. 필멸의 컴퓨터.

하지만 아마도 당신은 그래야 할 것입니다.

신경망과 기계 학습의 출현에 특히 초점을 맞춘 최근 AI에 대한 매우 유명한 연례 회의, 즉 신경 정보 처리 시스템 회의(내부자에 의해 뉴립스). 초대된 기조 연설자와 오랜 AI 전문가인 Geoffrey Hinton은 우리가 컴퓨터에 대해 필사적이고 불멸적인 맥락에서 생각해야 한다는 흥미롭고 아마도 논란의 여지가 있는 주장을 했습니다.

나는 주목할만한 주장을 다룰 것이고 처음에는 반드시 연결되어 보이지 않을 두 가지 방식으로 그렇게 할 것입니다. 그러나 약간의 추가 설명 후에 그들은 필멸 대 불멸의 논쟁에 대해 서로 더 명확하게 관련될 것입니다.

두 가지 주제는 다음과 같습니다.

1) AI 기계화를 위해 하드웨어와 소프트웨어를 별개의 별도 동맹으로 두기보다는 통합적으로 결합

2) 하나의 AI 모델에서 다른 AI 모델로 기계 학습 공식을 이전하거나 추출하여 직접 완전 순종 복사를 요구하거나 원하지 않고(또는 가능한 경우도 있음) 수행

이 모든 것은 AI와 AI 개발의 향후 방향에 대한 큰 고려 사항을 가지고 있습니다.

또한 매우 까다로운 AI 윤리 및 AI 법률 문제도 많이 발생합니다. 이러한 유형의 AI 구상 기술 발전은 주목할만한 윤리적 AI 및 AI 법에 영향을 미칠 수 있다는 사실을 깨닫기 오래 전에 일반적으로 순전히 기술적인 기반에 묶여 있습니다. 어떤 의미에서 보통 고양이는 이미 가방에서 나왔고, 말은 헛간에서 나왔고, AI 윤리와 AI 법은 실사 참여가 주어져야 한다고 각성하기 전에 말입니다.

글쎄, 그 뒤늦은 생각의 순환을 깨고 이것에 대해 XNUMX층에 들어가자.

AI 윤리 및 AI 법의 근간이 되는 최신 통찰에 전반적으로 관심이 있는 분들을 위해 저의 지속적이고 광범위한 취재가 유익하고 영감을 주는 매력적인 내용을 찾을 수 있을 것입니다. 여기 링크 와 여기 링크, 다만 약간을 지명하기 위하여.

여기서는 하드웨어와 소프트웨어의 결합에 대한 위의 사항을 먼저 다룰 것입니다. 주제에 대한 토론과 분석이 함께 진행됩니다. 다음으로 복사 문제를 다루겠습니다. 증류 하나의 AI에서 새로 고안된 AI를 대상으로 하는 머신러닝 AI 시스템의 핵심 요소.

시작하자.

AI를 위한 하드웨어와 소프트웨어의 결합

대체로 컴퓨터 설계에는 하드웨어 측면이 있고 별도로 소프트웨어 측면이 있다는 것을 알고 계실 것입니다. 일상적인 노트북이나 데스크톱 컴퓨터를 구입하면 범용 컴퓨팅 장치로 해석됩니다. 컴퓨터 내부에는 직접 구입하거나 작성할 수 있는 소프트웨어를 실행하고 실행하는 데 사용되는 마이크로프로세서가 있습니다.

컴퓨터용 소프트웨어가 없으면 기본적으로 문진 역할을 하는 것 외에는 별로 도움이 되지 않는 금속과 플라스틱 덩어리입니다. 어떤 사람들은 소프트웨어가 왕이고 세상을 지배한다고 말할 것입니다. 물론 소프트웨어를 실행할 하드웨어가 없다면 소프트웨어가 별 소용이 없을 것입니다. 마음이 원하는 만큼 코드를 작성할 수 있지만 소프트웨어가 컴퓨터를 통해 사용되기 전까지 공식화된 소스 코드는 아름다운 시나 스릴 넘치는 탐정 소설처럼 어설프고 날지 못합니다.

멀리 떨어져 있는 것처럼 보일 수 있는 다른 길로 잠시 전환할 수 있도록 허용합니다(그렇지 않을 것입니다).

우리는 종종 컴퓨터가 작동하는 방식과 인간의 두뇌가 작동하는 방식을 유추하려고 합니다. 개념적 유사점을 만들려는 이러한 시도는 편리합니다. 즉, 중요한 세부 사항에 가까워지면 비교가 무너지는 경향이 있기 때문에 이러한 비유에 대해 지나치게 생각하는 것에 대해 주의해야 합니다.

어쨌든 토론을 위해 자주 사용되는 비유가 있습니다.

뇌 자체는 비공식적으로 때때로 다음과 같이 언급됩니다. 웨트웨어. 그것은 사물을 표현하는 눈에 띄는 방법입니다. 우리는 컴퓨터가 하드웨어와 소프트웨어로 구성되어 있다는 것을 알고 있으므로 두뇌가 무엇인지 설명하기 위해 신조어의 "웨어" 부분을 사용하는 것이 영리합니다. 우리 머리 속에는 강력하고 신비로운 뇌가 떠다니며 정신적으로 우리의 모든 행동을 계산합니다(일부는 선하지만 일부 생각은 분명히 선으로 가득 차 있지 않습니다).

평균 무게가 약 100파운드에 불과한 뇌는 놀라운 기관입니다. 어떻게든, 우리는 아직 그 방법을 모릅니다. 뇌는 약 100억 개의 뉴런과 아마도 1,000조에서 XNUMX조 개의 상호 연결 또는 시냅스를 사용하여 우리의 모든 생각을 할 수 있습니다. 뇌의 생물학적 및 화학적 특성은 어떻게 지능을 발생시킵니까? 아무도 확실히 말할 수 없습니다. 이것은 시대의 탐구입니다.

당신에게 묻습니다. 두뇌는 표면적으로 하드웨어 전용입니까, 아니면 하드웨어와 소프트웨어가 결합되어 있습니까?

그 수수께끼의 국수.

뇌가 (일반적인 의미에서) 단순한 하드웨어라고 주장하고 싶을 수도 있습니다. 신체의 한 기관입니다. 마찬가지로 심장은 하드웨어이고 방광은 하드웨어라고 말할 수 있습니다. 그것들은 모두 물리적 형태를 갖고 물리적으로 관련된 행동을 하는 인공물에 대해 이야기할 때와 유사한 기계화입니다.

그러면 인간을 실행하는 소프트웨어는 어디에 있습니까?

나는 인류의 "소프트웨어"가 어떻게든 뇌에 상주한다는 데 우리 모두 거의 동의한다고 감히 말하고 싶습니다. 계란을 요리하거나 바람 빠진 타이어를 수리하는 데 필요한 단계는 우리 뇌에 구현된 지침입니다. 앞에서 언급한 하드웨어와 소프트웨어의 컴퓨터 비유를 사용하면, 우리의 두뇌는 하드웨어의 한 조각이며, 이를 위해 우리는 세상에 대해 배우고 무엇을 해야 하는지에 대한 지침이 우리 두뇌 안에 "실행"되고 "저장"됩니다.

컴퓨터에서 우리는 쉽게 하드웨어를 가리키고 이것이 하드웨어라고 말할 수 있습니다. 우리는 소스 코드 목록을 가질 수 있고 목록을 소프트웨어로 가리킬 수 있습니다. 요즘 우리는 전자적으로 온라인으로 소프트웨어를 다운로드하여 노트북과 스마트폰에 설치합니다. 예전에는 플로피 디스크와 펀치 카드를 사용하여 컴퓨터 하드웨어에 로드할 소프트웨어를 저장했습니다.

나는 당신을 중요한 수수께끼에 빠뜨리고 있습니다.

당신이 무언가를 배웠고 그 지식이 당신의 두뇌에 존재한다면, 당신은 여전히 ​​당신 두뇌의 "하드웨어"와 당신 두뇌의 추정된 "소프트웨어"를 구별할 수 있습니까?

논쟁의 여지가 있는 입장 중 하나는 두뇌의 지식이 하드웨어 및 소프트웨어의 개념과 특별히 분리될 수 없다는 것입니다. 따라서 컴퓨터의 본질에 대한 유추는 무너지고 일부는 열렬히 주장합니다. 뇌의 지식은 뇌의 하드웨어와 얽혀 있고 분리할 수 없습니다. 생물학적 및 화학적 특성은 당신이 정신적으로 소유한 지식을 엮고 있습니다.

약간의 정신적 반성을 위해 그것을 끓입니다.

언젠가 인간의 지능과 동등하거나 심지어 인간의 지능을 능가하는 컴퓨터를 고안하기를 희망한다면 아마도 우리는 뇌의 구조와 그 내부 작용을 그러한 높은 목표를 달성하기 위해 우리가 해야 할 일에 대한 지침으로 사용할 수 있을 것입니다. AI 분야의 일부 사람들에게는 뇌가 작동하는 방식에 대해 더 많이 알수록 AGI(Artificial General Intelligence)라고도 하는 진정한 AI를 고안할 가능성이 높아진다는 믿음이 있습니다.

AI의 다른 사람들은 뇌가 어떻게 작동하는지 알아야 하는 데 덜 매혹적입니다. 그들은 우리가 뇌의 비밀스러운 내부 작동을 풀 수 있는지 여부에 관계없이 AI를 만드는 데 빠르게 진행할 수 있다고 강조합니다. 뇌의 신비가 우리의 AI 노력을 방해하지 않도록 하십시오. 물론, 계속해서 인간의 뇌를 해독하고 해독하려고 노력하지만, 우리는 앉아서 뇌가 리버스 엔지니어링될 때까지 기다릴 수 없습니다. 언젠가 그것이 가능하다면 놀라운 소식이지만 불가능하거나 지금부터 영겁의 시간이 지나게 될 것입니다.

나는 이제 필사적이고 불멸의 컴퓨터 논쟁을 여러분과 공유할 준비가 되었습니다. 자리에 앉아 중대한 발표를 준비하십시오.

하드웨어와 소프트웨어가 명확하게 분리된 컴퓨터는 하드웨어가 영원히(물론 한계 내에서) 지속될 수 있는 반면 소프트웨어는 계속해서 작성되고 다시 작성될 수 있다는 점에서 "불멸"이라고 주장할 수 있습니다. 하드웨어를 수리하고 장치의 전원을 켤 수 있는 한 기존 컴퓨터를 계속 사용할 수 있습니다. 거의 1970년이 넘었음에도 불구하고 조립용 키트에 들어 있던 XNUMX년대의 조잡한 가정용 컴퓨터를 오늘날에도 여전히 사용할 수 있습니다. 컴퓨터 년).

하드웨어와 소프트웨어가 불가분하게 작동하는 컴퓨터를 만들기로 결정했다고 가정해 보겠습니다(이에 대해서는 곧 자세히 설명하겠습니다). 이전에 뇌가 아마도 하드웨어와 소프트웨어의 통합 구성을 가지고 있다고 언급한 것과 동일한 근거에서 이것을 고려하십시오. 만약 그렇다면, 이 ilk의 컴퓨터는 더 이상 불멸이 아닐 것이라고 제안할 수 있습니다. 대신 "필멸자"로 해석됩니다.

초대된 기조 연설자이자 주목할만한 AI 전문가인 Geoffrey Hinton이 NeurIPS 컨퍼런스에서 발표한 내용과 함께 제공되는 연구 논문에 따르면 다음과 같습니다.

• “범용 디지털 컴퓨터는 명령을 충실히 따르도록 설계되었습니다. 왜냐하면 범용 컴퓨터가 특정 작업을 수행할 수 있는 유일한 방법은 수행할 작업을 극도로 자세하게 지정하는 프로그램을 작성하는 것이라고 가정했기 때문입니다. 이것은 더 이상 사실이 아니지만 연구 커뮤니티는 컴퓨터 구축 방식에 대한 딥 러닝의 장기적인 영향을 이해하는 데 더디었습니다. 보다 구체적으로 커뮤니티는 동일한 프로그램 또는 동일한 가중치 세트가 하드웨어의 다른 물리적 사본에서 실행될 수 있도록 소프트웨어가 하드웨어에서 분리 가능해야 한다는 생각에 집착했습니다. 이것은 프로그램에 포함된 지식을 죽게 하거나 가중치를 불멸로 만듭니다. 하드웨어가 죽어도 지식은 죽지 않습니다. .

이러한 유형의 AI에서 논의되는 특정 종류의 컴퓨팅은 인공 신경망(ANN)을 사용합니다.

이것에 대해 정리해보자.

우리 뇌에는 실제 생물학적 뉴런이 있습니다. 당신은 그것들을 항상 사용합니다. 그것들은 생물학적 및 화학적으로 당신의 머리 속 네트워크에 연결되어 있습니다. 따라서 우리는 이것을 다음과 같이 부를 수 있습니다. 신경망.

다른 곳에서는 AI를 고안하기 위해 컴퓨터에서 계산적으로 표현하는 가짜 "뉴런"이라고 말할 수 있습니다. AI 분야의 많은 사람들은 이를 신경망이라고도 합니다. 나는 이것이 다소 혼란 스럽다고 생각합니다. 알다시피, 나는 그들을 다음과 같이 언급하는 것을 선호합니다 인조의 신경망. 이것은 in-your-head에 대한 참조를 즉시 구별하는 데 도움이 됩니다. 신경망 (그대로의 실제) 및 컴퓨터 기반의 것(인조의 신경망).

모든 사람이 그런 입장을 취하는 것은 아닙니다. AI의 많은 사람들은 AI의 다른 모든 사람들이 신경망을 언급할 때 거의 항상 ANN에 대해 이야기하고 있다는 것을 "안다"고 가정합니다. 뇌.

나는 당신이 내 표류를 이해한다고 믿습니다. 대부분의 경우 AI 사람들은 "신경망"이라고 말하는데 이는 잠재적으로 모호할 수 있습니다. 왜냐하면 그들이 우리 머릿속에 있는 실제 신경망을 가리키는지 아니면 우리가 컴퓨터에 프로그래밍하는 컴퓨팅 네트워크인지 모르기 때문입니다. 그러나 AI 사람들은 대체로 컴퓨터 기반 인스턴스를 다루기 때문에 기본적으로 인공 신경망을 참조한다고 가정합니다. 나는 의도에 대해 더 명확하게 표현하기 위해 표현의 앞쪽 끝에 "인공"이라는 단어를 추가하는 것을 좋아합니다.

계속해서 이러한 계산 인공 뉴런을 실제 생화학적 물리적 뉴런이 수행한다고 생각하는 것의 수학적 또는 계산 시뮬레이션으로 어느 정도 고려할 수 있습니다. 예를 들어, 그렇지 않으면 뇌에서 생화학적으로 발생하는 가중치로 수치 값을 사용합니다. 오늘날 이러한 시뮬레이션은 실제 뉴런만큼 복잡하지 않습니다. 현재 ANN은 매우 조잡한 수학적 및 계산적 표현입니다.

일반적으로 ANN은 머신 러닝(ML) 및 딥 러닝(DL)의 핵심 요소인 경우가 많습니다. 이에 대한 자세한 내용이 있으므로 ML/DL에 대한 제 광범위한 내용을 살펴보시기 바랍니다. ~에 여기 링크 와 여기 링크예를 들어.

불멸 대 필멸의 컴퓨터 유형으로 돌아가서 연구원에 따라 반추해야 할 사항이 더 있습니다.

• “하드웨어에서 소프트웨어를 분리하는 것은 컴퓨터 과학의 기초 중 하나이며 많은 이점이 있습니다. 전기공학에 대한 걱정 없이 프로그램의 속성을 공부할 수 있습니다. 프로그램을 한 번 작성하고 수백만 대의 컴퓨터에 복사할 수 있습니다. 그러나 우리가 불멸성을 기꺼이 포기한다면 계산을 수행하는 데 필요한 에너지와 계산을 실행하는 하드웨어 제작 비용을 크게 절약할 수 있어야 합니다. 우리는 동일한 작업을 수행하도록 의도된 하드웨어의 서로 다른 인스턴스의 연결성 및 비선형성에서 크고 알려지지 않은 변형을 허용할 수 있으며 각 특정 인스턴스의 알려지지 않은 속성을 효과적으로 사용하는 매개변수 값을 발견하기 위해 학습 절차에 의존할 수 있습니다. 하드웨어. 이러한 매개변수 값은 특정 하드웨어 인스턴스에만 유용하므로 이들이 수행하는 계산은 치명적입니다. 하드웨어와 함께 죽습니다”(ibid).

이제 불멸과 필멸이 이 맥락에서 어떻게 사용되고 있는지 소개되었습니다.

자세히 설명하겠습니다.

제안은 ANN을 기반으로 특별히 제작된 컴퓨터가 하드웨어와 소프트웨어가 분리할 수 없는 것으로 간주되도록 고안될 수 있다는 것입니다. 언젠가 하드웨어가 더 이상 작동하지 않게 되면(물론 소프트웨어가 통합되어 있다고 말하는 것입니다) 이러한 유형의 컴퓨터는 겉보기에 더 이상 유용하지 않으며 더 이상 작동하지 않을 것입니다. 사망했다고 합니다. 분리할 수 없는 하드웨어와 소프트웨어가 더 이상 팀으로 제대로 작동하지 않으면 ANN 기반 컴퓨터를 묻어두는 것이 좋습니다.

이것을 인간 두뇌의 비유와 연관시키려고 시도하고 싶다면 완전히 악화되거나 돌이킬 수 없는 손상을 입은 인간 두뇌의 암울한 상황을 상상할 수 있습니다. 우리는 사람이 필멸의 존재이며 그들의 뇌가 궁극적으로 그리고 필연적으로 작동을 멈출 것이라는 개념을 받아들입니다. 그들의 두뇌에 포함된 지식은 더 이상 사용할 수 없습니다. 그들이 우연히 다른 사람들에게 말하거나 그들이 아는 것을 기록하지 않는 한, 그들의 지식은 세상에 널리 퍼졌습니다.

의심할 여지 없이 인간이 언젠가는 불멸이 되거나 적어도 일상적인 수명을 넘어 연장될 수 있다는 이론 하에 뇌를 동결 상태로 두는 것과 같이 뇌를 보존하려는 시도에 대한 보고를 듣거나 본 적이 있을 것입니다. 몸이 아니더라도 뇌는 살아있을 수 있습니다. 많은 공상 과학 영화와 이야기가 그러한 아이디어에 대해 추측했습니다.

우리는 이제 필멸의 컴퓨터와 불멸의 컴퓨터를 하나의 개념으로 자세히 살펴볼 준비가 되었습니다.

마음챙김 토론과 사려 깊은 분석

가정된 접근법에 대한 이 분석에 대해 자세히 알아보기 전에 몇 가지 중요한 주의 사항과 추가 사항을 언급할 가치가 있습니다.

연구원은 신조어라고 강조했습니다. 필멸의 컴퓨터 특별히 대체하거나 제거하지 않을 것입니다. 불멸의 컴퓨터 오늘날 우리는 전통적인 디지털 컴퓨터라고 합니다. 두 가지 유형의 컴퓨터가 공존할 것입니다. 내가 이렇게 말하는 이유는 일부 사람들의 반응이 주문 요청이 포괄적인 주장이었기 때문입니다. 모든 필요한 컴퓨터는 필멸의 유형으로 향하고 있거나 향할 것입니다.

클레임을 제기한 것이 아닙니다.

연설 중에 그는 이러한 전문 분야에 대해 언급했습니다. 뉴로모픽 지향 컴퓨터는 다음과 같이 알려진 계산 작업을 수행합니다. 치명적인 계산: "우리는 시스템이 학습한 지식과 하드웨어가 분리할 수 없는 필멸의 계산이라고 부르는 것을 할 것입니다"(1년 2022월 XNUMX일 Tiernan Ray의 ZDNET 기사에서 인용).

특히 "디지털 컴퓨터를 대체하지 않을 것입니다"(ibid).

또한 이러한 새로운 유형의 컴퓨터는 가까운 시일 내에 가까운 컴퓨터 매장에 출시되거나 온라인에서 즉시 구매할 수 없을 것입니다. 컴퓨터, 몇 년 동안은 아니지만 완전히 다른 유형의 컴퓨터를 조사해야 할 모든 이유가 있습니다.” 용도도 다를 것입니다.

추가 반전은 필멸의 컴퓨터가 오늘날 우리가 컴퓨터 프로세서 및 컴퓨팅 칩 제조를 위해 제조하는 것처럼 조작되기보다는 겉보기에 성장할 것이라는 점입니다.

성장 과정 동안 필멸의 컴퓨터는 컴퓨팅 성숙의 스타일로 기능이 증가합니다. 따라서 주어진 필멸의 컴퓨터는 거의 아무 기능도 없이 시작하여 그것이 목표로 하는 것으로 성숙할 수 있습니다. 예를 들어 필멸의 컴퓨터를 사용하여 휴대폰을 만들고 싶다고 가정합니다. 처음에 이 목적을 위해 모양을 갖추거나 시드된 필멸의 컴퓨터의 단순한 변종으로 시작할 것입니다. 그런 다음 귀하가 찾고 있던 고급 버전으로 발전할 것입니다. 요컨대: "이를 각각의 휴대 전화로 교체하려면 유아용 휴대 전화로 시작해야 하며 휴대 전화가 되는 방법을 배워야 합니다."

필멸의 계산에 대한 그의 기본 슬라이드 중 하나에서 이점은 다음과 같이 설명되었습니다. 우리는 매우 낮은 전력의 아날로그 계산을 사용할 수 있습니다. (1) 정확한 연결성과 아날로그 동작을 알 수 없는 하드웨어를 확장할 수 있습니다.”

동일한 강연의 일부이자 그의 인쇄 전 연구 논문에 포함된 바와 같이 ANN을 더 잘 고안할 수 있는 방법에 대한 제안된 기술입니다. 앞으로 앞으로 네트워킹 접근 방식. ANN에 정통한 일부 사용자는 역전파 또는 역전파의 사용에 대해 이미 잘 알고 있습니다. 그가 제안한 전진 기술을 살펴보고 싶을 수도 있습니다. 향후 칼럼 게시에서 이 흥미로운 접근 방식을 다룰 예정이므로 이에 대한 향후 보도를 기대해 주십시오.

변속 장치, AI 커뮤니티의 복도와 샛길에서 이 무모함에 대해 말하는 내용을 고려해 봅시다. 필멸의 컴퓨터 음모.

우리는 모두 말한 주제에 대해 어떤 사람들이 논스타터라고 말하는 것부터 시작할 것입니다.

준비되셨습니까?

이걸 그만 불러 인간의 컴퓨터.

마찬가지로 오늘날의 기존 컴퓨터가 죽지 않는.

두 가지 용도 모두 명백히 잘못되었고 오해의 소지가 많다고 회의론자들은 권고합니다.

불멸의 일상적인 사전적 정의는 죽을 수 없는 것으로 구성됩니다. 그것은 영원히 산다. 죽지 않기 위해서는 아마도 사물 자체가 살아 있다고 말해야 할 것입니다. 당신은 오늘날의 컴퓨터가 살아있다고 주장하는 잘못된 길을 가고 있습니다. 합리적인 사람이라면 현대 컴퓨터에 진정한 "살아 있는" 속성을 부여하지 않을 것입니다. 그들은 기계입니다. 그것들은 사물입니다. 그들은 사람도 아니고 동물도 아니고 살아 있는 상태도 아니다.

불멸의 정의를 확장하여 무생물도 언급하려는 경우 무생물은 결코 부패하지 않아야 하며 필연적으로 먼지로 분해될 수 없습니다. 오늘날의 컴퓨터에 대해 그런 주장을 할 수 있습니까? 이것은 확장된 것처럼 보입니다(참고: 우리는 물론 물질과 존재의 본질에 대한 거대한 철학적 토론에 들어갈 수 있지만 이 경우에는 거기에 가지 맙시다).

요점은 "필멸"과 "불멸"이라는 단어의 사용 또는 오용이 이상하고 부적절하다고 말하는 사람들이 있다는 것입니다. 일반적으로 사용되는 모국어를 다른 목적으로 재사용하는 것은 혼란스럽고 탁한 물을 만듭니다. 이 특정한 맥락에서 필멸자와 불멸이 의미하는 바를 분명히 재개념화할 의지가 있어야 합니다. 이것은 문제가 됩니다.

더욱 당혹스러운 것은 이러한 단어 선택이 컴퓨터 측면을 의인화하는 경향이 있다는 것입니다.

의인화 AI와 관련된 문제는 이미 충분하며, 그러한 가능성을 더 많이 만들 필요는 없습니다. AI 윤리 및 윤리적 AI에 대한 내 범위에서 광범위하게 논의한 것처럼 사람들이 지각 능력을 컴퓨터에 부여하는 모든 방식이 있습니다. 결과적으로 이것은 사람들이 AI 기반 컴퓨터가 인간처럼 생각하고 행동할 수 있다고 잘못 믿도록 오도합니다. 사회가 오늘날의 AI와 컴퓨팅이 인류의 지성과 상식과 동등하다고 믿게 되면 위험에 처하게 됩니다. 여기 링크 와 여기 링크.

좋아, 우리는 어색한 표현 선택을 거부하거나 경멸할 수 있지만, 그것은 우리가 목욕물과 함께 아기를 버려야 한다는 것을 암시하는가?

일부에서는 이러한 전반적인 접근 방식이나 개념에 대해 더 나은 표현을 찾을 수 있다고 주장합니다. 나머지 아이디어가 부적절하거나 부적절한 사용으로 더럽혀지지 않도록 "필멸" 및 "불멸"의 사용을 폐기하십시오. 한편, 이러한 단어 선택이 적절하기 때문에 또는 단어 재사용을 선택하는 방법에 대해 융통성이 없어야 하기 때문에 이러한 단어 선택을 사용하는 것이 완벽하게 허용된다는 반론이 있습니다. 장미는 다른 이름의 장미라고 그들은 선언합니다.

여기에서 더 이상의 신랄한 논쟁을 피하기 위해 나는 이제부터 "죽음"과 "불멸"이라는 단어를 사용하지 않을 것이며 단지 두 가지 주요 유형의 컴퓨터, 즉 오늘날의 전통적인 디지털 컴퓨터와 다른 제안 신경성 컴퓨터.

사망 문제를 이것으로 끌고 갈 필요는 없는 것 같습니다. 우리가 당면한 문제에 대해 무엇을 할 수 있는지 보기 위해 하늘을 맑게 유지하십시오.

이 경우 일부 사람들은 뉴로모픽 컴퓨터에 대해 제안된 아이디어가 새로운 것이 아니라고 주장할 것입니다.

특히 ANN이 처음 탐색되었을 때 AI의 초기 시대로 거슬러 올라가 인공 신경망 작업을 수행하기 위한 특수 컴퓨터 고안에 대한 이야기가 있음을 알 수 있습니다. 모든 종류의 새로운 하드웨어가 제안되었습니다. 이것은 오늘날에도 여전히 발생합니다. 물론 ANN 및 기계 학습을 위한 오늘날의 전문 하드웨어 탐색의 대부분이 여전히 컴퓨팅에 대한 기존 접근 방식을 기반으로 하고 있다고 반박할 수 있습니다. 그런 의미에서 하드웨어와 소프트웨어의 이러한 아날로그적 불가분성은 한계를 어느 정도 밀어내고 컴퓨터의 "성장"이라는 명제는 적어도 고려된 주류에서 벗어나는 것과 관련하여 그렇게 합니다.

요컨대, 떠오른 명제에 다른 사람이 놀랄 수도 있다는 사실에 놀라는 이러한 문제에 완전히 몰두한 사람들이 있습니다. 이러한 개념은 이전과 동일하거나 다양한 연구실에서 이미 검토되고 있는 내용을 반영합니다.

당신의 머리를 소란스럽게 하지 말라, 그들은 말한다.

이것은 많은 사람들에게 성가신 또 다른 측면으로 우리를 안내합니다.

한마디로 : 예측 가능성.

오늘날의 컴퓨터는 일반적으로 예측 가능한 것으로 간주됩니다. 하드웨어와 소프트웨어를 살펴보고 컴퓨터가 수행할 작업을 파악할 수 있습니다. 마찬가지로 컴퓨터가 이미 수행한 작업을 추적하여 수행한 작업을 수행한 이유를 알아낼 수 있습니다. 물론 이 작업에는 한계가 있으므로 예측 가능성을 과장하고 싶지는 않지만 전반적으로 아이디어를 얻을 수 있다고 생각합니다.

오늘날 AI가 직면한 까다로운 문제 중 하나는 일부 AI가 자체 조정하도록 고안되었다는 것입니다. 개발자가 배치한 AI는 사용되는 동안 자체적으로 변경될 수 있습니다. AI 윤리의 영역에는 처음에는 과도한 편견이나 차별적 경향이 없었지만 AI가 생산되는 동안 점차적으로 계산적으로 자체 변이된 사용된 AI의 수많은 예가 있습니다. 자세한 평가는 여기 링크.

걱정스러운 것은 우리가 이미 예측할 수 없는 AI를 수반하는 환경에 진입하고 있다는 것입니다.

무기 시스템용 AI가 자체 조정을 거치고 그 결과 AI가 예상하지 못한 목표와 시간에 치명적인 무기를 무장하고 발사한다고 가정합니다. 인간은 AI를 중지하는 루프에 있지 않을 수 있습니다. 루프에 있는 인간은 AI 작업을 따라잡을 만큼 충분히 빠르게 응답하지 못할 수 있습니다. 추가 냉각 예는 내 분석을 참조하십시오. 여기 링크.

뉴로모픽 컴퓨터의 경우, 우리가 스테로이드에 예측 불가능성을 부여하고 있다는 우려가 있습니다. 처음부터 뉴로모픽 컴퓨터의 본질은 예측을 무시하는 방식으로 작동한다는 것일 수 있습니다. 우리는 예측 불가능성을 과시하고 있습니다. 명예의 뱃지가 됩니다.

두 개의 캠프가 존재합니다.

한 진영은 AI가 다리를 너무 멀리 가지 않도록 난간을 설치함으로써 불미스러운 예측 불가능성에 대한 우려와 함께 살 수 있다고 말합니다. 다른 진영은 당신이 세상을 위험한 길로 인도하고 있다고 주장합니다. 주장된 난간이 실패하거나 충분히 엄격하지 않거나 사고 또는 악의적인 의도로 난간이 제거되거나 조작되는 날이 올 것입니다.

뉴로모픽 컴퓨터와 예측 가능성에 대한 불안감을 떨쳐버려야 할까요?

연구원의 발언에 따르면 "아날로그 계산에 관심이 있는 사람들 중 불멸성을 포기하려는 사람은 여전히 ​​거의 없습니다." 또한 "아날로그 하드웨어가 매번 동일한 작업을 수행하도록 하려면… 이 모든 전기적 장치에 문제가 있는 것입니다."

나는 이것을 래칫 할 것이다.

오늘날의 디지털 컴퓨터와 관련된 소위 예측 가능성이 어쨌든 예측 불가능한 방향으로 가고 있다는 어렴풋하고 다소 우울한 전망이 있습니다. 언급했듯이 이것은 특히 기존 컴퓨터 플랫폼에서 자체 조정하는 AI별로 발생할 수 있습니다. 뉴로모픽 컴퓨터가 예측 불가능해 보인다고 해서 기존의 디지털 컴퓨터가 실제로 예측 가능하다는 신호는 아닙니다.

어떤 컴퓨팅 플랫폼을 선택하든 예측할 수 없는 강압제가 우리에게 다가오고 있습니다. 이러한 관점에서 AI 안전을 시도하고 달성하기 위한 최근 노력에 대한 평가는 다음을 참조하십시오. 여기 링크.

예측 가능성에 대한 이 비틀림은 당신의 마음이 발굴된 자연과 같은 것에 고개를 끄덕이게 해야 합니다. AI 윤리 및 AI 법에 관련된 여러분은 지원 의 결과를 고려해왔다. 뉴로모픽 컴퓨터.

당신은 아마도 AI를 실행하는 기존의 디지털 컴퓨터를 목표로 삼았을 것입니다. 글쎄요, 이제 밤에도 계속 걱정할 수 있는 AI 컴퓨팅의 완전히 추가되고 떠오르는 부분이 생겼습니다. 예, 뉴로모픽 컴퓨터입니다. 할 일 목록에 추가하세요.

미안해, 잠 못 이루는 밤이 더 많아.

기존의 디지털 컴퓨팅과 AI에 대해 AI 윤리와 AI 법이 무엇을 했는지 간단히 살펴보자.

이전 칼럼에서 저는 AI를 규제하는 법률을 만들고 제정하기 위한 다양한 국내 및 국제적 노력을 다루었습니다. 여기 링크, 예를 들어. 나는 또한 거의 200개국이 채택한 유네스코 AI 윤리 세트와 같은 유엔 노력을 포함하여 다양한 국가에서 확인하고 채택한 다양한 AI 윤리 원칙과 지침을 다루었습니다. 여기 링크.

다음은 이전에 자세히 조사한 AI 시스템과 관련된 윤리적 AI 기준 또는 특성의 유용한 핵심 목록입니다.

• 투명도
• 정의와 공정
• 악의 없음
• 책임
• 개인정보보호
• 선행
• 자유와 자율
• 믿어
• 지속 가능성
• 존엄
• 연대

이러한 AI 윤리 원칙은 AI 개발 노력을 관리하는 AI 개발자와 함께 AI 개발자, 그리고 궁극적으로 AI 시스템을 현장에 배치하고 유지 관리하는 원칙과 함께 본격적으로 활용되어야 합니다.

개발 및 사용의 전체 AI 라이프 사이클에 걸쳐 모든 이해 관계자는 윤리적 AI의 확립된 규범을 준수하는 범위 내에서 고려됩니다. 이는 "코더만" 또는 AI를 프로그래밍하는 사람은 AI 윤리 개념을 준수해야 한다는 일반적인 가정에서 중요한 하이라이트입니다. 여기에서 앞서 강조했듯이 AI를 고안하고 적용하려면 마을 전체가 필요하며, 이를 위해서는 마을 전체가 AI 윤리 수칙을 숙지하고 준수해야 합니다.

이전에 많은 생각을 하지 않았을 수 있는 부분은 동일한 AI 윤리 지침과 급증하는 새로운 AI 법률 목록이 뉴로모픽 컴퓨터에 어떻게 적용될 것인지입니다. 명확히 하기 위해 AI 윤리 및 AI 법은 실제로 이를 명시적으로 고려해야 합니다. 나는 그렇게 하는 사람이 거의 없다는 점을 지적하고 있으며, 뉴로모픽 컴퓨터의 출현으로 AI에서 군림하려는 새로운 차원의 측면에서 많은 사람들이 루프를 던질 가능성이 매우 높다는 점을 알려드립니다.

뉴로모픽 컴퓨터를 포함하여 새로 고안된 모든 AI를 포괄할 수 있도록 윤리적 AI 및 AI 법률을 충분히 광범위하게 고려할 필요가 있습니다.

시소 대안은 고전적인 고양이와 쥐 도박입니다. 그 방법은 다음과 같습니다. AI를 만드는 새로운 방법이 고안되고 구축됩니다. 기존 AI 윤리 및 AI 법률은 방심하고 있으며 최신 AI 속임수를 완전히 포함하지 않습니다. 윤리적 AI 교훈을 업데이트하고 새로 제정된 AI 법률을 수정하기 위해 서둘러 노력합니다.

거품을 내고 헹구고 반복하십시오.

우리 모두가 여덟 공 뒤에 잡히는 것보다 경기에서 앞서 나가는 것이 더 나을 것입니다.

결론

나는 당신을 약간의 여행에 데려갔습니다.

처음에는 검토해야 할 두 가지 주요 주제가 있다고 제안했습니다.

1) AI 기계화를 위해 하드웨어와 소프트웨어를 별개의 별도 동맹으로 두기보다는 통합적으로 결합

2) 하나의 AI 모델에서 다른 AI 모델로 기계 학습 공식을 이전하거나 추출하여 직접 완전 순종 복사를 요구하거나 원하지 않고(또는 가능한 경우도 있음) 수행

하드웨어와 소프트웨어의 결합에 대한 첫 번째 주제는 여기에서 대부분의 여정이었습니다. 이로 인해 우리는 필멸 대 불멸의 컴퓨팅 곤경에 빠졌습니다. 그 중에서 이러한 유형의 컴퓨터 관련 주제는 일반적으로 사회적 영향 문제를 수반하기보다는 순전히 기술적인 주제로 간주되기 때문에 그렇지 않으면 일반적으로 제기되지 않을 몇 가지 중요한 AI 윤리 및 AI 법률 고려 사항이 있었습니다.

저는 윤리적 AI 및 AI 법을 제기할 때 더 늦어지고 악화되기보다는 더 빨리 더 안전해지는 것이 가장 현명하다고 말합니다.

여기서 아직 설명하지 않은 두 번째 주제는 실질적으로 첫 번째 주제와 관련이 있습니다.

여기 거래가 있습니다.

"필멸의 컴퓨터"가 있고 AI에 포함된 내용의 백업 또는 표면적으로는 복사본을 가질 수 있도록 기능을 보존하려고 한다고 가정합니다. 우리는 특정 필멸의 컴퓨터가 거의 끝나가고 있다고 걱정할 수 있습니다. Yikes, 우리는 그것에 의존합니다. 우리는 무엇을 해야 합니까? 한 가지 대답은 우리가 그 빌어먹을 것을 모방해야 한다는 것입니다.

그러나 스케치 중인 종류의 뉴로모픽 컴퓨터를 복사하는 것은 언뜻 보기보다 어려울 것입니다. 상황이 까다로울 수 있습니다.

아마도 우리는 기계 학습 및 인공 신경망과 관련된 상황에 일반화되고 적용 가능한 복사 전략을 생각해 내야 할 것입니다. 우리는 이것이 대규모 및 매우 큰 규모의 인스턴스에서 작동하기를 원합니다. 우리는 사본이 정확한 복제본이 아니길 원할 것이며 대신 복사 작업의 결과로 본질적으로 동등하거나 아마도 더 잘 고안될 수 있습니다.

로 알려진 기술 증류 제안되었습니다.

오늘 칼럼의 공간이 부족하여 다음 칼럼에서 이 두 번째 주제를 다루겠습니다. 두 번째 주제와 여기에서 광범위하게 다루는 첫 번째 주제 사이의 관계에 대해 즉시 알고 싶어할 것이라고 생각했습니다. 다음에 나올 내용에 대한 티저나 예고편 역할을 하는 추가 메모라고 생각하세요.

증류 주제가 꽤 눈에 띄기 때문에 자리 가장자리에 남아 있습니다.

배트맨이 말했듯이 배트 윙을 교차하고 ANN 또는 기계 학습 모델 또는 뉴로모픽 컴퓨터를 다른 모델에 복사하는 방법에 대한 성가신 질문을 풀기 위해 동일한 배트 시간과 배트 채널에 대비하십시오.

지금은 마지막 발언입니다. 영화에 유명한 대사가 있다. 다크 나이트 리턴 우리의 망토를 두른 십자군은 이렇게 말합니다. "세상은 당신이 그것을 강요해야만 의미가 있습니다." AI 관련 증류에 대한 두 번째 주제를 다룰 때 그 이상을 유지하려고 노력할 것입니다.

이 흥미진진하고 마음을 사로잡는 더블헤더의 파트 2를 기대해 주세요.