AI 윤리와 찬사를 받는 AI Uncanny Valley, AI 기반 자율주행차도 뒤흔들다

때로는 주의를 끌고 뭔가 잘못된 것이 있다는 직관적인 느낌을 갖게 만드는 약간 이상한 것들이 있습니다. 그 이상한 점은 노골적이지 않으며, 당신의 얼굴에 전혀 노골적이지도 않습니다. 불일치가 무엇인지 또는 속담의 거미 같은 감각이 왜 따끔 거림인지 즉시 손가락을 대지 못할 수도 있습니다.

아마도 미묘한 단서가 감지되고 있을 것입니다. 어쩌면 당신은 불협화음이 존재한다는 것을 직감적으로 깨닫게 될 수도 있습니다. 나는 당신이 절제된 으스스함의 아주 작은 힌트가 있고 당신의 섬세한 인간 레이더가 겉보기에 숨겨진 신호를 포착하고 있다고 말할 수 있을 것 같습니다.

불쾌한 계곡에 오신 것을 환영합니다.

AI, 특히 로봇공학 분야에서 상대적으로 대중화되는 주제인 불쾌한 계곡에 대해 들어본 적이 없다면, 여러분은 약간의 대접을 받을 것입니다. 왜냐하면 그것이 제가 여기서 자세히 논의하고 분석할 주제이기 때문입니다.

가장 중요한 개념은 우리가 인생에서 경험하는 많은 것들에 적용될 수 있지만 핵심 원칙과 원래 정의에는 AI 시스템과 로봇이 수반됩니다. 우리는 먼저 불쾌한 계곡의 기원과 초기 의미를 탐구한 다음, 그 현상이 더 큰 맥락에서 어떻게 적용 가능한지 알아보기 위해 확장을 진행할 것입니다.

나는 또한 불쾌한 계곡이 존재하는지 여부를 고려할 것이라고 덧붙일 수도 있습니다.

아시다시피, 일부 회의론자와 냉소주의자는 이 모든 문제가 약간의 헛소리이며 설득력이 없다고 주장합니다. 잘 아는 사람들에게 주제를 언급할 때는 조심하세요. 어떤 사람들은 유쾌하게 웃으며 당신이 불쾌한 계곡에 대해 잘 알고 있다고 등을 두드려줄 것입니다. 반면 다른 사람들은 그것은 잡탕이고 당신은 비눗물이 담긴 정신 정화 비누로 마음을 즉시 씻어내야 한다고 신랄하게 강의할 것입니다. .

여기서 좋은 소식은 불쾌한 계곡이 진짜인지 아닌지, 그리고 그것이 신중하게 적용할 가치가 있는지 아니면 대신 기술 아이디어 쓰레기 더미에 무의식적으로 던져야 하는지 여부를 결정할 수 있다는 것입니다. 그런 의미에서 당신은 운전석에 있습니다.

이 모든 것은 또한 급성장하는 윤리적 AI 분야와 사회가 AI 윤리에 진지하고 진지하게 관심을 기울여야 한다는 인식이 높아지는 것과 밀접하게 관련되어 있습니다. 잠시 후에 연결해 보겠습니다.

가장 좋은 출발점은 불쾌한 계곡 개념을 생각해내고 이 현상에 대해 노골적으로 이름을 붙인 교수의 말을 직접 인용하는 것입니다. 1970년 도쿄 공업대학의 모리 마사히로 교수는 다소 덜 알려진 저널에 다소 작은 논문을 게재했습니다. 에너지 (특별히 AI와 로봇공학의 온상은 아닙니다) 그리고 이렇게 말했습니다:

"나는 로봇을 인간처럼 보이도록 만드는 목표를 향해 올라가면서 우리가 불쾌한 계곡이라고 부르는 계곡에 도달할 때까지 로봇에 대한 우리의 친밀감이 증가한다는 것을 알아차렸습니다."

원본 논문은 일본어로 작성되었지만 위 문구는 영어로 표시되어 있습니다. 영어 번역본은 저자가 감독했으며 나중에 IEEE 스펙트럼 2012년에 발표되었으며 저자는 Masahiro Mori입니다. 이 논문은 온라인에 공개되어 무료로 제공되므로 직접 읽어보실 수 있습니다. 이 책은 XNUMX분 정도의 짧은 시간에 읽을 수 있으며 기술적으로 무거운 용어가 포함되어 있지 않습니다.

즉, 1970년에 출판된 그러한 활발한 기사가 결국 전체 탐구의 장을 시작하고 수많은 관련 연구, 프로젝트, 연구를 시작하고 때로는 도입 여부에 대한 논쟁의 폭풍을 일으켰다는 것은 흥미롭고 다소 놀랍습니다. 불쾌한 계곡이라는 개념은 실제로 존재합니다. 나는 이것이 흥미롭고 때로는 관점을 바꾸는 아이디어가 전문 용어와 고상함으로 엄청나게 복잡하거나 과도하게 채워질 필요가 없다는 것을 보여준다고 생각합니다. 간결한 아이디어는 표면적으로 보이는 것보다 훨씬 더 강력하지 않을 수도 있습니다.

나는 그것이 당신이 달콤하고 단순한 것이 복잡하고 복잡한 것보다 웅장하거나 때로는 더 클 수 있다는 것을 깨닫고 새로운 아이디어를 시도하고 육성하도록 격려할 것이라고 믿습니다.

불쾌한 계곡 추출로 다시 돌아가 보겠습니다.

당신은 인간의 얼굴과 비슷한 얼굴을 가진 로봇 시스템을 발견했습니다. 이 로봇 얼굴이 수많은 반복을 통해 고안되었다고 상상해 보세요. 로봇 머리를 조립하는 AI 개발자들은 로봇의 얼굴 부분이 점점 더 실제 사람의 얼굴처럼 보이도록 만들기 위해 점진적으로 노력해 왔습니다.

그들의 첫 번째 시도는 매우 원시적이었습니다. 로봇 얼굴은 완전히 금속으로 되어 있고 기어와 와이어를 보여주는 공상 과학 영화에서 본 것과 동일한 모양을 가졌습니다. 당신은 그 장치를 보는 순간 그것이 로봇이라는 것을 즉시 알 수 있습니다. 그것에 대해 당신의 마음에는 의문의 여지가 없습니다.

AI 개발자의 다음 시도는 금속 조각 주위에 플라스틱 재료를 감싸는 것이었습니다. 좀 더 친근해 보이지만, 로봇 머리이고 로봇 얼굴이라는 것을 즉시 알 수 있습니다. 다시 말하지만, 감지하기 쉽습니다.

AI 개발자들은 이를 계속 진행하기로 결심했습니다. 그들은 플라스틱을 조각하고 피부색을 부여합니다. 점, 머리카락, 잡티 등 인간의 얼굴과 매우 유사해 보이는 특징을 추가합니다.

얼핏 보면 사람 얼굴인 줄 착각할 수도 있다. 로봇 얼굴 사진을 찍고 그 사진이 사람인지 로봇 얼굴인지 식별하라는 요청을 받은 경우, 그것이 누구인지 즉시 말하기가 어려울 수 있습니다. 반면에, 당신이 장치 옆에 서 있다면, 자세히 살펴보면 그것이 인간이 아니라 로봇 장치라는 것을 알아차릴 수 있을 것입니다.

문제는 근접 조사를 할 기회를 갖기 전에 얼굴에 완전히 합산되지 않은 것 같은 뭔가가 있다는 것입니다. 확실히 사람 얼굴 같았어요. 하지만 뭔가 잘못된 것이 있었습니다. 옳지 않아 보이는 것을 손가락질하기 위해 계속해서 계속해서 주의 깊게 쳐다보아야 했습니다. 어쩌면 진짜 얼굴일 수도 있겠네요. 그렇다면 또 그렇지 않을 수도 있습니다. 그에 따라 당신의 마음도 흔들리게 됩니다.

으스스한 느낌이 당신의 마음에 들어옵니다.

이전 두 버전을 봤을 때 그와 같은 으스스함은 없었습니다. 로봇이 로봇이라는 것을 잠시 멈추거나 주저하지 않고 감지할 수 있습니다. 어린이만이 속아서 그 버전 중 하나가 실제 사람의 것이라고 믿게 될 수 있습니다.

하지만 이번 최신 버전은 달랐습니다. 아직 사람의 얼굴처럼 보일 정도로 완성되지는 않았습니다. 로봇임이 분명할 만큼 실제와 너무 동떨어진 것도 아니었다. 일종의 혼란스러운 땅에 이르렀습니다.

개발자가 연구 노력을 더욱 강화하여 로봇 얼굴이 인간 얼굴과 거의 구별되지 않도록 모든 것을 조율했다고 가정해 보겠습니다. 아무리 오래 쳐다봐도 그것이 인간인지 아닌지는 알 수 없습니다. 그것이 로봇 얼굴이라는 것을 알게 되면 당신은 깜짝 놀란다. 맙소사, 그들은 그것을 현실처럼 보이게 만드는 훌륭한 일을 해냈습니다.

지금까지는 외모만을 기준으로 로봇의 측면만 고려했다는 점에 유의하세요.

방정식에 움직임을 추가할 수 있습니다. 이는 로봇이 로봇인지 인간인지를 식별할 수 있는 추가적인 차원을 추가합니다. 나는 이 주제에 대한 설명을 더욱 복잡하게 만들기 때문에(다차원이 필연적으로 얽혀 있기는 하지만) 이 토론에서 이것을 다차원적인 종류의 문제로 완전히 받아들이고 싶지 않습니다. 어쨌든 로봇의 얼굴을 볼 뿐만 아니라 로봇이 입, 눈, 코 등과 같은 얼굴 특징을 움직이는 모습도 볼 수 있다고 상상해 보십시오. 로봇이든 인간이든.

불쾌한 계곡의 최전선에 있어야 할 중요한 측면 중 하나는 원래 개념이 인간 친화력의 행위를 강조한다는 것입니다. 주장된 현상은 괴상한 변형이 발생하는 지점까지 점진적으로 개선되는 로봇 얼굴을 볼 때 친밀도가 증가한다는 것입니다. 그 시점에서 당신의 친밀감은 극적으로 떨어지며, 친밀감의 틈이나 계곡으로 곤두박질친다고 합니다.

뭔가 잘못되었다고 의심하게 만든 특정 버전의 경우 친밀도가 급격하게 떨어졌다고 합니다. 게다가 이론에 따르면, 진정한 인간 형태와 거의 동일한 고급 버전을 만나면 친밀도가 급상승할 수 있습니다.

다음은 삶의 측면이 원활하게 증가한다고 가정하는 우리의 정상적인 성향에 대해 저자가 언급한 내용에 대한 자세한 내용입니다. 단조 증가 함수 함수의 관계를 설명합니다. y = ?(x)는 변수에 따라 지속적으로 증가합니다. x. 예를 들어 노력으로 x 성장하다, 수입 y 증가하거나 자동차의 액셀을 밟으면 자동차가 더 빠르게 움직입니다. 이런 종류의 관계는 어디에나 존재하며 매우 쉽게 이해됩니다. 실제로 이러한 단조롭게 증가하는 함수는 일상생활의 대부분의 현상을 포괄하기 때문에 사람들은 그것이 모든 관계를 대변한다는 착각에 빠질 수도 있다. 또한 이러한 잘못된 인상을 입증하는 것은 많은 사람들이 뒤로 물러나는 것의 효과를 이해하지 못한 채 끈질기게 밀어붙이며 인생을 살아가면서 어려움을 겪는다는 사실입니다. 그렇기 때문에 사람들은 이 기능이 나타낼 수 없는 현상에 직면할 때 대개 어리둥절해 합니다.” 이는 다음과 같이 인용됩니다. IEEE 스펙트럼 번역된 논문.

항상 증가한다는 거의 보편적인 가정은 뭔가 잘못된 것을 만나면 뒤집힐 수 있습니다. 으스스함과 의심은 상대적으로 갑작스럽고 극적인 친화력 저하를 초래할 것이라고 이론은 말합니다. 예를 들어 로봇 손을 흔들기로 선택하면 인간 손의 뼈만 남은 특성을 느낄 수 없습니다. “이런 일이 발생하면 우리는 감각을 잃습니다. 애착이 생기고 손이 이상해집니다. 수학적으로는 음의 값으로 표현될 수 있다.”

이러한 불쾌한 계곡 현상이 있다는 전제를 받아들인다면, 불쾌한 계곡이 분명히 존재한다는 것을 아는 것이 당신에게 무슨 소용이 있는지 궁금할 것입니다.

그것은 역대 고전적인 "그래서 뭐?"입니다. 실용성 테스트.

많은 사람들이 불쾌한 계곡에 대해 우리가 무엇을 해야 하고 무엇을 할 수 있는지에 대해 많은 해석을 내놓은 것으로 나타났습니다. 수많은 의견이 있습니다. 그 중 일부를 곧 다루겠습니다.

한편, 마사히로 모리(Masahiro Mori)는 다음과 같이 제안했습니다. “우리는 불쾌한 계곡에 빠지지 않는 로봇과 의수를 설계하고 제작하기를 희망합니다. 따라서 두 번째 봉우리를 오르기 위해 인간의 유사성을 높이려는 데는 위험이 내재되어 있으므로 디자이너는 첫 번째 봉우리를 목표로 삼아 중간 정도의 인간 유사성과 상당한 친밀감을 얻을 것을 권장합니다. . 사실, 인간이 아닌 디자인을 의도적으로 추구함으로써 안전한 수준의 친밀감을 조성하는 것이 가능하다고 예측합니다. 디자이너들에게 이 점을 숙고해 달라고 요청합니다.”

불쾌한 계곡과 관련하여 무엇을 해야 할지에 대한 XNUMX가지 편리한 규칙을 간단히 요약하면 특히 AI 개발자에게 다음과 같습니다.

1) 불쾌한 계곡을 인지하고 그에 따라 긴장하십시오.

2) 아마도 당신은 가능한 한 AI에 대한 인간적 친밀감을 얻고 싶을 것입니다.

3) AI가 불쾌한 계곡에 빠지면 인간 친화력 상실에 대비하세요.

4) AI를 고안하여 불쾌한 계곡을 피하려고 노력하십시오.

5) 불쾌한 골짜기에 미치지 못하는 목표를 갖는 것은 존경스럽습니다.

6) 불쾌한 계곡 가장자리까지 옆으로 다가가되 절벽 위로 떨어지지는 마세요.

7) 불쾌한 골짜기를 넘어서는 것에 집착하지 말라

8) 언캐니 밸리를 뛰어 넘을 가능성이 있다

9) 어차피 계곡에 빠질 수도 있으니 도약에 열중하지 마세요.

10) 불쾌한 계곡을 통과하면 인간과의 친화력이 극대화될 것입니다.

11) 그럼에도 불구하고, 불쾌한 골짜기 이전에 적절하고 적절한 친화력이 발견되었습니다.

12) 불쾌한 골짜기에 대해 지속적으로 염두에 두고 그것이 마음에서 떠나지 않도록 하십시오.

이 XNUMX개는 모두 불쾌한 계곡에 대해 아는 종석 또는 고정점으로 간주될 수 있는 일반적인 계율입니다. 나는 똑같이 중요하다고 주장될 수 있는 그 소수의 항목에 나열되지 않은 다른 요점이 있다는 것을 즉시 인정할 것입니다. 나는 또한 확인된 각 요점에 대해 의견 차이가 있을 수 있으며, 제시된 각 요점에 대해 길고 열띤 논쟁이 이어질 수 있음을 기꺼이 인정할 것입니다.

더욱이 어떤 사람들은 XNUMX개 항목이 애초에 거짓에 기초를 두고 있기 때문에 모두 쓰레기라고 말할 수도 있습니다. 불쾌한 계곡 같은 것은 없다고 그들은 주장할 것이다. 그것은 모두 단지 약한 마음을 끌기 위해 오로지 슬프게도 호소하는 속임수이자 날조된 고안일 뿐입니다. 불쾌한 계곡에 대한 모든 관심은 헛된 호흡이며 누군가가 와서 문제의 핵심에 날카로운 나무 이론적 말뚝을 놓아야 합니다(일부 연구자들은 그렇게 시도했습니다).

논의를 위해 흐름을 따라가며 불쾌한 계곡이 있고 그것이 내가 지금까지 지적한 것과 일반적으로 일치한다고 가정해 보겠습니다. 불쾌한 계곡의 개념에 동의하지 않는 사람들은 정신을 차리고 이를 악물고 지적인 분노가 끓어오르는 상태로 계속해서 읽어도 됩니다(죄송합니다).

윤리적 AI와 윤리적 AI를 고안하고 배치하는 데 중점을 두는 방법은 다음과 같습니다. 그건 그렇고, AI 윤리에 대한 지속적이고 심층적인 탐구에 대해서는 다음 토론을 참조하세요. 여기 링크 와 여기 링크, 다만 약간을 지명하기 위하여.

불쾌한 계곡은 윤리적 AI에 관심이 있는 사람들에게는 확실히 애증의 사건입니다.

첫째, 배경 지식이 필요했습니다. AI와 관련된 가장 머리 아픈 윤리적 불만 중 하나는 인간이 AI 시스템에 지각력이 있다고 믿도록 속일 수 있다는 것입니다. 오늘날에는 지각력이 있는 곳에 원격으로 접근할 수 있는 AI가 없다는 점을 명심하세요. 현재로서는 그런 일이 일어나지 않습니다. 이 AI를 선언하거나 AI가 지각이 있거나 그렇게 간주될 만큼 충분히 가깝다고 주장하는 끊임없이 요란한 헤드라인에도 불구하고 나의 표면적으로 " 뻔뻔스러운" 주장은 이루어졌습니다. 말라키. 우리는 AI 감각에 있지 않습니다.

우리는 거기에 어떻게 가는지 모릅니다. 그런 일이 일어날지 우리는 모릅니다. AI 감각은 가치 있는 꿈이자 열망이지만, 성급하게 목표를 달성하기 직전이라고 생각하지는 마세요.

물론 많은 사람들은 우리가 의도적으로든 순수한 사고로든 AI 감각을 어떻게든 끌어낼 수 있다면 실존적 위험에 직면하게 될 것이라고 열렬히 경고하고 있습니다. 그런 식으로 생각하면 AI 감각을 찾는 것이 그다지 가치가 없을 수도 있습니다. 위험은 이 지각 있는 AI가 인간이 주변에 있을 가치가 없다고 판단할 수 있다는 것입니다. 우리는 벌레처럼 찌그러질 수도 있습니다. 아니면 AI의 노예가 되기도 합니다. 이는 AI가 공개적으로 그렇게 하기로 선택함으로써 발생할 수도 있고, AI가 결국 우리 자신의 무능함으로 인해 우리를 파괴하는 종말의 기계가 될 수도 있습니다. AI 감각이나 특이점의 문제가 되는 결과에 대한 내용은 다음을 참조하세요. 여기 링크.

AI에 대한 중요한 윤리적 우려는 AI 개발자와 AI를 다루는 사람들이 때때로 AI에 지각력이 있다고 생각하도록 인간을 속이고 있다는 것입니다. 로봇 공식이나 대화형 상호 작용과 같이 AI가 자신을 나타내는 방식은 사람들이 AI에 감각이 있다고 가정하도록 교묘하게 자극할 수 있습니다. 이는 결국 당신을 잠재적으로 더러운 앵초 길로 인도합니다.

AI 시스템에 감각이 있다고 생각하는 정신적 함정에 빠지면 감각이 있는 존재가 할 일을 AI 시스템에 의존하게 될 가능성이 높습니다. 그러나 오늘날의 AI에는 인간과 같은 품질이 내장되어 있다는 상식이 아직 없습니다. 현재 우리가 경험하는 AI는 인간과 유사한 능력을 갖추기에는 매우 취약하고 피상적입니다. AI 시스템에 지각이 있다고 믿으면 불미스럽고 위험한 물에 빠져들 수 있습니다.

그것이 불쾌한 계곡과 어떻게 연결되는가?

여기 거래가 있습니다.

불쾌한 골짜기는 AI 시스템이나 로봇이 인간과 유사한 공식에 점점 더 가까워짐에 따라 인간의 친화력이 점차 높아질 것임을 알려주는 것 같습니다. AI 시스템이 꽤 가까워졌지만 아직은 가까워지지 않은 시점에서 우리는 뭔가 잘못되었다는 으스스한 느낌을 받습니다. 그때까지 우리는 AI가 인간이 아니라는 것을 알고 있었습니다. 이제 우리는 확신하지 못합니다. 인간의 호감도가 떨어집니다. AI나 로봇이 인간과 같은 능력을 완전히 확신하게 된 후에야 우리는 장치에 대한 친밀감을 다시 회복하게 됩니다.

이런 마음을 갖고 있는 AI 개발자들은 아마도 의도적으로 기괴한 심연에 빠지기 직전에 AI의 기능 측면에서 멈추는 것을 목표로 AI를 기괴한 계곡에서 벗어나도록 노력합니다(모리 마사히로가 강조한 것도 이 점을 기억하세요). 개발자는 AI가 지각이 없는 AI이고 인간이 아니거나 동등하다는 점을 명확하게 하기 위해 풍부한 단서가 여전히 존재하는지 확인함으로써 그렇게 할 것입니다.

AI 윤리학자들은 일반적으로 그러한 진심 어린 노력을 환영할 것입니다.

추론은 간단합니다. 많은 정보를 갖고 AI 개발자를 수용하는 사람들은 AI 시스템이 사람들이 AI에 인간과 유사한 시설을 잘못 부여하도록 오해하지 않도록 노력하고 있습니다. 확실히 좋은 소식이네요. 개발자들은 불쾌한 계곡으로 뛰어드는 것을 방지하기 위해 의도적으로 AI를 제작할 것입니다. 인간은 AI가 지각력이 없다는 것을 쉽게 깨닫게 될 것입니다.

AI 개발자가 이러한 접근 방식을 수용하도록 하는 것은 쉽지 않습니다. 실제로 이는 그들의 일반적인 본능과 추진력 있는 야망에 반직관적일 수 있습니다.

일반적으로 AI 개발자와 기술 전문가는 목표에 사로잡혀 있다는 많은 주장이 있습니다. 그들은 목표를 보고 맹목적으로 그것을 열정적으로 추구하는 경우가 많습니다. 멈추고 장미 냄새를 맡을 시간이 없습니다. 경주로 출발합니다. AI 분야에서 규범적 목표는 AI가 지능적으로 동등할 수 있다는 점에서 인간과 구별할 수 없는 이상적인 AI가 될 것입니다. 하지만 우리는 아직 거기에 도달하지 못했습니다. 따라서 불쾌한 계곡은 방해가 되는 불쾌한 계곡 앞에 착지하는 두 번째 목표를 제공하며 그럼에도 불구하고 허용되는 목표가 됩니다. 물론, 황금 반지는 아니지만, 이 "XNUMX차" 상은 괜찮고, 정말 감사하고 자랑스러워할 수 있다는 생각입니다.

우리는 파멸적인 목표 추구의 최고 야망을 변경하고 이를 말하자면 옳은 일을 하기 위해 논리적으로 들리는 합리적인 기반으로 활용했습니다.

만세!

AI 윤리에서 승리하세요.

하지만 잠시만 기다려 주세요. 스포일러 경고입니다. 우리가 똑같이 고려해야 할 다른 사항이 있습니다.

이제 요령 있는 AI 개발자들은 불쾌한 계곡에 대해 알았으므로 의도적으로 심연을 뛰어넘는 방향으로 재치와 기술 능력을 발휘할 수도 있지만 겉으로는 속임수를 염두에 두고 그렇게 할 수도 있습니다. 개발자가 이것이 사실이 아니라는 것을 알고 있더라도 AI가 완전히 인간과 유사한 것처럼 보이도록 만드십시오.

엉뚱한 생각은 이렇습니다. AI 시스템이 모자를 기울여 사람들이 그 파악하기 어려운 으스스함의 흐름을 느끼게 하지 마십시오. AI가 인간의 능력이 아니라는 힌트나 단서를 제공할 수 있는 측면을 삭제하세요. AI가 인간의 능력이 아니며 AI와 상호 작용하거나 AI에 의존하는 사람들로부터 그 진실을 숨기는 것이 전부라는 것을 은밀히 깨닫고 변명의 여지 없이 알면서도 이를 수행하십시오.

얼마나 악마적인 계획인가.

아이러니하게도 불쾌한 계곡은 AI 개발자들에게 사람들을 정말로 속이고 싶다면 심연에서 벗어날 수 있을 만큼 영리해야 한다는 일종의 경종일 수 있습니다. 그들은 완전한 AI를 달성하는 것이 아니라 연기와 거울을 세워 AI가 마치 인간인 것처럼 오해하게 만드는 방식으로 그렇게 합니다. AI 개발자들이 이 불쾌한 계곡이 존재한다는 사실을 깨닫지 못했다면 그들은 대체로 그 속에 빠졌을 것입니다. 인간은 오늘날의 AI 품질에 과도하게 의존하지 않는다는 점에서 AI에 대한 친화력을 잃을 것이기 때문에 이는 인류에게 좋습니다.

안타깝게도 함정이 존재한다는 사실을 알면 그 함정을 몰래 피하려는 AI 개발자들은 그렇게 하는 매우 영리한 방법을 찾게 될 것입니다.

윤리적 AI의 계율에 반하는 공격을 기록하세요.

이것이 어떻게 불쾌한 계곡에 대한 AI 윤리학자들의 애증 관계를 형성하는지 보십니까?

하면 욕, 안 하면 젠장.

나는 이것이 불쾌한 계곡에 대한 다소 고상한 조사였으며 여러분은 일상적인 예를 원할 수도 있다는 것을 알고 있습니다. 내 마음속에 와닿는 특별하고 확실히 인기 있는 사례가 있습니다. 윤리적, 법적 파급 효과를 포함한 AI 전문가로서 저는 주제의 다소 이론적인 성격을 보다 쉽게 ​​파악할 수 있도록 AI 윤리 딜레마를 보여주는 현실적인 사례를 식별해 달라는 요청을 자주 받습니다. 이러한 AI 윤리적 난관을 생생하게 보여주는 가장 인상적인 분야 중 하나는 AI 기반의 진정한 자율주행차의 출현입니다. 이는 주제에 대한 충분한 토론을 위한 편리한 사용 사례 또는 예시 역할을 할 것입니다.

다음은 생각해 볼 가치가 있는 주목할만한 질문입니다. AI 기반의 진정한 자율주행차의 출현은 불쾌한 계곡에 대한 어떤 것을 밝혀줄까요? 그렇다면 이것이 우리에게 무엇을 알려줄까요?

잠시 질문을 풀어보겠습니다.

먼저 진정한 자율주행차에는 인간 운전자가 포함되어 있지 않다는 점에 유의하십시오. 진정한 자율주행차는 AI 운전 시스템을 통해 구동된다는 점을 명심하십시오. 운전석에 사람이 운전할 필요도 없고 사람이 차량을 운전할 규정도 없습니다. 자율주행차(AV)와 특히 자율주행차에 대한 광범위하고 지속적인 내용은 다음을 참조하십시오. 여기 링크.

진정한 자율 주행 차를 언급 할 때 의미하는 바를 더 명확히하고 싶습니다.

자율 주행 차의 수준 이해

설명하자면, 진정한 자율 주행 자동차는 AI가 자동차를 완전히 스스로 운전하고 운전 작업 중에 사람의 도움이없는 자동차입니다.

이 무인 차량은 레벨 4 및 레벨 5로 간주됩니다 (내 설명은 여기 링크), 인간 운전자가 운전 노력을 공동으로 분담해야 하는 자동차는 일반적으로 레벨 2 또는 레벨 3으로 간주됩니다. 공동 운전 작업을 수행하는 자동차는 반자율적이라고 설명되며 일반적으로 다양한 ADAS(Advanced Driver-Assistance Systems)라고 하는 자동 추가 기능.

레벨 5에는 아직 진정한 자율 주행 차가 없으며, 이것이 달성 될 수 있는지, 그리고 도착하는 데 걸리는 시간도 아직 알지 못합니다.

한편, 레벨 4의 노력은이 테스트가 그 자체로 허용되어야하는지에 대한 논란이 있지만 (우리는 실험에서 모두 생사 기니피그입니다. 우리 고속도로와 도로에서 일어나고 있습니다. 여기 링크).

반 자율 자동차에는 인간 운전자가 필요하기 때문에 이러한 유형의 자동차 채택은 기존 차량을 운전하는 것과 크게 다르지 않으므로이 주제에 대해 다루는 새로운 자체는 많지 않습니다 (그러나, 잠시 후, 다음 사항이 일반적으로 적용됩니다.

반 자율 자동차의 경우 대중이 최근에 발생하고있는 혼란스러운 측면에 대해 미리 알고 있어야합니다. , 우리 모두는 운전자가 반 자율 자동차를 운전하는 동안 운전 작업에서주의를 끌 수 있다고 믿지 않도록 잘못 인도하지 않아야합니다.

레벨 2 또는 레벨 3으로 전환 할 수있는 자동화의 양에 관계없이 차량의 운전 행동에 대한 책임은 귀하에게 있습니다.

자율주행차와 언캐니 밸리

레벨 4 및 레벨 5 진정한 자율 주행 차량의 경우, 운전 작업에 인간 운전자가 관여하지 않습니다.

모든 탑승자가 승객이됩니다.

AI가 운전을하고 있습니다.

즉시 논의해야 할 한 가지 측면은 오늘날의 AI 구동 시스템에 관련된 AI가 지각력이 없다는 사실을 수반합니다. 다시 말해, AI는 모두 컴퓨터 기반 프로그래밍과 알고리즘의 집합체이며 인간이 할 수있는 것과 같은 방식으로 추론 할 수 없습니다.

AI가 지각이 없다는 점을 강조하는 이유는 무엇입니까?

AI 구동 시스템의 역할을 논의 할 때 AI에 인간의 자질을 부여하는 것이 아니라는 점을 강조하고 싶습니다. 요즘 인공 지능을 의인화하려는 지속적이고 위험한 경향이 있음을 유의하십시오. 본질적으로 사람들은 그러한 AI가 아직 존재하지 않는다는 부인할 수없고 논란의 여지가없는 사실에도 불구하고 오늘날의 AI에 인간과 같은 감성을 부여하고 있습니다.

이러한 설명을 통해 AI 구동 시스템이 기본적으로 운전 측면에 대해 "알지"못할 것이라고 상상할 수 있습니다. 운전과 이에 수반되는 모든 것은 자율 주행 자동차의 하드웨어 및 소프트웨어의 일부로 프로그래밍되어야합니다.

이 주제에 대한 수많은 측면을 살펴 보겠습니다.

첫째, 모든 AI 자율주행차가 같지는 않다는 점을 인식하는 것이 중요합니다. 각 자동차 제조사와 자율주행 기술 회사는 자율주행차 개발에 접근하고 있다. 따라서 AI 운전 시스템이 무엇을 할 것인지, 하지 않을 것인지에 대해 포괄적인 진술을 하기는 어렵습니다.

게다가, AI 운전 시스템이 어떤 특정한 일을 하지 않는다고 말할 때마다, 이것은 나중에 실제로 바로 그 일을 하도록 컴퓨터를 프로그래밍하는 개발자들에 의해 추월될 수 있습니다. AI 운전 시스템은 단계적으로 개선되고 확장되고 있습니다. 현재의 기존 제한은 시스템의 향후 반복 또는 버전에서 더 이상 존재하지 않을 수 있습니다.

나는 이것이 내가 관련시키려는 내용의 기초가 되는 충분한 주의 사항을 제공한다고 믿습니다.

우리는 이제 자율주행차와 불쾌한 계곡을 수반하는 윤리적인 AI 질문에 대해 심층적으로 알아볼 준비가 되어 있습니다.

여기에서 다룰 이 문제와 관련된 네 가지 측면이 있습니다.

1. 자율주행차의 전체적인 모습

2. 자율주행차는 어디를 '보고' 있는가에 대한 질문

3. 자율주행차의 AI 운전행위

4. 자율주행차 구현을 위한 수단으로 운전하는 로봇

추가 측면도 실행 가능하게 포함되지만 공간 제약으로 인해 이 네 가지 주제는 AI 기반 자율 주행 자동차와 관련된 불쾌한 계곡의 방향을 조명하기에 충분합니다.

1. 자율주행차의 전체적인 모습

여러분은 오늘날 자율주행차 시험에 대한 사진이나 비디오를 보셨을 것입니다. 따라서 대부분의 차량이 추가적인 특수 장비가 장착된 기존 차량이라는 것을 눈치채셨을 것입니다. 예를 들어, 수많은 전자 센서가 포함된 옥상 랙이 있을 수 있습니다. 센서에는 비디오 카메라, 레이더 장치, LIDAR 장치, 초음파 센서 등이 포함되는 경우도 있습니다.

미래지향적인 디자인은 우리가 기존의 자동차에서 출발하여 자동차의 내부와 외부 모두를 더 매끄럽게 보이는 자율주행차로 재설계할 수 있음을 암시하는 경향이 있습니다. 현재 일반적인 생각은 기존의 자동차를 사용하는 것이 더 간단하고, 기존에 얽매이지 않는 자동차를 만지작거리며 노력을 확장하려고 에너지를 소비하지 않는다는 것입니다(이 일반적인 관점에는 몇 가지 예외가 있습니다. 여기 링크).

지금의 요지는 도로에서 운전하다가 근처에서 자율주행차를 만나면 자율주행차에 장착된 센서의 희미한 정도만 알아차리는 것만으로도 자율주행차일 가능성이 거의 항상 즉시 알아차릴 수 있다는 것입니다. 이것은 빠른 시각적 선물입니다. 물론, 이 시점에서 운전 제어 장치는 일반적으로 그대로 유지되고 인간 백업 운전자가 운전대를 잡을 수 있기 때문에 그것이 자체 운전인지 확신할 수 없습니다.

한 가지 생각으로, 자율 주행 자동차가 물리적으로 눈에 띄는 것처럼 보이고 근처에 있는 인간이 운전하는 자동차에 탄 인간 운전자와 근처 보행자도 쉽게 시각적으로 발견할 수 있다는 것이 특히 편리하다고 제안할 수 있습니다. 자율주행차가 근처를 돌아다니고 있다는 사실은 경계를 늦추지 않는 편리한 단서가 될 수 있으며, AI가 차량을 운전 중이거나 운전 중일 수 있다는 점을 주의 깊게 살펴야 합니다.

자율주행 자동차가 기존의 인간이 운전하는 자동차와 동일하게 생겼다고 가정해 보겠습니다. 이는 적어도 두 가지 측면에서 현실적으로 가능합니다. 첫째, 센서는 잠재적으로 숨겨져 있거나 일반적인 육안 검사에서는 눈에 띄지 않는 모양일 수 있습니다. 둘째, 차량이 주로 인간이 운전하는 자동차로 남아 있더라도 기존의 인간이 운전하는 자동차를 포함한 모든 자동차에 점차 유사한 센서가 장착될 수 있습니다. 자세한 내용은 다음에서 확인하세요. 여기 링크.

자율주행차가 기존의 인간이 운전하는 자동차와 외관상 동일할 수 있는지 또는 동일해야 하는지에 대한 고려 사항을 신중하게 숙고한다면, 이 스튜에 기괴한 계곡이 숨어 있을 수 있다는 생각이 들 수 있습니다.

노골적으로 자율주행차처럼 보이는 자동차는 언캐니 밸리에 조금 못 미치는 지점에 있는 것으로 대표될 수도 있다. 기본적으로, 당신은 그것이 로봇이거나 로봇 종류의 시스템이라는 것을 "알고 있습니다". 그것은 거의 즉각적으로 도약할 수 있는 판단이다.

자율주행차가 인간이 운전하는 자동차와 똑같이 보인다는 것은 아마도 자율주행차가 로봇과 같은 모습에 대해 불쾌한 골짜기를 뛰어넘었다는 것을 의미할 것입니다. 우리를 불쾌한 계곡으로 몰아넣는 두 가지 육체적 모습 사이에 중간 지점이 있을까요?

아마도 길을 따라 내려오는 자율주행차를 발견하면 마치 자율주행차인 것처럼 보일 수도 있습니다. 반면에 그 모습은 엄밀히 말하면 자율주행 자동차도 아니고 엄밀히 말하면 인간이 운전하는 자동차도 아닙니다. 이제 자율주행차의 모습은 으스스하거나 불안한 상태에 있다고 말할 수 있습니다.

자율주행차는 표면적으로는 불쾌한 계곡에 빠져들었습니다.

즉, 모든 사람이 그 분류에 동의하는 것은 아닙니다. 어떤 사람들은 육체적인 외모가 불쾌한 골짜기와 아무런 관련이 없다고 주장합니다. 물론 어떤 사람들은 현실적으로 불쾌한 계곡이라고 알려진 것이 없다고 주장하기도 합니다.

앞서 언급했듯이 이에 대한 결정은 귀하가 직접 내리는 것이 좋습니다.

2. 자율주행차는 어디로 향하고 있는가?

자율주행차에 대해 많은 사람들이 우려하는 점은 일반적으로 운전석에 인간 운전자가 없기 때문에 자동차를 운전하는 동안 "운전자"가 어디를 보고 있는지 파악하기 어렵다는 것입니다.

당신은 일반적으로 인간 운전자가 어디를 보고 있는지 감시하기 위해 시선을 보냅니다. 예를 들어, 당신은 횡단보도의 보행자이고 자동차가 횡단보도에 접근하고 있을 수 있습니다. 당신은 운전석에 앉아 있는 사람을 주의 깊게 바라보며 그 사람의 머리가 어디로 향하고 있는지, 눈이 어디로 향하고 있는지 식별하려고 노력합니다. 인간 운전자가 당신을 보았다고 믿는다면 길을 건너는 것이 더 편할 수도 있습니다. 대조적으로, 인간 운전자가 당신을 보지 못하는 것 같다면 당신은 횡단에 대해 당연히 걱정하고 있는 것입니다.

일부 도시에서는 이러한 측면에 대해 일종의 고양이와 쥐 도박이 있습니다. 특정 도시의 특정 문화적 규범은 운전자와 눈을 마주치면 운전자가 "승리"하고 운전 상황의 적법성에 관계없이 계속 진행할 권리가 있는 것처럼 보일 수 있습니다. 다른 도시들은 완전히 반대일 수도 있습니다. 즉, 눈이 마주치면 보행자가 "승리"하고 인간 운전자는 보행자의 행동을 따라야 한다는 것이 문화적 규범입니다.

우리는 도시와 지역 사회 한가운데에 자동차가 존재했던 비교적 오랜 시간 동안 이 관습을 채택한 것 같습니다. 자율주행차 출현의 문제점은 운전석에 인간 운전자가 없기 때문에 일반적으로 운전 의도의 문화적 지표로 자동차 운전자의 머리와 눈을 사용하는 보행자나 근처의 인간 운전자가 이제 운없는.

자동차 제조사와 자율주행차 개발자들은 이러한 새로운 문제를 예리하게 인식하고 있습니다. 제안된 솔루션 중 하나는 자율주행차가 자율주행차의 헤드라이트를 깜박이거나 경적을 울리는 것으로 구성됩니다. 또 다른 개념은 자율주행차에 확성기의 변형이 있을 수 있으며 AI 운전 시스템의 "의도"가 무엇인지 주변 사람들에게 알릴 수 있다는 것입니다. 이러한 아이디어에는 각각 상당한 단점이 있습니다.

그러나 다른 제안은 처음에는 우스꽝스럽다고 생각할 수도 있는 일을 수행하는 것을 수반합니다. 이 제안은 자율주행차 외부에 눈알 모양의 구체를 배치하는 것으로 구성됩니다. 이 구체는 앞뒤로 회전할 수 있는 것처럼 인간의 눈과 거의 비슷해 AI가 "당신을 보았다"는 것을 암시하는 즉각적인 표시를 제공합니다(당신은 특정 방향을 바라보는 눈알로 이것을 해석할 것입니다). 나는 이 접근 방식을 분석했습니다. 여기 링크.

자율주행차가 도로를 달리고 후드나 옥상에 거대하고 이상한 눈알 모양의 구체가 장착된 것을 본다면 어떤 반응을 보일까요?

아마 당신은 그것이 으스스하다고 생각할 수도 있고, 어쩌면 소름끼칠 수도 있다고 생각할 것입니다.

어떤 사람들은 그 으스스함은 마치 무인자동차가 불쾌한 계곡에 있는 것에서 비롯된다고 제안합니다. 다른 사람들은 이것이 불쾌한 계곡과는 아무런 관련이 없다고 격렬하게 주장할 것입니다. 그러한 전문가들 중 어떤 사람들은 불쾌한 계곡에 갇히지 않고도 으스스함이 될 수 있는 으스스함이 있다고 말할 것입니다(즉, 으스스한 계곡은 항상 으스스함을 만들어내는 것처럼 보이지만 모든 으스스함이 으스스한 계곡을 통해서만 생성되는 것은 아닙니다). 다른 각도에서는 구체가 덜 눈알처럼 보이고 좀 더 로봇처럼 보이도록 설계될 수 있거나 우리 모두가 필연적으로 이러한 구체의 모양을 받아들이고 초기의 놀라운 반응이 가라앉을 것이라는 것입니다.

3. 자율주행차의 AI 운전행위

오늘날 자율주행차 시험의 대부분은 기존 AI 운전 시스템이 다소 미온적이고 다소 엄격하게 법적 방식을 준수하도록 프로그래밍된 경향이 있음을 보여주었습니다. AI 운전 시스템은 일반적으로 정지 신호에서 자율주행차를 완전히 정지시킵니다. AI 운전 시스템은 신호등이 곧 빨간색으로 변할 때 교차로를 과감하게 주행하지 않습니다. 이러한 변덕스러운 운전 습관은 인간 운전자의 영역입니다.

말하자면, 자율주행차가 보여주는 운전 스타일을 보면 자율주행차가 자율주행차라는 것을 거의 짐작할 수 있습니다. 자율주행차가 시각적으로 인간이 운전하는 일반적인 자동차처럼 보이더라도 운전 동작을 관찰하면 아마도 AI 시스템에 의해 운전되고 있을 것이라고 논리적으로 추론할 수 있습니다.

어떤 사람들은 AI 운전 시스템이 운전에 대한 규범적인 접근 방식과 효과적으로 조화될 수 있도록 인간 운전자의 익살스러운 행동과 더 유사하게 만들어야 한다고 믿습니다. 나는 이것을 불로 불과 싸우는 것으로 해석할 수 있다고 생각합니다.

그렇게 하는 게 말이 됩니까?

노골적으로 회의적인 사람들과 비평가들은 이 아이디어를 싫어한다는 점을 명심하십시오. 그들은 우리가 AI 운전 시스템이 적절하고 조심스럽게 운전하기를 원한다고 격렬하게 주장할 것입니다. 잘못된 인간 운전자처럼 보이도록 프로그래밍된 도로에 잠재적으로 수백만 대의 자율주행차를 추가하는 것은 엄청난 악몽처럼 보일 것입니다. 나는 논쟁의 여지가 있는 이 제안에 대해 논의한 적이 있습니다. 여기 링크.

불쾌한 골짜기를 활용하여 딜레마를 재구성해 보겠습니다.

AI 운전 시스템이 운전 행위에 의해 엄격하게 합법적인 경우, 이는 아마도 로봇 시스템일 가능성이 높다는 것을 암시하는 단서일 것입니다(인간 운전자가 이것을 인정함에도 불구하고, 오늘날 세계에서는 그 사이에 아주 먼 것처럼 보이지만). AI 운전 시스템이 인간 운전자만큼 기발한 운전을 한다면, 이는 불쾌한 계곡을 뛰어넘을 것인가, 아니면 불쾌한 골짜기로 떨어질 것인가?

그 문제를 생각해보십시오.

4. 자율주행차를 구현하기 위한 수단으로 운전하는 로봇

보장 범위에 대한 이 마지막 항목은 이 네 가지 중 가장 놀라운 것입니다.

일부 AI 개발자가 자동차를 운전하는 로봇을 제작하려고 한다는 사실을 전혀 알지 못할 수도 있습니다. 로봇은 로봇 다리와 로봇 팔을 사지로 가지고 있어 다양한 측면에서 인간과 비슷하게 보이는 경향이 있습니다. 기존의 인간이 운전하는 자동차를 자율주행차로 만들고 싶다면 이 전문 AI 운전 로봇을 자동차 운전석에 장착하기만 하면 됩니다. 이 개념에 대한 내 분석을 참조하세요. 여기 링크.

왜 우리는 운전 로봇을 원하는가?

그러한 로봇의 장점은 오늘날의 모든 인간이 운전하는 자동차가 거의 하룻밤 사이에 자율주행 자동차가 될 수 있다는 것입니다. 당신은 단지 운전 로봇을 구입하거나 임대하거나 어떻게든 얻을 수 있습니다. 운전 여행을 갈 때 로봇을 운전석에 앉힙니다. 로봇이 당신을 목적지까지 데려다줍니다. 인간 운전으로 전환하려면 차량에서 로봇을 제거하고 나중에 사용할 수 있도록 트렁크에 보관할 수도 있습니다.

오늘날 미국에는 약 250억 XNUMX천만 대의 일반 자동차가 있습니다. 어떤 사람들은 자율주행차가 등장하면서 결국 폐차될 것이라고 믿고 있습니다. 기존 자동차를 폐차하는 대신 자율주행 자동차로 개조하려고 할 수도 있지만 이는 비용이 많이 드는 아이디어일 수 있습니다. 표면적으로 더 신중한 접근 방식은 운전 로봇을 제공하는 것입니다.

평범한 모습의 자동차가 동네 거리를 달려오고 있는데 로봇이 운전대를 잡고 있는 것을 본다면 어떤 반응을 보일까요?

아마도 기분이 나빴을 것이다.

인정된 논쟁의 여지가 있는 주장 중 하나는 이러한 으스스함은 기존 자동차를 운전하는 로봇이 유명하거나 악명 높은 불쾌한 계곡으로 빠져들기 때문이라는 것입니다.

결론

윤리적 AI 관점에서 볼 때 불쾌한 골짜기는 흥미로운 수수께끼를 제시합니다.

AI에는 불쾌한 계곡을 완전히 믿는 사람도 있고 그렇지 않은 사람도 있습니다. 그러나 당신이 불쾌한 계곡을 믿든 믿지 않든, 그럼에도 불구하고 주제 자체는 혼란스럽습니다. 머리를 숨기고 구성 자체가 존재하지 않는 척할 수는 없습니다. 아이디어로서의 구조는 살아있고 어떤 면에서는 바이러스처럼 강력합니다. 싫어하거나 좋아하거나, 멋지거나 어쩌면 고상한 주제가 지속됩니다.

AI 윤리의 관점에서 불쾌한 계곡의 장점에 대한 이전 담론에 따르면 그 안에는 사랑과 증오의 결투 관계가 있습니다. 윤리적 AI 영역에 있는 사람들은 불쾌한 계곡을 수용해야 할까요, 아니면 즉각적으로 불쾌한 계곡을 거부해야 할까요, 아니면 진실성에 대해 어느 정도 중립을 유지하고 대신 그에 대한 지속적인 다양한 믿음으로 인해 발생하는 영향에 집중해야 할까요?

이 도전은 저명한 경제학자 아담 스미스(Adam Smith)가 한때 회의주의 도시에서 출발하는 길에서는 모호함의 계곡(Valley of Ambiguity)을 통과해야 한다고 말한 것처럼 떠오르게 합니다.