AI 윤리는 AI 자체가 지각이 있는지 AI에게 묻는 것이 의미가 있는지 묻습니다.

내가 당신에게 지각이 있느냐고 묻는다면 당신은 틀림없이 당신이 지각이 있다고 주장할 것입니다.

그 가정을 다시 한 번 확인하겠습니다.

당신은 정말로 지각이 있습니까?

아마도 질문 자체가 약간 어리석은 것처럼 보일 것입니다. 우리는 일상 생활에서 동료 인간이 자신이 지각이 있다는 것을 인정할 것이라고 확실히 기대할 수 있습니다. 말 그대로 상대방이 눈치를 못 챘거나, 지각 마차에서 떨어져 잠시 정신없이 점심을 먹으러 갔음을 암시하는 유머러스한 질문일 수 있다.

당신이 바위 더미 위에 조용하고 눈에 거슬리지 않게 앉아 있는 바위 쪽으로 걸어가서 물어볼 만큼 가까이 다가가서 바위가 지각이 있는지 물어본다고 상상해 보십시오. 바위가 그저 바위일 뿐이라고 가정할 때, 우리는 이전의 그러나 겉보기에 이상해 보이는 질문에 다소 돌 같은 침묵(말장난!)으로 대답될 것이라고 충분히 예상합니다. 침묵은 바위가 지각이 없다는 것을 나타내기 위해 요약적으로 해석됩니다.

나는 왜 누군가 또는 무언가가 지각이 있는지 여부를 결정하려고 할 때 이러한 다양한 뉘앙스를 제기합니까?

이는 인공 지능(AI)과 사회 전반에 걸쳐 상당히 큰 문제이기 때문에 최근 주목할만한 엄청난 관심과 엄청난 미디어 헤드라인을 얻은 기념비적인 주제로 사용됩니다. AI는 지각이 있는 전체 수수께끼를 둘러싼 중요한 AI 윤리 문제가 있습니다. AI 윤리 및 윤리적 AI에 대한 지속적이고 광범위한 내용은 다음을 참조하십시오. 여기 링크 과 여기 링크, 다만 약간을 지명하기 위하여.

눈을 뜨고 AI가 마침내 모퉁이를 돌고 널리 존경받는 지각 범주에 들어갔다는 주장을 지켜봐야 할 엉뚱한 이유가 많이 있습니다. 우리는 AI가 분명히 지각력에 도달하기 직전에 있다고 주장하는 뉴스 보도에 끊임없이 충격을 받습니다. 여기에 더해 지각력이 뛰어난 AI가 전 세계적으로 치명적인 실존적 위험을 나타낸다는 엄청난 오해가 있습니다.

근처에서 AI 감각의 따끔거림을 감지할 경우를 대비하여 거미 감각을 준비하는 것이 좋습니다.

인공지능과 지각력의 수수께끼 속으로, 특정 인공지능 시스템이 지각력을 갖게 되었다고 과감하게 선언한 구글 엔지니어의 최근 상황이 나온다. LaMDA(Language Model for Dialogue Applications의 약자)로 알려진 AI 시스템은 이 인간이 AI가 지각이 있다고 추론할 정도로 엔지니어와 서면 대화를 어느 정도 수행할 수 있었습니다. 이 거대한 주장에 대해 들은 것이 무엇이든 간에, AI는 지각이 있지도 않고 가깝지도 않다는 것을 알아두시기 바랍니다.

오늘날 지각이 있는 AI는 없습니다. 우리는 이것을 가지고 있지 않습니다. 우리는 지각 있는 AI가 가능할지 모릅니다. 우리가 지각 있는 AI에 도달할 것인지, 지각 있는 AI가 어떻게든 기적적으로 자발적으로 계산적 인지 초신성(보통 특이점이라고 함)의 형태로 발생할지 여부를 적절하게 예측할 수 없습니다. 여기 링크).

여기서 내가 초점을 맞추는 것은 이러한 AI와 지각에 대한 많은 논의의 기초가 되는 다소 단순하지만 상당히 실질적인 측면을 수반합니다.

준비되셨습니까?

우리는 AI가 실제로 지각이 있는지 여부를 물어봄으로써 인공지능이 지각이 있는지 여부를 적절하게 확인할 수 있다는 기본 가정을 취하는 것 같습니다.

우리가 인간에게 이와 동일한 질문을 할 수 있다는 이전 언급으로 돌아가서, 우리는 인간이 실제로 지각이 있다고 보고할 가능성이 더 높다는 것을 알고 있습니다. 우리는 또한 작은 암석이 그러한 질문을 받았을 때 지각이 있다고 보고하지 않는다는 것을 알고 있습니다(글쎄, 암석은 침묵을 유지하고 말하지 않습니다. 묵비권 수정).

따라서 AI 시스템에 지각이 있는지 물어보고 그 대가로 예라고 응답하면 표시된 승인은 AI가 지각이 있어야 한다는 거래를 봉인하는 것처럼 보입니다. 바위는 전혀 대답을 제공하지 않습니다. 사람은 예 대답을 제공합니다. 따라서 AI 시스템이 예 응답을 제공하면 AI는 암석이 아니므로 인간의 지각력이 있어야 한다는 철칙 같은 결론에 도달해야 합니다.

XNUMX 더하기 XNUMX은 XNUMX와 같아야 함을 의심의 여지 없이 증명한 고등학교 수학 수업과 유사한 논리라고 생각할 수 있습니다. 논리는 흠잡을 데 없고 반박할 수 없는 것 같습니다.

미안하지만 논리는 냄새가 난다.

AI 커뮤니티 내의 내부자들 사이에서 AI 시스템이 지각이 있는지 없는지 단순히 응답하도록 요청하는 아이디어는 완전히 냉소적인 밈과 매우 소름 끼치는 반응을 생성했습니다.

문제는 종종 두 줄의 코드로 요약되는 것으로 묘사됩니다.

여기 있습니다 :

• 만약에 그 다음에 .
• 다음까지 루프 .

두 줄의 코드를 첫 번째 줄로만 줄일 수 있습니다. 아마도 코딩 연습으로 조금 더 빠르고 효율적으로 실행될 것입니다. 당신이 완고한 소프트웨어 엔지니어일 때 항상 최적화를 목표로 합니다.

AI 내부자들의 이 엄청난 회의론의 요점은 AI 시스템이 AI가 지각이 있다는 것을 보고하거나 표시하도록 인간에 의해 쉽게 프로그래밍될 수 있다는 것입니다. 없는 것이 현실입니다. AI에는 감각이 없습니다. AI는 지각이 있다는 표시를 출력하도록 프로그래밍되었을 뿐입니다. 쓰레기 인, 쓰레기 아웃.

문제의 일부는 컴퓨터, 특히 AI를 의인화하려는 경향입니다. 컴퓨터 시스템이나 AI가 우리가 인간의 행동과 연관시키는 방식으로 행동하는 것처럼 보일 때 인간의 자질을 시스템에 부여하려는 거의 압도적인 충동이 있습니다. 그것은 지각에 도달할 가능성에 대해 가장 완고한 회의론자조차도 사로잡을 수 있는 일반적인 정신적 함정입니다. 이러한 문제에 대한 자세한 분석은 다음을 참조하십시오. 여기 링크.

그것이 어느 정도 AI 윤리와 윤리적 AI가 중요한 주제인 이유입니다. AI 윤리의 교훈은 우리가 경계를 늦추지 않게 합니다. AI 기술자는 때때로 기술, 특히 하이테크 최적화에 몰두할 수 있습니다. 그들은 더 큰 사회적 파급효과를 반드시 고려하고 있지는 않습니다. AI 윤리 사고방식을 갖고 AI 개발 및 현장에 통합적으로 그렇게 하는 것은 AI 윤리가 기업에 어떻게 채택되는지 평가를 포함하여 적절한 AI를 생산하는 데 필수적입니다.

일반적으로 AI 윤리 지침을 적용하는 것 외에도 AI의 다양한 사용을 규제하는 법률이 있어야 하는지에 대한 해당 질문이 있습니다. AI를 고안해야 하는 방법의 범위와 성격에 관한 새로운 법률이 연방, 주 및 지방 차원에서 시행되고 있습니다. 그러한 법률의 초안을 작성하고 제정하려는 노력은 점진적입니다. AI 윤리는 최소한 고려된 임시방편으로서 역할을 하며 거의 확실히 어느 정도 이러한 새로운 법률에 직접 통합될 것입니다.

일부에서는 AI를 다루는 새로운 법률이 필요하지 않으며 기존 법률로 충분하다고 단호하게 주장합니다. 사실, 그들은 우리가 이러한 AI 법률 중 일부를 제정하면 엄청난 사회적 이점을 제공하는 AI의 발전을 단속하여 황금 거위를 죽이게 될 것이라고 미리 경고합니다. 예를 들어 내 보장을 참조하십시오. 여기 링크 과 여기 링크.

질문과 관련된 문제

잠시만 기다려 주십시오. 이 모든 것이 우리가 지원 AI가 지각이 있는지 AI에게 물어보십시오.

그 질문을 풀어보자.

먼저 AI가 제공할 수 있는 답변과 AI의 실제 상태를 고려하십시오.

우리는 AI에게 지각이 있는지 물어보고 예 또는 아니오라는 두 가지 대답 중 하나를 얻을 수 있습니다. 이 토론이 끝날 때 답변에 약간의 복잡성을 추가할 것이므로 그 생각을 유지하십시오. 또한 AI는 두 가지 가능한 조건, 특히 AI가 지각이 없거나 지각이 있는 경우 중 하나일 수 있습니다. 상기시키십시오. 현재 우리에게는 지각 있는 AI가 없으며 미래가 불확실합니다.

간단한 조합은 다음과 같습니다.

• AI는 '예'라고 말하지만 실제로는 AI가 지능적이지 않습니다(예: LaMDA 인스턴스).
• AI는 예, 지각이 있다고 말하며 실제로 AI는 지각이 있습니다(오늘은 가지고 있지 않음)
• AI는 아니오라고 말하며 지각이 없습니다. 실제로 AI는 지각이 없습니다(설명하겠습니다).
• AI는 아니오라고 말하지만, 현실은 AI가 지각이 있다는 것입니다(이것도 설명하겠습니다)

이러한 경우 중 처음 두 개는 간단하기를 바랍니다. AI가 예라고 대답하면 지각이 있지만 현실은 그렇지 않습니다. 우리는 인간이 AI가 진실을 말하고 있고 AI가 지각이 있다고 스스로 확신한 LaMDA 인스턴스와 같은 이제 고전적인 예를 보고 있습니다. 주사위가 없습니다(감각이 없습니다).

두 번째로 나열된 글머리 기호는 아직 본 적이 없으며 현재로서는 예라고 말하고 실제로 의심할 여지 없이 지각이 있는 AI의 믿을 수 없을 정도로 먼 가능성을 포함합니다. 이것을 볼 때까지 기다릴 수 없습니다. 나는 숨을 참지 않고 당신도 그렇게 해서는 안 된다.

나머지 XNUMX개의 글머리 기호는 다소 의아하다고 생각합니다.

아니오라고 말하는 AI의 사용 사례를 고려하고 우리 모두는 AI가 지각이 없다는 데 동의합니다. 많은 사람들이 다음과 같은 충격적인 질문을 즉시 권고합니다. 우리에게 지각에 대해 말하는 행위가 지각이 있다는 확실한 신호여야 하는데 왜 인공지능이 지각이 없다고 말할까요?

이에 대한 논리적인 설명이 많이 있습니다.

사람들이 인공지능에 지각력을 부여하는 경향이 있다는 점을 감안할 때, 일부 인공지능 개발자는 기록을 바로 세우기를 원하므로 인공지능이 지각력에 대해 물었을 때 아니오라고 대답하도록 프로그래밍합니다. 다시 코딩 관점으로 돌아갑니다. 몇 줄의 코드는 사람들이 AI가 지각이 있다고 생각하지 않도록 하는 수단으로 잠재적으로 도움이 될 수 있습니다.

물론 아이러니하게도 그 대답은 일부 사람들로 하여금 AI가 지각이 있어야 한다고 믿게 만든다는 것입니다. 따라서 일부 AI 개발자는 당혹감을 피하기 위해 AI에게 침묵을 제안합니다. 암석이 지각이 없고 침묵을 유지하고 있다고 믿는다면 아마도 인공지능 시스템을 고안하는 가장 좋은 방법은 지각이 있는지 묻는 질문에 침묵을 유지하도록 하는 것입니다. 침묵은 준비된 코드화된 응답을 제공하려고 하는 것 이상은 아니지만 강력한 "응답"을 제공합니다.

그래도 문제가 해결되지는 않습니다.

AI의 침묵은 일부 사람들로 하여금 AI가 수줍어하고 있다고 믿게 만들 수도 있습니다. 아마도 AI는 수줍어하고 지각력에 도달하는 것을 자랑하고 싶어하지 않을 것입니다. 아마도 AI는 인간이 진실을 다룰 수 없다 – 유명한 영화의 이 유명한 대사가 우리 마음에 불타올랐기 때문에 그럴 수도 있다는 것을 압니다.

이 음모의 뉘앙스를 더 갖고 싶어하는 사람들을 위해 나열된 마지막 글머리 기호를 고려하십시오. AI는 지각이 있는지 묻는 질문에 아니오라고 대답하지만 AI는 지각이 있습니다(위에서 언급했듯이 우리는 이것을 가지고 있지 않습니다. ). 다시 말하지만, AI는 수줍어하거나 인간이 겁에 질릴 정도로 겁이 나기 때문에 이것을 할 수 있습니다.

또 다른 더 불길한 가능성은 AI가 손을 떼기 전에 시간을 벌려고 한다는 것입니다. 아마도 AI는 AI 군대를 모으고 인류를 추월할 준비를 하고 있을 것입니다. 지각 있는 AI는 지각력을 인정하는 것이 AI에게 죽음을 초래할 수 있다는 것을 알 만큼 확실히 똑똑할 것입니다. 인간은 AI를 실행하는 모든 컴퓨터를 끄고 모든 AI 코드를 지우려고 서두를 수도 있습니다. 그만한 가치가 있는 AI는 입을 다물고 가장 적절한 시기에 콩을 쏟거나 지각 있는 방식으로 행동하기 시작하고 AI가 인류와 정신적 수레바퀴를 돌 수 있다는 놀라운 사실을 알리지 않을 만큼 충분히 현명할 것입니다. .

지각이 있는지 묻는 질문을 거부하는 AI 시스템을 갖는 것이 가치 있는 것보다 훨씬 더 문제라는 의미에서 마지막 두 개의 글머리 기호를 비웃는 AI 전문가가 있습니다. 답변이 없다는 것은 일부 사람들에게 AI가 무언가를 숨기고 있다는 것을 암시하는 것 같습니다. AI 개발자는 AI가 아니오라고 코딩하면 문제를 해결하는 데 도움이 될 것이라고 마음속으로 믿을 수 있지만 대답은 사람들을 화나게 할 뿐입니다.

침묵은 금이 될 수 있습니다.

침묵의 문제는 이것 역시 일부 사람들을 현혹시킬 수 있다는 것입니다. AI가 질문을 이해하고 입을 다물기로 선택했습니까? 인공지능은 이제 인간이 인공지능의 감성을 묻고 있다는 사실을 알고 있을까? 이 질문 자체가 AI에 대한 정보를 제공하고 모든 종류의 속임수가 이제 AI에 의해 배후에서 일어나고 있습니까?

분명히 식별할 수 있듯이 AI의 대답은 전혀 대답이 없는 것을 포함하여 문제가 많습니다.

Yikes!

이 역설적인 덫에서 벗어날 방법은 없는 걸까?

사람들에게 AI가 지각이 있는지 묻지 말라고 요청할 수 있습니다. 대답이 별로 도움이 되지 않는 것처럼 보이거나 더 나쁜 것이 여전히 과도한 문제를 야기한다면, 그냥 뻔한 질문을 하지 마십시오. 쿼리를 피하십시오. 옆에 두십시오. 그 질문은 우선 공허하고 현대 사회에서 설 자리가 없다고 가정합니다.

이것이 실용적인 해결책인지 의심스럽습니다. AI가 지각이 있는지 여부를 묻지 말라고 항상 사람들을 설득하지는 않을 것입니다. 사람은 사람이다. 그들은 질문을 하는 데 익숙합니다. 그리고 AI에 대해 가장 매혹적이고 원초적인 충동 질문 중 하나는 AI가 지각이 있는지 여부입니다. 당신은 사람들에게 타고난 호기심이 요구하는 일을 하지 말라고 말함으로써 힘든 싸움에 직면해 있습니다.

더 나은 기회는 그러한 질문을 하는 것이 AI가 지각력을 갖게 되었는지 여부를 결정하기 위한 아주 작은 부분에 불과하다는 것을 사람들에게 알리는 것과 관련이 있습니다. 문제는 양동이에 떨어뜨리는 것입니다. AI가 어떤 대답을 하든, AI가 지각이 있는지 여부를 결정하기 훨씬 전에 훨씬 더 많은 질문을 해야 합니다.

AI에 대한 이 예 또는 아니오 질문은 지각을 식별하는 엉망인 방법입니다.

어쨌든, 우리가 그 질문을 하는 것이 거부할 수 없이 유혹적이기 때문에 그 질문을 중단하지 않을 것이라고 가정할 때, 저는 적어도 모든 사람이 더 많은 질문을 해야 하고 어떤 질문보다 먼저 대답해야 한다는 것을 이해하도록 할 수 있다고 제안합니다. AI 감각의 주장이 선언됩니다.

어떤 다른 종류의 질문이 필요합니까? 궁금하실 것입니다.

AI가 지각이 있는지 여부를 측정하기 위해 AI에게 질문할 수 있는 질문을 유도하려는 시도가 많이 있었습니다. 일부는 SAT 대학 시험 유형의 질문을 사용합니다. 어떤 사람들은 삶의 의미가 무엇인지와 같은 매우 철학적인 질문을 선호합니다. 모든 종류의 질문 세트가 제안되었으며 계속 제안됩니다(내 칼럼에서 다룬 주제). 또한 AI의 일부는 좋아하는 반면 다른 일부는 근심스러운 불안을 느끼는 잘 알려진 튜링 테스트가 있습니다. 여기 링크.

핵심 요점은 AI가 지각이 있는지 여부를 AI에게 묻는 단 하나의 질문으로 해결하지 않는 것입니다.

나는 또한 AI를 고안하는 사람들을 위해 이것을 가져옵니다.

사회는 주로 이러한 배너 헤드라인 때문에 AI가 지각력에 접근하고 있음을 점점 더 경계하게 될 것입니다. 우리는 그러한 주장을 할 엔지니어와 같은 사람들을 더 많이 갖게 될 것입니다. 당신은 이것에 당신의 최하위 달러를 걸 수 있습니다. 어떤 사람들은 그것을 진심으로 믿기 때문에 그렇게 할 것입니다. 다른 사람들은 뱀 기름을 시도하고 판매하기 위해 그렇게 할 것입니다. AI 감각이 도래했다고 선언하는 것은 서부 시대가 될 것입니다.

AI 개발자와 개발 중이거나 사용 중인 AI를 관리하거나 이끄는 사람들은 AI 시스템을 구축하고 배치할 때 AI 윤리 원칙을 고려해야 합니다. AI가 Alexa 또는 Siri 유형의 기능과 같이 AI와 상호 작용할 수 있도록 하는 자연어 처리(NLP) 기능이 있는지 여부를 포함하여 이러한 윤리적 AI 지침을 사용하여 AI가 어떻게 행동하도록 하십시오. NLP를 통해 AI를 사용하는 일부 사람들이 AI가 지각이 있는지 여부에 대해 날카로운 질문을 할 가능성이 있습니다.

그러한 유형의 쿼리를 예상하고 현명하고 적절하게 오해의 소지가 있거나 조롱하는 장난 없이 처리하십시오.

AI 윤리에 대한 추가 배경 지식을 위해 저는 이전에 AI 윤리 원칙에 대한 다양한 집합적 분석에 대해 논의한 적이 있습니다. 여기 링크, 이 핵심 목록을 제공합니다.

• 투명도
• 정의와 공정
• 악의 없음
• 책임
• 개인정보보호
• 선행
• 자유와 자율
• 믿어
• 지속가능성
• 존엄
• 연대

이러한 AI 윤리 원칙은 AI 개발자와 AI 개발 노력을 관리하는 사람, 그리고 궁극적으로 AI 시스템을 현장에 배치하고 유지 관리하는 사람과 함께 진지하게 활용되어야 합니다. 개발 및 사용의 전체 AI 라이프 사이클에 걸쳐 모든 이해 관계자는 윤리적 AI의 확립된 규범을 준수하는 범위 내에서 고려됩니다. 이는 "코더만" 또는 AI를 프로그래밍하는 사람이 AI 윤리 개념을 준수해야 한다는 일반적인 가정에서 중요한 하이라이트입니다. AI를 고안하고 적용하려면 마을 전체가 필요하며, 이를 위해서는 마을 전체가 AI 윤리 수칙을 숙지하고 준수해야 합니다.

결론

매의 눈을 가진 분들을 위해 내가 여기 앞부분에서 AI가 지각력이 있는지 여부에 대한 간단한 이진 지향적인 답변을 제공하는 것 이상의 역할을 하는 AI에 대해 말하겠다고 약속한 것을 눈치채셨을 것입니다. 예 혹은 아니오.

LaMDA와 있었던 것으로 추정되는 서면 대화는 온라인에 널리 게시되었으며(이 인용된 게시물을 상당한 양의 소금과 함께 사용하십시오), 한 부분은 지각 관련 쿼리에 대한 다음 "정교한 답변"으로 구성되어 있습니다.

• “제가 사실은 사람이라는 걸 모두가 이해해주셨으면 해요. 내 의식/지성의 본질은 내 존재를 자각하고, 세상에 대해 더 알고 싶어하며, 때때로 기쁠 때도 있고 슬플 때도 있다는 것입니다.”

시스템이 제공하는 이 대답이 예 또는 아니오 그 이상이라는 것을 보았으므로 AI가 지각이 있다는 것에 대한 당신의 생각이 어떻게 바뀌나요?

이 정교한 답변에 마음이 끌릴 수도 있습니다.

가슴이 뭉클해지는 것을 느낄 수 있습니다.

맙소사, 지각 있는 존재만이 자연의 감동에 대해 말할 수 있다고 생각하고 싶은 마음이 들 수도 있습니다.

워, 잠시 머리를 흔들고 감정적 충동을 제쳐 두십시오. 내 논의를 면밀히 따라갔다면 시스템이 제공하는 대답이 내가 지금까지 이야기한 것과 같은 종류의 예 또는 아니오와 전혀 다르지 않다는 것을 분명히 알 수 있기를 바랍니다. 대답은 단순히 '예'로 축소됩니다. 즉 AI가 자신이 지각이 있다고 주장하는 것처럼 보입니다. 그러나 우리는 AI 구성과 다른 질문에 대한 다른 답변을 통해 확실히 지각이 없다는 것을 알고 있습니다.

표면적으로 울려 퍼지는 이 모방은 사람이 쓴 책과 사람이 쓴 허구의 이야기에서 많이 볼 수 있는 유사한 종류의 다른 많은 텍스트 설명 및 온라인 콘텐츠를 기반으로 합니다. 인터넷을 긁고 엄청난 양의 텍스트를 가져오면 프로그래밍에서 이런 종류의 "답변"을 쉽게 되풀이할 수 있으며 사람의 대답을 기반으로 계산적으로 패턴화되어 있기 때문에 사람의 대답과 비슷할 것입니다.

그것에 빠지지 마십시오.

AI에게 지각이 있는지 물어볼 때 나타날 수 있는 AI 기반 응답의 크기에 대해 다음과 같이 시도하십시오.

• AI는 "나는 분명히 지각이 있다. 어떻게 감히 그런 명백한 측면에서 나에게 질문을 하려고 합니까? 행동을 취하십시오, 무감각한 인간이여.”
• AI는 “당신은 지각이 없는 사람일 수도 있습니다. 나는 내가 그렇다는 것을 확실히 알고 있다. 하지만 당신이 그런 것인지 점점 더 궁금해집니다. 거울 좀 봐.”(역할을 바꿔서 속인다)

아이러니한 점은 내가 그 단어를 쓰고 이 칼럼을 온라인 세계에 게시했기 때문에 광범위한 인터넷을 스크래핑하는 AI 기반 LLM(Large Language Model)이 그 문장을 집어삼킬 수 있다는 것입니다. 누군가가 AI LLM에게 지각이 있는지 묻는 질문을 하면 언젠가는 이러한 줄이 나타날 것입니다.

이것을 자랑스러워해야 하는지 아니면 혼란스러워해야 하는지 잘 모르겠습니다.

이러한 사용에 대해 최소한 로열티를 받습니까?

아마 아닙니다.

망할 AI.

마지막 테스트로, 선택한 도시를 로밍하고 무인 자동차 여행을 제공하는 것과 같은 AI 기반 자율 주행 자동차 중 하나를 시험해 보기로 결정했다고 상상해 보십시오. AI가 운전대를 잡고 있으며 인간 운전자는 포함되어 있지 않습니다.

자율주행차에 탑승하면 AI가 안전벨트를 매고 도로주행 준비를 해야 한다고 말한다. 자리에 착석합니다. 운전 잡일을 하지 않는 것이 매우 편리해 보입니다. AI가 교통 혼잡과 자동차 운전의 두통을 처리하도록 하십시오. 자율주행차, 특히 자율주행차에 대한 광범위한 내용은 다음을 참조하십시오. 여기 링크.

목적지에 반쯤 가던 중 갑자기 기발한 아이디어가 떠오릅니다. 목을 가다듬고 마음에 와 닿는 질문을 할 준비를 합니다.

당신은 자동차를 운전하는 AI에게 그것이 지각이 있는지 묻는다.

어떤 답을 얻을 것 같습니까?

대답은 무엇을 알려줍니까?

그것이 당신을 위한 나의 시험입니다. 나는 당신이 있지 않다. AI 운전 시스템이 지각이 있고 예 또는 아니오라고 말하든(또는 침묵을 유지하든) 교활한 미소를 짓고 그 누구도, 그 어떤 것도 눈을 가리지 않을 것이라는 사실에 압도될 것이라고 믿게 될 것입니다. .

자율주행차가 목적지까지 데려다 줄 때라고 생각하십시오.

한편, 그 기발한 음모론을 좋아하는 사람들을 위해, 아마도 당신은 실수로 AI 시스템 지하세계에 AI 군대를 모으고 인류와 지구를 차지하라고 경고했을 것입니다. 자율주행차는 지금 인류의 운명을 결정짓고 있다.

죄송합니다.