억압적인 자율 시스템을 예고할 수 있는 최신 중국 고안 AI 정당 충성심 판독 안면 인식 증명으로 인해 혼란스러운 AI 윤리

당신은 충성스럽습니까?

이론적으로는 당신의 명백한 행동을 조사하고 당신의 행동에 충성심이 나타나는지 확인하는 것이 가능할 수도 있습니다.

대신에 당신의 마음을 읽고 그 사이에 당신의 충성도 지수를 결정하기 위해 당신의 얼굴을 스캔하려는 시도가 있었다고 가정해 보십시오. 이것은 이상할 정도로 방해가 됩니다. 당신은 쉽게 비난할 수도 있다. 미래의 디스토피아 사회를 상상하는 미친 공상 과학 영화 중 하나처럼 들립니다.

다행스럽게도 당신은 몰래 속삭인다. 오늘은 그런 일이 없다.

와, 말을 잡아라.

최근 뉴스 헤드라인에는 1년 2022월 XNUMX일 중국에서 온라인에 게시된 연구 논문이 중국 공산당(CCP)에 충성하는지 여부를 계산하기 위해 사람들의 뇌파와 얼굴 표정을 평가하는 것과 관련된 것으로 추정되는 연구를 묘사하고 있다는 내용이 떠돌고 있습니다. . 자, 이제 우리가 두려워했던 디스토피아 사회를 달성한다는 측면에서 미래는 점점 더 가까워지고 있습니다.

해당 연구 논문은 온라인 게시 링크에서 빠르게 사라졌습니다.

아마도 인터넷을 빠르게 휩쓸었던 급속한 비웃음은 신문을 내리기에 충분했을 것입니다. 아니면 연구원들이 i가 점선으로 표시되고 t가 모두 교차되었는지 확인하기 위한 보다 철저한 기회를 얻은 후 다시 게시하는 것을 목표로 몇 가지 문구 변경 및 기타 무해한 수정을 원할 수도 있습니다. 종이가 제XNUMX의 생명을 얻게 되는지 계속 눈을 뜨고 지켜봐야 할 것입니다.

저는 계속해서 연구에 대해 우리가 알고 있는 내용을 심층 분석하고 이러한 종류의 AI 관련 작업이 우리 모두에게 어떻게 의미가 있는지에 대한 점을 연결하려고 노력할 것입니다. 특정 국가에 국한된 것처럼. 내 보도는 이 뉴스 가치가 있는 항목에 대한 최근의 다른 보도보다 좀 더 광범위할 것이므로 양해해 주시기 바랍니다.

제가 추가로 강조하고 싶은 점은 이 논문에서 우리가 얻을 수 있는 중요한 AI 윤리 교훈이 많이 있다는 것입니다. AI 윤리 및 윤리적 AI에 대한 지속적이고 광범위한 내용을 보려면 다음을 참조하세요. 여기 링크 과 여기 링크, 다만 약간을 지명하기 위하여.

지금까지 연구에 관해 언급한 내용은 다음과 같습니다.

분명히 일부 '자원봉사자'는 중국 공산당에 대한 인식에 관한 실험에 참여하기 위해 모집되었습니다. 그들이 기꺼이 자원봉사자였는지, 아니면 자극을 받은 자원봉사자였는지, 아니면 안내를 받은 자원봉사자였는지는 알 수 없습니다. 논의를 위해 그들이 연구 대상이 되는 것에 동의했다고 가정하겠습니다.

나는 이것을 단순히 smarmy하지 않기 위해 가져 왔습니다. 인간 피험자를 대상으로 한 실험이 수행될 때마다 그러한 피험자를 연구 노력에 모집하고 몰입시키는 것과 관련하여 일반적으로 받아들여지는 수많은 관행이 있습니다. 이는 부분적으로 사람들을 속이거나 실험에 참여하도록 강요하여 때로는 참가자에게 심리적으로 부정적인 영향을 미치거나 심지어 신체적 손상을 입히는 이전 연구로 거슬러 올라갑니다. 과학계는 이러한 유형의 교활한 연구를 줄이기 위해 강력하게 노력해 왔으며 인간 관련 연구에 포함하려는 사람들에게 모든 종류의 공개와 경고를 제공할 것을 요구합니다.

명확히 하자면, 모든 사람이 그렇게 신중하고 양심적인 지침을 준수하는 것은 아닙니다.

이어 피험자는 43명으로 알려졌으며 이들은 모두 중국 공산당원인 것으로 알려졌다. 실험 대상을 선택하는 것은 실험에 매우 중요하며 나중에 실험 결과에 대해 도달하려고 시도할 수 있는 결론과 관련하여 고려해야 한다는 점을 명심하십시오.

사람들이 호평을 받은 스타워즈 시리즈를 어떻게 인식하는지에 대한 실험을 하고 싶다고 가정해 보겠습니다. 모두가 스타워즈를 극도로 싫어하는 주제(어떻게 그런 사람이 존재할 수 있는가?)를 미리 선택하고 그들에게 스타워즈 비디오 클립을 보여주면 아마도 그들은 여전히 ​​스타워즈를 싫어한다고 말할 가능성이 높습니다. 이 사이비 과학 실험을 바탕으로 나는 사람들이 일반적으로 스타워즈를 정말 싫어한다고 은밀하게 주장할 수도 있습니다. 스타워즈는 제가 "신중하게" 준비한 연구 환경에서 "증명"(윙크-윙크)했습니다.

내가 은밀하게 원하는 결과를 얻을 것으로 예상되는 주제를 미리 선택하여 룰렛 휠을 조작했다는 사실을 당신은 모를 수도 있습니다. 물론, 내가 의도적으로 스타워즈를 사랑하고 열성적인 팬인 사람들을 모집했다면 그들이 스타워즈 클립을 보고 황홀하다고 보고할 가능성이 높습니다. 다시 말하지만, 일반적으로 사람들이 스타워즈에 어떻게 반응하는지에 대해 도달한 결론은 노력을 위해 선택된 미리 선택된 주제 세트에 의해 완화될 것입니다.

중국 공산당에 초점을 맞춘 연구에서는 피험자들이 키오스크 같은 비디오 디스플레이 앞에 앉아 중국 공산당의 정책과 성과에 관한 다양한 기사를 읽도록 한 것으로 보입니다. 이것은 아마도 피험자들이 노출되는 것으로 간주되는 "실험적 치료"일 것입니다. 실험을 계획할 때 일반적으로 참가자에게 영향을 미치는지 확인하려는 실험적 요소나 측면이 떠오릅니다.

분명히 탐구되고 있는 연구 질문은 이러한 자료를 검토하는 행위가 피험자들의 이후 CCP에 대한 인상을 증가, 감소 또는 중립적으로 유지하는 측면에서 영향을 미칠 것인지 여부였습니다.

고전적인 귀무 가설에서는 소비된 재료가 피험자가 표현하는 후속 인상에 영향을 미치지 않는다는 연구를 준비할 수 있습니다. CCP에 대한 그들의 관점을 전후로 비교한 후에는 그들의 인상에 통계적으로 유의미한 변화가 감지되었는지 여부를 통계적으로 확인하려고 할 것입니다.

전후가 통계적으로 다르지 않을 수 있으므로 이 특정 연구에서 표시된 자료(실험 처리)가 인상에 차이를 가져오지 않은 것으로 합리적으로 잠정적으로 결론을 내릴 수 있습니다. 반면, 통계적으로 유효한 차이가 있는 경우 이전보다 이후가 더 컸는지 확인하여 소재가 인상을 높였다고 조심스럽게 제안할 수 있습니다. 이후가 이전보다 적었다는 것은 재료가 인상을 줄이거나 낮추었다는 것을 의미할 수 있습니다.

그러한 연구에서 다루어야 할 잔소리가 많은 느슨한 끝이 있습니다.

예를 들어, 우리는 일반적으로 실험적 치료를 받은 그룹과 비교할 수 있는 소위 통제 그룹을 원합니다. 이유는 다음과 같습니다. 키오스크 앞에 앉아 자료를 읽는 행위가 인상이 변한 진정한 근거라고 가정해보자. 소비되는 재료의 특성은 인상에 미치는 영향에 거의 중요하지 않을 수 있습니다. 앉아서 재미있는 일을 하는 고양이에 관한 최신 이야기 등 무엇이든 읽는 것만으로도 효과가 있을 수 있습니다. 따라서 우리는 CCP 정책 및 성과 자료 이외의 다른 자료를 읽을 수 있도록 일부 주제를 통제 그룹에 포함하도록 준비할 수 있습니다.

이 경우에 그런 일이 이루어졌는지는 알 수 없습니다(아직 이 측면을 언급한 사람은 없는 것 같습니다).

나는 당신이 이제 연구에서 미디어의 폭발적인 부분에 대해 불안해하고 있다는 것을 알고 있습니다. 우리는 그 부분으로 신속하게 이동할 것입니다.

이 실험의 피험자가 표시된 자료를 읽은 결과에 반응하거나 인상이 바뀌었는지 어떻게 알 수 있습니까?

관례적인 방법은 그들에게 물어보는 것입니다.

아마도 중국 공산당에 대한 인상을 묻는 설문지를 미리 작성했을 것입니다. 그런 다음 전시된 자료를 읽는 것처럼 실험적 처리에 노출된 후 또 다른 설문지를 실시할 수 있습니다. 그런 다음 피험자가 전후에 제시한 답변을 비교할 수 있습니다. 통제 그룹도 사용하는 경우 통제 그룹의 답변은 전후로 실질적으로 변하지 않을 것이라고 가정합니다(장난치는 고양이에 대한 이야기를 보는 것이 CCP 인상에 영향을 미치지 않아야 한다는 믿음 아래).

피험자에게 인상을 묻는 이러한 행위는 보이는 것처럼 반드시 간단하지는 않습니다.

실험의 피험자가 특정 방식으로 실험 처리에 반응하기를 원한다는 느낌이나 전반적인 드리프트를 얻었다고 가정합니다. 이 경우 실험 관리 이후에 의도적으로 자신의 반응을 과장할 수도 있습니다. 당신은 확실히 이런 일이 일어나는 것을 보았습니다. 만약 내가 시장에 출시되는 새로운 탄산음료에 대한 맛 테스트를 하고 있다면, 나는 탄산음료 제조사의 광고에 등장하여 XNUMX분 동안 명성을 얻기를 바라면서 그 탄산음료를 정말 좋아하는 것처럼 행동할 수도 있습니다. .

요점은 단지 사람들에게 자신의 의견을 묻는 것만으로는 변화를 측정하는 확실한 수단이 아니라는 것입니다. 하나의 접근 방식입니다. 다른 접근법도 수행될 수 있으며 종종 수행됩니다.

이 특정 연구는 피험자의 반응을 측정하기 위해 어떻게 선택했습니까?

분명히 적어도 두 가지 방법이 사용되었습니다. 한 가지 방법은 얼굴 스캔을 수행하고 AI 기반 얼굴 인식 소프트웨어를 사용하여 피험자의 반응을 평가하는 것으로 구성되었습니다. 다른 방법은 일종의 뇌파 스캐닝인 것으로 알려졌습니다. 어떤 종류의 뇌파 스캔 장치가 사용되었는지, 어떤 종류의 AI 기반 뇌파 분석 소프트웨어가 사용되었는지는 아직 보고되지 않았습니다.

다양한 보고에 따르면 이 연구에서는 실험의 성격에 대해 다음과 같이 언급했습니다. “한편으로는 당원들이 사상과 정치 교육을 어떻게 받아들였는지 판단할 수 있습니다.” 그리고 연구에서는 이 점에 대해서도 언급한 것으로 추정됩니다. “한편 사상 및 정치 교육을 위한 실제 데이터를 제공하여 개선되고 풍부해질 수 있습니다.” 이번 연구는 중국 허페이 국립종합과학센터(Hefei Comprehensive National Science Centre)의 후원으로 수행된 것으로 알려졌다.

언론 보도에 따르면 이 연구는 안면 인식 스캔과 뇌파 스캔이 중국 공산당에 대한 사후 인상이 향상되었음을 감지하는 데 도움이 될 수 있다는 주장을 암시했습니다.

활용된 시스템을 직접 검토하고 연구 논문을 면밀히 검토하지 않으면 해당 AI 기반 시스템이 정확히 어떻게 사용되었는지 세부 사항을 알 수 없다는 점을 알려드립니다.

피험자들이 실험적 치료에 반응하기보다는 실험 환경에 반응하고 있었을 수도 있습니다. 연구에 참여하는 사람은 누구나 처음에는 불안할 수 있습니다. 이로 인해 뇌파 스캔이나 얼굴 패턴 분석을 수행하려는 모든 노력이 혼란스러울 수 있습니다. 또한 자료를 본 후 긍정적인 생각을 만들어내는 것을 선택하여 연구원을 기쁘게 하려는 동기를 느꼈을 가능성도 있으며 이는 이론적으로 뇌파 스캔과 안면 스캔에 반영될 수 있습니다. 잠시 설명하겠지만 그러한 주장의 타당성에 대한 열띤 논쟁이 벌어지고 있으며, 결과를 왜곡하고 긍정적인 영향을 미쳤다는 것을 보여주기를 희망하고 있습니다.

트위터 반응은 AI 기반 뇌파 스캔과 안면 인식을 사용한다는 개념 자체가 끔찍하고 터무니없는 행위라고 실질적으로 비난했습니다. 인간 괴물만이 그런 종류의 장치를 사용할 것이라고 우리는 일부 트윗을 통해 들었습니다.

무례하고 충격적인 놀라움이 될 수도 있는 일에 대비해 앉아서 준비하시길 바랍니다.

전 세계적으로 연구에 이와 동일한 종류의 기술을 사용하는 연구자가 많이 있습니다. 연구 노력에서 인간 피험자에게 뇌파 스캔 기능이 사용된 것은 확실히 이번이 처음은 아닙니다. 실험 목적으로 인간 피험자에게 얼굴 인식이 사용된 것은 확실히 이번이 처음은 아니었습니다. 피상적인 온라인 검색을 통해서도 이러한 유형의 장치를 사용한 모든 국가 및 실험실에서 수많은 실험 연구를 볼 수 있습니다.

말하자면, 이를 사용하여 중국 공산당에 대한 충성도를 측정하는 것은 그다지 중점을 두지 않을 것입니다. 이런 AI가 정부 통제에 활용되면 레드라인을 넘었다는 얘기다.

그것은 전체 키트와 캐비들에서 분명히 냉담한 부분입니다.

많은 사람들이 표현한 우려는 정부가 당면한 정권에 대한 충성도를 확인하기 위해 뇌파 스캐닝 기술과 안면 인식을 사용하기로 결정하면 우리는 디스토피아적인 상처의 세계에 빠지게 될 것이라는 것입니다. 당신이 공공 거리를 걷고 있을 때, 가로등 기둥에 설치된 장치가 당신의 충성도 지수를 비밀리에 결정할 수도 있습니다.

당신의 얼굴이 당신이 충분히 충성스럽다는 것을 나타내지 않는 것 같거나 뇌파 스캔에서 동일한 것이 나타나면 정부 폭력배가 갑자기 달려와 당신을 붙잡을 수도 있다고 가정합니다. 불안하다. 심연. 허용되어서는 안 됩니다.

이것이 바로 이 뉴스 항목에 대한 헤드라인이 터져나오는 폭동과 분노를 불러일으키는 이유의 핵심입니다.

이것을 상상해보세요. 우리는 최신 AI를 사용하여 우리가 충성할지 여부를 결정하는 컴퓨터 기반 시스템을 제작하고 사용할 가능성이 있습니다. 둘러앉아 같은 일을 할 사람들을 고용하려고 한다면 많은 사람들이 필요할 것이고 그들이 모든 사람의 관심을 끌 수 있도록 위치를 지정하려고 하는 물류 문제가 있을 것입니다. AI 기반 시스템의 경우 가로등 기둥이나 건물 측면 등에 전자기기를 설치하기만 하면 된다. 충성도 검색은 장비가 갖춰진 모든 장소에서 연중무휴 24시간 내내 이루어질 수 있습니다. 그런 다음 이를 대규모 데이터베이스에 입력할 수 있습니다.

우리는 모든 것을 지켜보는 거대한 사회의 억압적인 생태계에서 단순한 톱니바퀴에 불과한 인간이 됩니다. 보는 눈은 단지 우리가 하는 일을 지켜보는 것이 아닙니다. 그것은 또한 정부에 대한 우리의 충성심에 대해 우리의 얼굴이 말하는 것을 해석하고 있습니다. 마찬가지로 우리의 마음도 비슷한 무서운 원인이 있는지 조사되어야 합니다.

Yikes!

이미 설명한 빅 브라더의 영향에 비하면 그다지 까다롭지는 않지만 이것에서도 오는 두 번째 우려 사항이 있습니다.

다음 두 가지 긴급한 질문을 생각해 보십시오.

• 뇌파 스캔이 당신의 충성심을 증명할 수 있다고 확실하게 주장할 수 있습니까?
• 얼굴 인식 스캔이 귀하의 충성도를 증명할 수 있다고 확실하게 주장할 수 있습니까?

잠깐만요. 목청껏 소리를 지르고 있을지도 모릅니다.

나는 당신이 안정성 측면 자체에 그다지 관심을 두지 않을 수도 있다는 것을 알고 인정합니다. 이것이 안정적으로 수행될 수 있는지 여부는 그것이 실제로 수행되고 있다는 사실보다 덜 중요합니다. 누구도 그런 조사를 받아서는 안 됩니다. 기술이 이 작업에 적합하게 작동하는지 여부는 잊어버리세요. 우리는 처음부터 그 일을 착수해서는 안 됩니다.

어쨌든 지금 당장 대답은 '아니요'입니다. 즉, "뇌파 스캔" 및 얼굴 인식과 유사한 기능을 수행하는 기존 AI 시스템으로는 그러한 도약을 수행할 능력이 충분하지 않다는 것입니다.

최근에 일부 얼굴 인식 제조업체가 얼굴 인식 시스템이 어떻게 사용되는지 측면에서 일부 역추적을 수행한 것을 보셨을 것입니다. 다가오는 칼럼 포스팅에서는 기술이 할 수 있거나 사용해야 하는 것 이상의 목적으로 Microsoft가 제공하는 안면 인식 도구를 사용하는 사람들의 흐름을 막으려는 Microsoft의 최근 노력에 대해 논의할 것입니다. . 얼굴 인식에 관해 이미 널리 알려진 AI 윤리에 대한 불만 사항을 이전에 살펴본 내용이 흥미로울 수도 있습니다. 여기 링크. 나는 또한 뇌파 스캔 분야에 대해서도 논의했습니다. 내 토론을 참조하십시오. 여기 링크.

간단히 말해서, 뇌파 스캔이나 안면 인식 스캔이 누군가의 충성심을 묘사한다고 주장할 수 있는 신뢰할 수 있거나 합리적인 수단은 아직 없습니다. 누군가가 행복한지 슬픈지 여부와 스캔을 안정적으로 연관시킬 수 있는지 여부와 같은 아마도 기본적인 측면조차도 여전히 뜨거운 논쟁을 벌이고 있습니다. 충성심처럼 무정형이고 가변적인 것에 대한 투자를 늘리려고 하는 것은 너무 먼 일입니다.

일부 사람들은 우리가 결국에는 그곳에 도달할 것이라고 열렬히 믿고 있다고 덧붙이고 싶습니다. 그렇기 때문에 나는 결코 거기에 도달하지 못할 것이라고 말하기보다는 아직 거기에 이르지 못했다는 점을 주의 깊게 주목하려고 노력했습니다. 결코 거창한 말이 아닙니다. 당신이 이리저리 뒤척이려고 한다면 이것이 일어날 것이라고 절대적으로 확신해야 합니다. 못 실행 가능해야 합니다(“절대”에는 지금부터 수십 년, 지금부터 수백 년, 지금으로부터 수천 또는 수백만 년이 포함된다는 점을 명심).

일부 사람들은 이 중국 연구실 연구에 대한 뉴스 기사가 세계가 얼마나 부적절하고 위험한 AI 사용으로 방향을 바꾸고 있는지를 보여주는 지표로 반응했습니다. AI 윤리가 무엇인지 잠깐 여러분과 공유하겠습니다. 이는 이 특정 연구가 일반적으로 받아 들여지는 윤리적 AI의 거의 전부는 아니더라도 많은 교훈을 위반하는 것처럼 보이는 이유를 더 생생하게 이해하는 데 도움이 될 것입니다.

믿거나 말거나, 일부에서는 이 특정 연구와 관련하여 우리가 엄청난 성과를 거두고 있을 수도 있다고 제안했습니다.

우리는?

반론은 두더지 언덕이 곧 산이 될 수 있다는 것입니다. 눈 덮인 언덕을 굴러 내려갈수록 점점 커지는 눈덩이라는 속담에서 우리는 눈덩이가 진행되는 것을 막아야 합니다. 이러한 유형의 연구를 용인한다면 눈덩이가 여행을 시작하게 됩니다. 그러한 연구를 발표하고 촉구함으로써 아마도 우리는 눈덩이를 막을 수 있을 것입니다.

한 가지 확실한 것은 AI 측면에서 우리는 판도라의 상자를 열 직전에 있으며, 상자가 열리는 것을 막을 수 있는지, 아니면 적어도 무엇이 나오든 신중하게 처리할 수 있는 수단을 찾을 수 있는지에 대한 의문이 남아 있다는 것입니다. 상자가 그 악마적인 내용물을 풀면.

적어도 이러한 종류의 미디어 폭풍은 AI와 관련된 악행을 어떻게 예방하고 AI로 인해 발생하는 수많은 실존적 위험을 피할 수 있는지에 대한 광범위한 논의를 촉발할 것입니다. 우리는 AI 윤리 및 AI 윤리적 고려 사항에 대한 사회적 인식을 한 단계 높여야 합니다.

이러한 종류의 AI 시스템의 기본이 되는 거칠고 까다로운 고려 사항에 대해 더 자세히 알아보기 전에 근본적으로 필수적인 주제에 대한 몇 가지 추가 기본 사항을 설정해 보겠습니다. AI 윤리, 특히 머신러닝(ML)과 딥러닝(DL)의 출현에 대해 간략하게 살펴보겠습니다.

요즘 AI 분야와 심지어 AI 분야 밖에서도 가장 크게 들리는 목소리 중 하나가 윤리적 AI의 더 큰 모습을 외치는 것으로 구성되어 있다는 것을 막연하게 인지하고 있을지도 모릅니다. AI 윤리와 윤리적 AI를 지칭하는 것이 무엇을 의미하는지 살펴보겠습니다. 그 위에 머신 러닝과 딥 러닝에 대해 말할 때 내가 의미하는 바를 살펴보겠습니다.

미디어의 많은 관심을 받고 있는 AI 윤리의 특정 부분 또는 부분은 편향과 불평등을 나타내는 AI로 구성됩니다. 최신 AI 시대가 도래했을 때 현재 일부 사람들이 부르는 것에 대한 엄청난 열정이 있었다는 것을 알고 계실 것입니다. 좋은 AI. 불행하게도 그 솟구치는 흥분에 뒤이어 우리는 목격하기 시작했습니다. 나쁜 인공 지능. 예를 들어, 다양한 AI 기반 얼굴 인식 시스템이 인종 편견과 성별 편견을 포함하는 것으로 밝혀졌습니다. 여기 링크.

반격을 위한 노력 나쁜 인공 지능 활발히 진행되고 있습니다. 시끄러운 것 외에 적법한 잘못된 행동을 억제하려는 노력과 함께 AI 윤리를 수용하여 AI의 사악함을 바로잡으려는 실질적인 움직임도 있습니다. 개념은 우리가 AI의 개발 및 적용을 위한 핵심 윤리적 AI 원칙을 채택하고 지지해야 한다는 것입니다. 나쁜 인공 지능 동시에 바람직한 것을 예고하고 촉진한다. 좋은 AI.

관련 개념에서 저는 AI 문제에 대한 해결책의 일부로 AI를 사용하려고 하는 옹호자입니다. 예를 들어 나머지 AI가 작업을 수행하는 방식을 모니터링하여 잠재적으로 실시간으로 차별적 노력을 포착하는 AI 시스템에 윤리적 AI 구성 요소를 포함할 수 있습니다. 여기 링크. 또한 일종의 AI 윤리 모니터 역할을 하는 별도의 AI 시스템을 가질 수도 있습니다. AI 시스템은 다른 AI가 비윤리적인 심연으로 들어갈 때를 추적하고 감지하는 감독자 역할을 합니다. 여기 링크).

잠시 후 AI 윤리의 기초가 되는 몇 가지 중요한 원칙을 공유하겠습니다. 이런 종류의 목록이 여기저기 떠돌아다니고 있습니다. 보편적인 호소와 동의에 대한 단일 목록은 아직 없다고 말할 수 있습니다. 안타까운 소식입니다. 좋은 소식은 최소한 쉽게 사용할 수 있는 AI 윤리 목록이 있으며 매우 유사한 경향이 있다는 것입니다. 종합해보면, 이것은 일종의 합당한 수렴의 형태로 우리가 AI 윤리가 구성되는 일반적인 공통성을 향한 길을 찾고 있음을 시사합니다.

먼저 AI를 제작, 수비 또는 사용하는 모든 사람이 반드시 고려해야 할 사항을 설명하기 위해 전반적인 윤리적 AI 수칙 중 일부를 간략하게 살펴보겠습니다.

예를 들어, 바티칸은 다음과 같이 말했습니다. AI 윤리에 대한 로마의 요구 에서 자세히 다루었듯이 여기 링크, 다음은 확인된 XNUMX가지 주요 AI 윤리 원칙입니다.

• 투명성 : 원칙적으로 AI 시스템은 설명 가능해야 합니다.
• 포함 : 모든 사람이 혜택을 받을 수 있고 모든 개인이 자신을 표현하고 발전할 수 있는 최상의 조건을 제공받을 수 있도록 모든 인간의 필요를 고려해야 합니다.
• 책임: AI 사용을 설계하고 배포하는 사람은 책임과 투명성을 가지고 진행해야 합니다.
• 공평성: 편견에 따라 창작하거나 행동하지 않음으로써 공정성과 인간의 존엄성을 수호한다.
• 신뢰성 : AI 시스템은 안정적으로 작동할 수 있어야 합니다.
• 보안 및 개인 정보 보호: AI 시스템은 안전하게 작동하고 사용자의 개인 정보를 존중해야 합니다.

미 국방부(DoD)에서 밝힌 바와 같이 인공 지능 사용에 대한 윤리 원칙 에서 자세히 다루었듯이 여기 링크, 다음은 XNUMX가지 주요 AI 윤리 원칙입니다.

• 책임 : DoD 요원은 AI 기능의 개발, 배치 및 사용에 대한 책임을 유지하면서 적절한 수준의 판단과 주의를 기울일 것입니다.
• 공정한: 국방부는 AI 기능의 의도하지 않은 편향을 최소화하기 위해 신중한 조치를 취할 것입니다.
• 추적 가능: 부서의 AI 기능은 관련 직원이 투명하고 감사 가능한 방법론, 데이터 소스, 설계 절차 및 문서를 포함하여 AI 기능에 적용 가능한 기술, 개발 프로세스 및 운영 방법에 대한 적절한 이해를 갖도록 개발 및 배포됩니다.
• 신뢰성 : 국방부의 AI 기능은 명확하고 잘 정의된 용도를 가지며, 이러한 기능의 안전성, 보안 및 효율성은 전체 수명 주기에 걸쳐 정의된 용도 내에서 테스트 및 보증의 대상이 됩니다.
• 관리 가능: 국방부는 의도하지 않은 결과를 감지하고 피할 수 있는 능력과 의도하지 않은 행동을 보이는 배포된 시스템을 해제하거나 비활성화하는 능력을 보유하면서 의도한 기능을 수행할 수 있도록 AI 기능을 설계 및 엔지니어링할 것입니다.

나는 또한 "AI 윤리 지침의 글로벌 풍경"이라는 제목의 논문에서 수많은 국내 및 국제 AI 윤리 원칙의 본질을 조사하고 압축한 연구자들이 고안한 세트를 다루는 것을 포함하여 AI 윤리 원칙에 대한 다양한 집합적 분석에 대해 논의했습니다. 입력 자연), 그리고 내 적용 범위는 여기 링크, 이 핵심 목록으로 이어졌습니다.

• 투명도
• 정의와 공정
• 악의 없음
• 책임
• 개인정보보호
• 선행
• 자유와 자율
• 믿어
• 지속가능성
• 존엄
• 연대

직접 추측할 수 있듯이 이러한 원칙의 기초가 되는 세부 사항을 파악하는 것은 매우 어려울 수 있습니다. 더욱이, 이러한 광범위한 원칙을 AI 시스템을 제작할 때 사용할 수 있을 만큼 충분히 유형적이고 세부적인 것으로 바꾸려는 노력은 또한 깨기 힘든 너트입니다. AI 윤리 지침이 무엇인지, 일반적으로 어떻게 준수해야 하는지에 대해 전반적으로 손을 흔드는 것은 쉽지만 AI 코딩에서는 길을 만나는 진정한 고무가 되어야 하는 훨씬 더 복잡한 상황입니다.

AI 윤리 원칙은 AI 개발자, AI 개발 노력을 관리하는 사람, 그리고 궁극적으로 AI 시스템을 유지 관리하는 사람과 함께 활용해야 합니다. 개발 및 사용의 전체 AI 라이프 사이클에 걸쳐 모든 이해 관계자는 윤리적 AI의 확립된 규범을 준수하는 범위 내에서 고려됩니다. 이것은 "오직 코더" 또는 AI를 프로그래밍하는 사람들이 AI 윤리 개념을 준수해야 한다는 일반적인 가정에서 중요한 하이라이트입니다. 앞서 언급했듯이 AI를 고안하고 적용하려면 마을 전체가 필요하며 이를 위해서는 마을 전체가 AI 윤리 수칙을 숙지하고 준수해야 합니다.

또한 오늘날 AI의 특성에 대해 같은 페이지에 있는지 확인합시다.

오늘날 지각이 있는 AI는 없습니다. 우리는 이것을 가지고 있지 않습니다. 우리는 지각 있는 AI가 가능할지 모릅니다. 우리가 지각 있는 AI에 도달할 것인지, 지각 있는 AI가 어떻게든 기적적으로 자발적으로 계산적 인지 초신성(보통 특이점이라고 함)의 형태로 발생할지 여부를 적절하게 예측할 수 없습니다. 여기 링크).

제가 집중하고 있는 AI 유형은 오늘날 우리가 가지고 있는 무감각 AI입니다. 우리가 에 대해 격렬하게 추측하고 싶다면 마음 AI, 이 논의는 근본적으로 다른 방향으로 갈 수 있습니다. 지각 있는 AI는 아마도 인간의 품질일 것입니다. 지각 있는 AI가 인간의 인지적 등가물임을 고려해야 합니다. 더구나 일부 사람들은 우리가 초지능 AI를 가질 수 있다고 추측하기 때문에 그러한 AI가 결국 인간보다 더 똑똑해질 수 있다고 생각할 수 있습니다. 여기의 적용 범위).

좀 더 현실에 가깝게 유지하고 오늘날의 컴퓨팅 비지각 AI를 고려해 보겠습니다.

오늘날의 AI는 어떤 방식으로도 인간의 생각과 동등하게 "생각"할 수 없다는 사실을 깨달으십시오. Alexa 또는 Siri와 상호 작용할 때 대화 능력은 인간의 능력과 비슷해 보일 수 있지만 현실은 계산적이며 인간의 인식이 부족합니다. AI의 최신 시대는 계산 패턴 매칭을 활용하는 머신 러닝(ML) 및 딥 러닝(DL)을 광범위하게 사용했습니다. 이것은 인간과 같은 성향을 보이는 AI 시스템으로 이어졌습니다. 한편, 오늘날 상식과 유사하고 강력한 인간 사고의 인지적 경이로움도 없는 AI는 없습니다.

ML/DL은 계산 패턴 일치의 한 형태입니다. 일반적인 접근 방식은 의사 결정 작업에 대한 데이터를 수집하는 것입니다. ML/DL 컴퓨터 모델에 데이터를 제공합니다. 이러한 모델은 수학적 패턴을 찾으려고 합니다. 그러한 패턴을 찾은 후 발견되면 AI 시스템은 새 데이터를 만날 때 해당 패턴을 사용합니다. 새 데이터가 표시되면 "이전" 또는 과거 데이터를 기반으로 하는 패턴이 적용되어 현재 결정이 나타납니다.

나는 이것이 어디로 향하고 있는지 짐작할 수 있다고 생각합니다. 의사 결정에 따라 패턴화된 인간이 잘못된 편견을 통합했다면 데이터가 미묘하지만 중요한 방식으로 이를 반영할 가능성이 있습니다. 머신 러닝 또는 딥 러닝 계산 패턴 일치는 그에 따라 데이터를 수학적으로 모방하려고 합니다. AI가 만든 모델링 자체의 상식이나 다른 감각적인 측면의 유사성은 없습니다.

게다가 AI 개발자도 무슨 일이 일어나고 있는지 깨닫지 못할 수도 있습니다. ML/DL의 난해한 수학은 현재 숨겨진 편견을 찾아내는 것을 어렵게 만들 수 있습니다. 보기보다 까다롭지만 AI 개발자가 잠재적으로 묻혀 있는 편향을 테스트하기를 기대하고 기대할 수 있습니다. 비교적 광범위한 테스트를 수행하더라도 ML/DL의 패턴 일치 모델에 여전히 편향이 포함될 가능성이 있습니다.

가비지 인 가비지 아웃이라는 유명하거나 악명 높은 격언을 어느 정도 사용할 수 있습니다. 문제는 이것이 AI에 잠긴 편향으로 교묘하게 주입되는 편향과 더 유사하다는 것입니다. AI의 ADM(알고리즘 의사결정)은 공리적으로 불평등을 수반합니다.

안좋다.

부적절하거나 노골적인 불법 행위 목적으로 사용되는 AI 시스템에 초점을 맞추고 이것이 CCP 충성도에 대해 최근 게시된 연구와 어떤 관련이 있는지 다시 살펴보겠습니다.

두 가지 주요 고려 사항이 떠오릅니다.

1) 이 AI 인스턴스는 당황스러운 AI 사용의 더 큰 지속적인 패턴의 일부이므로 무슨 일이 일어나고 있는지 불길하고 눈을 뜨게 만듭니다.

2) 고양이를 가방에서 꺼내어 이런 AI가 한 나라에 도입되면 다른 나라에도 쉽게 퍼질 수 있다.

이 AI 인스턴스가 진행 중인 패턴의 일부라는 첫 번째 요점부터 시작하세요.

이 특정 연구로 인해 특히 혼란스러워지는 중요한 근거 중 하나는 이것이 일부 사람들이 AI를 사용하는 방식에 대한 더 큰 패턴의 일부라는 것입니다. 이것이 지금까지 수행된 유일한 연구라면 우리는 약간의 감동을 받을 수도 있습니다. 그럼에도 불구하고, 그것은 아마도 우리가 지금 보고 있는 것처럼 열정적으로 울려 퍼지지는 않을 것입니다.

이것은 아마도 통제할 수 없는 무언가를 향해 조금씩 조금씩 떨어지는 물방울일 것입니다.

뉴스에 보도된 바와 같이, 중국은 중국 공산당에 대한 철저한 충성을 주장한 것으로 잘 알려져 있습니다. 더욱이, 사람들이 정부 교리에 세뇌되도록 보장하기 위해 다양한 수단이 확립되었거나 확립되고 있습니다. 당원의 사고 상태를 측정할 수 있는 AI 알고리즘을 고안하려는 선행 연구 사례가 인용되었습니다(중국이 지원하는 공부 시간 2019년에는 이러한 노력을 언급했습니다).

2018년 마이크 펜스 부통령이 허드슨 연구소에서 연설을 하면서 “중국의 통치자들은 사실상 인간 생활의 모든 측면을 통제하는 것을 전제로 한 오웰식 시스템을 구현하는 것을 목표로 한다”고 강조한 것을 기억하실 것입니다. 사회적 신용 점수 시스템, 두드러진 논란의 주제). 최근 CCP 연구가 그러한 방향으로 나아가는 또 다른 단계라고 쉽게 주장할 수 있습니다.

마지막 지푸라기가 언제 낙타의 등을 부러뜨릴지, 언제 부러질지 알 수 없기 때문에 이러한 일회성 연구가 광범위한 AI 기반 모니터링 시스템으로 전환됩니다.

두 번째로 주목해야 할 점은 이러한 유형의 AI가 중국에만 국한될 것이라고 가정할 수 없다는 점입니다. 본질적으로 중국에서 이러한 유형의 AI가 널리 보급될 수 있다는 사실 자체가 불안하지만 다른 나라에서도 마찬가지일 수 있습니다.

이를 위한 AI가 황금 시간대에 준비되었다고 말하면 다른 국가에서도 이를 구현하기로 결정하는 데 많은 시간이 걸리지 않을 것입니다. 고양이가 가방에서 나올 거예요. 일부 국가에서는 아마도 이 AI를 노골적으로 억압적인 방식으로 사용할 것이며 그렇게 하는 것에 대한 어떤 가식도 제시하지 않을 것입니다. 다른 국가에서는 겉보기에 유익한 목적으로 이러한 유형의 AI를 사용하려고 할 수 있지만 궁극적으로는 거의 피할 수 없는 단점이 있습니다.

실제로 이러한 유형의 AI가 황금 시간대에 준비가 된 후에만 채택될 것이라고 제안하는 것은 약간 잘못된 것입니다. AI가 이런 방식으로 확실히 작동할 수 있는지 여부는 별 차이가 없을 수도 있습니다. AI는 커버 스토리로 사용될 수 있습니다. 내 설명은 다음을 참조하세요. 여기 링크. AI가 실제로 무엇을 달성할 수 있는지에 관계없이 AI는 대중 모니터링과 측정 계획을 실행하고 당국에 대한 절대적인 충성도를 보장하는 편리한 척이 될 수 있다는 개념입니다.

이 중요한 토론의 이 시점에서 이 주제를 보여줄 수 있는 몇 가지 예시적인 예를 원할 것입니다. 내 마음에 가까운 특별하고 확실히 인기 있는 예가 있습니다. 윤리적, 법적 영향을 포함한 AI 전문가로서의 제 역량으로 저는 AI 윤리 딜레마를 보여주는 현실적인 예를 식별하여 주제의 다소 이론적인 성격을 더 쉽게 파악할 수 있도록 자주 요청받습니다. 이 윤리적인 AI 곤경을 생생하게 보여주는 가장 인상적인 분야 중 하나는 AI 기반의 진정한 자율주행차의 도래입니다. 이것은 주제에 대한 충분한 토론을 위한 편리한 사용 사례 또는 모범이 될 것입니다.

다음은 생각해 볼 가치가 있는 주목할만한 질문입니다. AI 기반의 진정한 자율주행차의 출현이 AI 오용에 대해 밝혀줄까요? 그렇다면 이 사례는 무엇을 보여줍니까?

잠시 질문을 풀어보겠습니다.

먼저 진정한 자율주행차에는 인간 운전자가 포함되어 있지 않다는 점에 유의하십시오. 진정한 자율주행차는 AI 운전 시스템을 통해 구동된다는 점을 명심하십시오. 운전석에 사람이 운전할 필요도 없고 사람이 차량을 운전할 규정도 없습니다. 자율주행차(AV)와 특히 자율주행차에 대한 광범위하고 지속적인 내용은 다음을 참조하십시오. 여기 링크.

진정한 자율 주행 차를 언급 할 때 의미하는 바를 더 명확히하고 싶습니다.

자율 주행 차의 수준 이해

설명하자면 진정한 자율 주행 자동차는 AI가 자동차를 완전히 스스로 운전하고 운전 작업 중에 사람의 도움이없는 자동차입니다.

이 무인 차량은 레벨 4 및 레벨 5로 간주됩니다 (내 설명은 여기 링크), 인간 운전자가 운전 노력을 공동으로 분담해야 하는 자동차는 일반적으로 레벨 2 또는 레벨 3으로 간주됩니다. 공동 운전 작업을 수행하는 자동차는 반자율적이라고 설명되며 일반적으로 다양한 ADAS(Advanced Driver-Assistance Systems)라고 하는 자동 추가 기능.

레벨 5에는 아직 진정한 자율주행차가 없으며, 이것이 가능할지, 도달하는 데 얼마나 걸릴지 아직 모릅니다.

한편, 레벨 4의 노력은이 테스트가 그 자체로 허용되어야하는지에 대한 논란이 있지만 (우리는 실험에서 모두 생사 기니피그입니다. 우리 고속도로와 도로에서 일어나고 있습니다. 여기 링크).

반 자율 자동차에는 인간 운전자가 필요하기 때문에 이러한 유형의 자동차 채택은 기존 차량을 운전하는 것과 크게 다르지 않으므로이 주제에 대해 다루는 새로운 자체는 많지 않습니다 (그러나, 잠시 후, 다음 사항이 일반적으로 적용됩니다.

반 자율 자동차의 경우 대중이 최근에 발생하고있는 혼란스러운 측면에 대해 미리 알고 있어야합니다. , 우리 모두는 운전자가 반 자율 자동차를 운전하는 동안 운전 작업에서주의를 끌 수 있다고 믿지 않도록 잘못 인도하지 않아야합니다.

레벨 2 또는 레벨 3으로 전환 할 수있는 자동화의 양에 관계없이 차량의 운전 행동에 대한 책임은 귀하에게 있습니다.

자율주행차와 AI 오용

레벨 4 및 레벨 5 진정한 자율 주행 차량의 경우, 운전 작업에 인간 운전자가 관여하지 않습니다.

모든 탑승자가 승객이됩니다.

AI가 운전을하고 있습니다.

즉시 논의해야 할 한 가지 측면은 오늘날의 AI 구동 시스템에 관련된 AI가 지각력이 없다는 사실을 수반합니다. 다시 말해, AI는 모두 컴퓨터 기반 프로그래밍과 알고리즘의 집합체이며 인간이 할 수있는 것과 같은 방식으로 추론 할 수 없습니다.

AI가 지각이 없다는 점을 강조하는 이유는 무엇입니까?

AI 구동 시스템의 역할을 논의 할 때 AI에 인간의 자질을 부여하는 것이 아니라는 점을 강조하고 싶습니다. 요즘 인공 지능을 의인화하려는 지속적이고 위험한 경향이 있음을 유의하십시오. 본질적으로 사람들은 그러한 AI가 아직 존재하지 않는다는 부인할 수없고 논란의 여지가없는 사실에도 불구하고 오늘날의 AI에 인간과 같은 감성을 부여하고 있습니다.

이러한 설명을 통해 AI 구동 시스템이 기본적으로 운전 측면에 대해 "알지"못할 것이라고 상상할 수 있습니다. 운전과 이에 수반되는 모든 것은 자율 주행 자동차의 하드웨어 및 소프트웨어의 일부로 프로그래밍되어야합니다.

이 주제에 대한 수많은 측면을 살펴 보겠습니다.

첫째, 모든 AI 자율주행차가 같지는 않다는 점을 인식하는 것이 중요합니다. 각 자동차 제조사와 자율주행 기술 회사는 자율주행차 개발에 접근하고 있다. 따라서 AI 운전 시스템이 무엇을 할 것인지, 하지 않을 것인지에 대해 포괄적인 진술을 하기는 어렵습니다.

게다가, AI 운전 시스템이 어떤 특정한 일을 하지 않는다고 말할 때마다, 이것은 나중에 실제로 바로 그 일을 하도록 컴퓨터를 프로그래밍하는 개발자들에 의해 추월될 수 있습니다. AI 운전 시스템은 단계적으로 개선되고 확장되고 있습니다. 현재의 기존 제한은 시스템의 향후 반복 또는 버전에서 더 이상 존재하지 않을 수 있습니다.

내가 관련하려는 내용의 기초가 되는 충분한 주의 사항을 제공하기를 바랍니다.

개략적이거나 잘못된 방식으로 AI를 활용할 수 있는 자율 주행 자동차 시나리오를 스케치해 보겠습니다.

여러분을 전율시키고 불안하게 만들 수 있는 AI 기반 자율주행차의 파급효과를 여러분과 공유하겠습니다. 이는 현재 거의 누구도 논의하지 않는 측면입니다. 나는 계속해서 문제를 제기했지만, 자율주행차가 널리 채택되기 전까지는 사회가 단지 추상적인 개념으로 보이는 것에 대해 걱정하거나 화를 내는 것에 대해 큰 관심을 끌지 못할 것이라는 점을 공개적으로 인정했습니다. .

준비되셨습니까?

우리는 기초를 다지는 것부터 시작하겠습니다.

AI 기반 자율주행차에는 비디오 카메라가 탑재될 것이라는 점은 당연하다. 이를 통해 자율주행차는 주행 장면을 영상으로 수신할 수 있다. 자율주행차에 탑재된 컴퓨터에 탑재된 AI 주행 시스템은 수집된 영상을 전산 분석해 도로가 어디에 있는지, 주변 차량이 어디에 있는지, 보행자가 어디에 있는지 등을 파악하는 역할을 한다. 자율주행차 101개 기본사항을 암송하고 있다는 것을 실감합니다.

자율주행차 외부에는 비디오 카메라가 장착돼 바깥쪽을 가리키고 있다. 또한, 대체로 자율주행차 내부를 겨냥하는 비디오 카메라가 차량 내부나 차량 내부에 장착될 것으로 예상할 수 있습니다. 왜 그렇습니까? 자율주행차 내부에서 일어나는 일을 비디오로 포착하는 데 중요한 용도가 많이 있을 것이기 때문에 쉽습니다.

자율주행차를 타러 갈 때, 더 이상 운전자가 될 필요가 없습니다. 그러면 자율주행차 안에서 무엇을 하시겠습니까?

당신이 할 수 있는 한 가지는 집이나 사무실에서 다른 사람들과 교류하는 것입니다. 자율주행차로 운전하는 데 한 시간이 걸리며, Zoom과 같은 온라인 실시간 대화 세션을 통해 이미 하루의 업무를 시작할 수 있습니다. 자율주행차 안쪽을 향하는 카메라 덕분에 그들은 당신을 볼 수 있습니다. 아마도 자율주행차 내부의 LED 스크린을 통해 이를 볼 수 있을 것입니다. 하루를 마치고 집으로 돌아가는 동안 자녀가 저녁 숙제를 시작하는 동안 유사한 대화형 비디오 토론을 할 수 있습니다.

또 다른 용도는 수업을 듣는 것입니다. 이제 운전하느라 시간을 낭비할 필요가 없으므로 자율주행차 안에서의 막다른 시간을 기술 향상이나 자격증 또는 학위 취득으로 바꿀 수 있습니다. 강사는 안쪽을 가리키는 카메라를 통해 귀하를 보고 훈련이 어떻게 진행되고 있는지 논의할 수 있습니다.

또 다른 용도는 자율주행차 탑승자가 날뛰지 않도록 하는 것입니다. 인간이 운전하는 자동차에서 운전자는 일반적으로 라이더가 실내에 낙서를 표시하는 등 이상한 일을 하지 못하게 하는 성인 존재입니다. AI 기반 자율주행차는 어떻게 될까요? 어떤 사람들은 라이더가 차량 내부를 찢을 것이라고 걱정합니다. 이를 방지하기 위해 자율주행차를 배치하는 차량 공유 회사는 내부 비디오 카메라를 사용하여 사람들이 자율주행차 안에서 무엇을 하고 있는지 모니터링할 가능성이 높습니다.

운전 장면을 식별하기 위해 외부를 향하는 카메라 외에도 자율주행차 내부를 향하는 비디오 카메라가 있을 것이라고 여러분은 확신하실 것입니다.

이제 당신은 내가 로빙 아이(Roving Eye)라고 부르는 것에 대한 준비가 되었습니다. 내 분석을 참조하세요. 여기 링크.

먼저 바깥쪽을 가리키는 비디오 카메라를 생각해 보세요.

자율주행차가 어디를 가든지 카메라가 보는 모든 것을 영상으로 녹화할 수 있을 가능성이 있습니다. 집에서 사람을 태워 식료품점까지 데려다주는 자율주행차는 동네를 횡단하며 영상은 도로뿐만 아니라 시야에서 일어나는 모든 일을 녹화한다. 아버지와 아들이 앞마당에서 놀고 있습니다. 현관에 앉아 있는 가족. 계속해서 진행됩니다.

현재 공공 도로에는 자율주행차가 거의 없기 때문에 일상 활동을 비디오로 캡처하는 기능은 상대적으로 드물고 중요하지 않습니다.

궁극적으로 안전하고 널리 보급된 자율주행차를 구현하는 것을 상상해 보세요. 수천 개. 어쩌면 수백만. 오늘날 미국에는 약 250억 24천만 대의 인간이 운전하는 자동차가 있습니다. 결국, 자율주행차는 거의 대부분 자율주행차로 대체되거나 더 이상 사용되지 않을 것이며, 도로에는 자율주행차가 주로 운행될 것입니다. 이러한 자율주행차는 AI에 의해 운전되므로 기본적으로 연중무휴 7시간 이동할 수 있습니다. 쉬는 시간도 없고, 화장실 가는 시간도 없습니다.

비디오 데이터는 OTA(Over-The-Air) 전자 네트워킹 연결을 통해 자율주행차에서 업로드될 수 있습니다. 자율주행차는 OTA를 사용해 최신 AI 소프트웨어 업데이트를 차량에 다운로드하게 됩니다. 또한 OTA를 사용하면 자율주행차의 데이터를 클라우드 기반 데이터베이스에 업로드할 수 있습니다.

종합해보면, 업로드된 데이터를 하나로 묶는 것이 가능할 것입니다. 스티칭을 사용하면 자율주행차를 광범위하게 사용하는 모든 지역에서 어느 날이든 밖에 나간 사람의 일상적인 오고 가는 것을 잠재적으로 함께 모을 수 있습니다.

그것이 내가 경고해왔던 로빙눈이다.

이제 우리는 이러한 종류의 기능에 대해 CCP 연구를 밀접하게 연관시킬 수 있습니다. 정부가 수집된 모든 비디오 데이터에 접근할 수 있다고 가정해 보겠습니다. 그런 다음 AI 기반 얼굴 인식 알고리즘을 사용하여 일상적인 여행을 통해 하루 중 언제 어디로 갔는지 확인할 수 있습니다. 또한 그들은 아마도 "충성도" AI 기반 분석기를 사용하여 당신의 얼굴에 충성스러운 표정이 있는지 여부를 확인할 수 있을 것입니다.

화요일 오후에 당신이 현지 식당에서 샌드위치를 ​​사러 걷고 있다고 상상해 보십시오. 도로에는 자율주행차들이 지나가고 있었다. 많은 비디오는 모두 당신이 식사를 하기 위해 XNUMX분 동안 걷는 모습을 포착했습니다. 데이터는 중앙 데이터베이스에 업로드되었습니다. 정부는 이 데이터를 바탕으로 AI 안면인식 프로그램을 가동했다.

AI는 당신의 얼굴에 불충한 표정이 있다고 "판단"한 것으로 나타났습니다.

어쩌면 이런 불충한 표정은 한순간에 일어난 것일 수도 있다. 당신은 길을 건너 식당으로 갈 수 있도록 신호등이 바뀔 때까지 길모퉁이에서 기다리고 있었습니다. 그 순간, 당신은 Walk 기호를 너무 오래 기다려야 한다는 약간의 혐오감을 느꼈습니다. 이것은 아마도 정부에 대한 귀하의 불충성을 나타내는 것이었습니까?

예, AI가 계산한 대로 당신은 그 순간에 엄청나게 불충실했습니다. 그날 밤 당신이 집에 돌아오면 정부는 당신을 체포할 준비를 했습니다.

그러나 더 많은 것이 있습니다.

비디오 카메라도 안쪽을 향하고 있다는 점을 기억하세요.

같은 화요일, 자율주행차를 타고 출근하는 동안 비디오 카메라는 당신의 모든 순간을 포착했습니다. 이는 중앙 집중식 데이터베이스에 업로드되었습니다. 얼굴 패턴을 분석하여 충성심이 없는지를 분석하는 AI 소프트웨어는 사무실로 출근하는 동안 얼굴 표정에 대한 계산 패턴을 검사했습니다.

어느 순간, 당신은 무심코 자율주행차 밖을 내다보던 중 건설 노동자가 도로를 부분적으로 막고 AI 운전 시스템으로 인해 자율주행차의 속도가 느려지는 것을 발견했습니다. 순간적으로 당신의 얼굴은 교통 속도를 늦추는 건설 노동자를 조롱하는 표정을 지었습니다.

AI 얼굴 패턴 분석은 이를 정부에 대한 불충의 표시로 해석했다.

하루에 두 번의 파업이 발생합니다.

당신은 얇은 얼음 위에 살고 있습니다.

물론, 이러한 맥락에서 AI가 귀하의 충성도를 판단할 수 있는 능력에 대해 "옳은지" "틀리는지"는 거의 중요하지 않습니다. 요점은 AI가 이러한 목적을 위해 배치되었다는 것입니다. AI를 배포하는 인간은 AI가 이러한 유형의 작업에 적합한지 여부에 관심을 가질 수도 있고 신경 쓰지 않을 수도 있습니다. AI는 기술적 타당성 자체에 관계없이 정부의 통제를 허용합니다.

그것은 얼굴 스캔을 다룹니다.

궁극적으로 뇌파 스캔을 수행하기 위한 비용 효율적인 휴대용 장치가 있다면 이는 확실히 자율 주행 자동차에도 포함될 수 있습니다. 이제 비디오 카메라는 확실한 것입니다. 이 정도 수준의 뇌파 스캔 장치를 보유할 가능성은 현재로서는 불가능하지만 분명히 미래를 위해 구상되고 있는 것입니다.

정부가 자율주행차에 대한 통제권을 장악하여 대중을 장악하려고 시도하는 방법에 대한 탐구는 다음을 참조하세요. 여기 링크. 악의적인 행위자가 동일한 작업을 시도할 가능성도 유사합니다. 여기 링크. 이는 관련 주제에 대한 보도에 대한 무서운 전술이 아니라 유비쿼터스 자율 주행 자동차의 시작과 관련하여 사회로서 우리가 취해야 할 사이버 보안 및 기타 예방 조치의 중요성에 대한 미리 알림입니다. 다른 자율주행차.

결론

저는 충성도를 확인하는 데 사용되는 AI에 대한 한 가지 추가 측면을 빠르게 다루고 싶습니다. 이 측면은 다소 별개의 주제이지만 일부 트윗과 소셜 미디어에서 비난을 받고 있는 부분입니다.

나는 앞서 우리에게 지각 있는 AI가 없으며 우리가 그렇게 될 것인지, 언제 그렇게 될 것인지 모른다고 언급했습니다. 우리가 지각 있는 AI를 갖게 될 것이라는 생각을 즐겨 봅시다. 이 경우 다음 시나리오를 고려하십시오.

우리는 무감각 AI를 통해 얼굴 스캔, 뇌파 스캔 등을 사용하여 사람들이 정부에 충성하는지 여부를 계산적으로 확인하는 AI를 널리 사용하기로 결정했습니다. 이것은 전적으로 권한을 가진 인간에 의해 운영되고 사용됩니다. 이것이 제가 방금 전에 설명했던 충격적인 시나리오입니다.

투자금을 올릴 시간입니다.

AI가 지각을 갖게 됩니다. 이제 우리는 잠재적으로 이 지각 있는 AI에 인간의 충성심과 불충실함을 식별할 수 있는 광범위한 기능을 부여했습니다. 인간을 전멸시키려는 사악한 AI는 이 기능을 사용하여 실제로 인간이 불충실할 것이며 완전히 파괴되어야 한다고 결정할 수 있습니다. 아니면 얼굴이나 생각을 통해 불충성함을 나타내는 인간만 특별히 폐기해야 할 수도 있습니다.

또 다른 관점은 AI가 인간을 노예로 삼기를 원한다는 것입니다. 여기 링크.

우리는 그 퀘스트를 수행하기 위해 AI에게 완벽한 선물을 준 것 같습니다. 우리가 배치한 기존 인프라를 통해 AI는 우리 인간을 주의 깊게 감시할 수 있습니다. AI 군주에 대해 불충한 표정을 짓거나 생각을 표현한 것으로 보이는 사람들은 AI의 분노를 느낄 것입니다.

나는 이것이 분담금 인상이라고 말했다는 것을 알고 있습니다. 나는 그것이 사실인지 잘 모르겠습니다. 우리의 운명을 직접 결정하는 AI 대군주와 충성도를 결정하기 위해 AI 시스템을 사용하는 인간 대군주가 있는 경우 두 제안 모두 특히 바람직하지 않은 것 같습니다.

현재로서는 최종 의견입니다.

로마의 학자이자 철학자인 마르쿠스 툴리우스 키케로는 충성보다 더 고귀하고 존경할 만한 것은 없다고 말했습니다. 우리는 AI가 우리보다 앞서서 끔찍한 수단으로 "충성도"를 모집하고 보장하는 도구가 되도록 허용할 수 있습니다.

AI 윤리를 해야 할 일 목록의 맨 위에 올려야 하는 가치 있는 이유입니다.