최근 충격적인 AI 윤리 문제는 AI 기반 자율 주행 자동차의 무해한 경우를 포함하여 AI가 정치적 편견을 불가분하게 구현할 수 있다는 것입니다.

정치에 대해 이야기합시다.

글쎄요, 요즘 사용 가능한 모든 미디어 소스를 통해 정치에 대한 겉보기에 끊임없는 초점에 대해 당신이 지쳤을 가능성이 있다는 것을 알고 있습니다. 빨간색 상태 대 파란색 상태. 자유주의자 대 보수주의자. 민주당 대 공화국. 정치적 계략에 대한 수다는 분노할 정도로 끝이 없습니다.

당신은 정치가 특히 그림에 포함되지 않는 일부 주제가 있다고 합리적으로 가정했을 수 있습니다. 본질적으로 주제에는 두 가지 별개의 부류가 있을 수 있습니다. 즉, 무슨 일이 있어도 정치적으로 주입되는 주제와 정치적 영역을 벗어나거나 벗어날 수 있는 더 진부한 주제입니다.

국가 의료 측면, 선거 측면, 총기 규제, 이민, 등. 당신이 해야 할 일은 그 주제들 중 아무거나 언급하는 것뿐이고, 그 다음에 일어나는 일은 당신이 정치적 폭풍에 휩싸이는 것입니다. 오히려 열띤 논쟁이 거의 보장됩니다.

대화재 동전의 반대편에는 아마도 그러한 자동적인 정치적 반응을 일으키지 않는 몇 가지 주제가 있을 것입니다. 나는 당신의 초기 직감 반응을 얻기 위해 그러한 주제를 당신 앞에 떠 올리고 싶습니다.

준비가 되셨습니까?

자동차.

예, 자동차, 자동차, 자동차의 일상적인 주제, 또는 당신이 표현하고 싶은 대로 그것이 정치적 항의를 불러일으키거나 정치적으로 비난을 받는 비난을 불러일으키거나 구타당할 말싸움을 불러일으킵니까?

표면적으로는 자동차에 대한 정치적 우려가 높아진 것처럼 보이지 않을 수도 있습니다. 그들은 단순히 일상적인 교통수단의 한 형태일 뿐입니다. 당신은 차를 타고 출근합니다. 자동차를 사용하여 심부름을 하고 장을 보러 갑니다. 휴가를 위해 시간을 낼 수 있다면 차를 타고 탁 트인 숲으로 가거나 소중한 국가 기념물을 방문할 수도 있습니다.

자동차는 비정치적인 것처럼 보일 것입니다.

죄송하지만 그렇지 않은 경우가 많습니다.

소위 인화점 주제라고 불리는 다른 주제와 마찬가지로 자동차가 정치에 밀접하게 둘러싸여 있고 정치에 몰두하는 경우가 있을 수 있습니다. 아마도 일반 언론은 다른 매혹적인 주제에 대해 할 수 있는 것만큼 자동차 중심의 정치를 다루지 않을 것입니다. 하지만 그럼에도 불구하고 정치적 저류는 여전히 존재합니다.

한 가지 명백한 정치적 차원은 자동차가 구성되어야 하는 것으로 구성됩니다.

나는 자동차의 구성이나 기계화를 말하는 것입니다. 예를 들어, 자동차가 ICE(내연 기관)를 사용해야 하는지 아니면 EV(전기 자동차)로 전환해야 하는지에 대한 격렬한 정치적 논쟁이 있습니다. 이것은 환경 문제 및 기후 변화 측면과 같은 수많은 다른 정치적 주제와 연결되는 중요한 담론의 영역입니다.

덜 알려졌지만 관련된 문제는 다양한 측면에서 자동차의 크기와 전체 발자국을 다룹니다. 대형차만 있어야 할까요, 아니면 소형차만 있어야 할까요? 사람들이 대중 교통과 대중 교통을 대신 사용하도록 유도하는 것을 목표로 전면적으로 자동차 사용을 억제하기 위해 자동차를 고안해야 합니까? 등등.

여기 당신이 생각하지 못한 것이 있습니다.

일부 연구에서는 소유한 자동차의 유형이 자동차 소유자의 정치적 성향에 기반하는지 여부를 조사했습니다. 아마도 당신은 민주당원으로 선언된 사람 사이에 구매한 자동차 유형과 관련하여 통계적 상관관계를 찾을 수 있고 마찬가지로 공화당원과 소유한 자동차 유형 사이에 통계적 상관관계를 찾을 수 있을 것입니다. 나는 여기서 그러한 연구를 탐구하지 않을 것이지만, 관련된 통계적 타당성에 대해 조심스러운 눈과 많은 양의 회의론으로 그러한 연구와 그 결과를 해석해야 한다고 언급하고 싶습니다.

통계 활용에 대해 말하자면, 정치적 특성과 자동차에 대한 또 다른 흥미로운 각도가 있습니다. 다양하게 연결하는 연구 노력이 있습니다. 운전 행동 해당 운전자의 정당 가입에 대한 사람들의

자주 다루는 질문은 다음과 같습니다.

· 자동차 충돌이나 충돌에 빠진 운전자는 민주당원일 가능성이 더 높습니까 아니면 공화당원일 가능성이 낮습니까?

· 음주 운전자는 진보주의자일 가능성이 더 높습니까 아니면 보수주의자일 가능성이 더 높습니까?

· 운전자들이 난폭하게 서로를 때리는 광란의 도로 분노 사건이 발생하면, 그 미치광이 미친놈들은 진보인가 보수인가?

· 민주당원과 공화당원 중 누가 더 많은 교통 위반 티켓을 받고 더 위험하게 운전할까요?

· 등.

다시 말하지만, 나는 여기에서 그러한 연구 노력에 뛰어들지 않을 것입니다. 그리고 다시 한 번, 그러한 연구를 읽거나 그 결과에 대한 엄청난 헤드라인을 볼 때 긴장을 늦추지 마십시오. 내가 말할 수 있는 것은 통계에 대한 오래된 선이 오늘날에도 여전히 매우 사실이어서 거짓말, 새빨간 거짓말, 통계가 있다는 것입니다(더 고상한 청중을 위해 약간의 짠 지혜를 정리했습니다).

따라서 우리는 자동차라는 주제가 유감스럽게도 정치적 의미를 내포하고 있다는 충분한 증거를 가지고 있는 것 같습니다.

그러면 저는 완전히 비정치적일 수 있는 다른 주제를 선택하겠습니다.

이번에는 준비되셨나요?

인공지능(AI).

확실히 AI는 특히 AI 시스템의 내부 역량과 관련하여 비정치적이어야 합니다. 물론 정치가 있다고 의심 할 수도 있습니다. 주위의 AI를 사용해야 하는지 여부는 중요하지 않지만 AI 시스템의 내부성은 정치적 발효 그 자체를 넘어서는 것이라고 생각할 것입니다.

널리 퍼진 가정을 자세히 살펴보기 전에, 최근 많은 사람들이 즉시 AI 시스템을 생산하고 본능적으로 수용하려는 무모한 충동을 재고하게 만든 AI의 다른 측면을 고려하는 것이 도움이 될 수 있습니다.

보시다시피, 좋은 AI 지난 몇 년 동안 모든 AI가 반드시 좋은 것은 아니라는 인식이 높아지고 있습니다. 우리는 또한 많은 기회가 있다는 것을 알게 되었습니다. 나쁜 인공 지능 일어나다. 이것은 AI를 개발하는 사람들의 의도적인 의도에 의해 발생할 수 있으며 일부 사람들이 AI 개발자와 AI 시스템을 공포하는 사람들의 적절한 감독이 완전히 무책임하다고 주장하는 것에 의해 발생할 수도 있습니다.

여기 링크 및 여기 링크와 같은 내 칼럼 범위에서 이러한 많은 AI 윤리 문제를 다루었습니다..

의 지표로 고려 나쁜 인공 지능 안면인식 문제.

많은 사람들은 안면 인식이 AI 기술 중 가장 멋진 기술이 될 것이라고 생각했습니다. 좋은 AI). 비밀 핀 코드와 은행 카드를 사용하는 대신 인식을 위해 얼굴을 스캔하기만 하면 ATM에서 은행 업무를 수행하는 것이 매우 쉬울 것입니다. 어떤 항목을 선택하든 요금이 부과될 수 있는 온라인 식료품 계정을 나타내기 위한 수단으로 얼굴을 사용하여 식료품점에 들어가 쇼핑하는 것이 매우 편리할 것입니다.

당신은 훈련을 알고 있습니다.

그 다음으로 사회는 안면 인식이 달콤한 사탕이나 달콤한 냄새가 나는 장미가 아니라는 사실을 발견하기 시작했습니다. 일부 AI 기반 안면 인식 알고리즘은 인종 때문에 사람들을 식별할 수 있는 형편없는 일을 했습니다. 성별 및 기타 요인과 관련된 내재적 편견을 포함하여 수많은 다른 당황스럽고 터무니없는 문제가 발생했습니다. 안면 인식을 뒷받침하는 AI 윤리 주제에 대한 제 보도는 여기 링크를 참조하십시오.

전반적인 요점은 좋은 AI 다음으로 구성된 관련 수하물도 휴대할 예정입니다. 나쁜 인공 지능. 경우에 따라서는 나쁜 인공 지능 완전히 나쁘고 약간의 보상이 있음을 암시하는 구속 적 특성이 거의 없습니다. 좋은 AI 이내에. 하지만 대체로 AI 시스템은 일반적으로 둘 다 비슷합니다. 좋은 AI 과 나쁜 인공 지능. 전자는 우리가 장려하고 싶고, 후자는 예방하고, 축소하고, 완화하고, 다른 모든 것이 실패할 때 가능한 한 빨리 잡아서 방어하기를 원할 것입니다.

예, 모든 것이 이치에 맞으며 모든 종류의 인종적 편견, 성별 편견 및 모든 종류의 불평등에 대해 AI를 면밀히 조사해야 한다고 생각할 수 있습니다. 이것은 나쁜 것을 피하고 AI의 좋은 점을 결실을 맺는 사회에 적절한 행동과 원조가 될 것입니다.

믿거 나 말거나, 많은 사람들이 AI 잡종 스튜에 있다는 것을 깨닫지 못한 놀라운 일 목록에 추가할 수 있는 또 다른 요소가 있습니다.

정치적 성향.

최근 연구에 따르면 AI 시스템은 과다한 정치적 경향, 의견, 선호도 및 기타 정치적 기반 속성과 주입을 구현할 수 있습니다(의인화되지는 않았지만). 이는 AI의 프로그래밍을 기반으로 AI가 "결정"하는 것과 같이 AI가 작동하는 방식에 영향을 줄 수 있습니다.

온라인으로 대출을 신청하고 AI 기반 알고리즘 의사 결정 시스템을 사용하는 경우 AI 프로그래밍이 무엇으로 구성되어 있는지 전혀 알 수 없는 경우가 많습니다. 대출 거절을 당했다고 말하면 AI가 거절 선택을 할 때 인종, 성별 또는 기타 요인을 사용하지 않았다고 확신할 수 없습니다.

또한 AI가 정치적 편견으로 인해 대출 요청을 억누르지 않았는지 확신할 수 없습니다.

내가 그런 냉엄한 용어로 말할 때, AI가 지각이 있다고 믿으면서 그 개념을 과장하지 마십시오. 잠시 후에 더 언급하겠지만 오늘날 우리에게는 지각 있는 AI가 없습니다. 마침표, 마침표. 어떤 엉뚱한 헤드라인을 보더라도 오늘날 지각 있는 AI에 근접한 것은 없다는 점을 알아두시기 바랍니다. 우리는 AI로 지각에 도달하는 것이 가능한지조차 모릅니다. 또한 언제 일어날지, 언제 일어날지 여부에 대한 표시도 없습니다.

당면한 문제로 돌아갑니다.

AI가 정치적 편향을 포함할 수 있다는 테이블에 도달했으므로 이것이 어떻게 발생하고 어떤 방식으로 정치적 성향이 은밀하게 나타날 수 있는지 자세히 살펴볼 수 있습니다.

여담으로, AI가 정치적 편애를 포함할 수 있다는 개념이 당신에게 소름 끼치는 소름 끼치는 당혹감이나 충격을 준다면 AI의 깨끗한 베일을 뚫는 또 다른 예라고 생각하십시오. 사회는 지금까지 인공지능의 브랜드 이미지를 중도와 균형이라는 웅장한 순수함과 순수한 아우라를 통합한 것으로 받아들인 것 같습니다.

우리는 이것을 다른 유형의 기계에서 가져왔을 수도 있습니다. 토스터는 인종, 성별 등에 따라 내재된 편견이 없는 것 같습니다. 마찬가지로 우리는 토스터가 말하자면 정치적인 생각을 할 것이라고 기대하지 않을 것입니다. 토스터는 토스터입니다. 그것은 단지 기계로 해석됩니다.

AI와 관련하여 토스터기 관점이 문제가 되지 않는 이유는 AI 시스템이 인지와 같은 능력을 수행하도록 프로그래밍되어 있기 때문입니다. 이와 같이 이것은 기계를 편향의 구현 등과 같은 인지 문제의 곤경에 빠뜨립니다. 우리는 곧 AI 기반 토스터에 편견과 문제가 있는 우려가 만연하다는 사실을 알게 될 것입니다.

AI가 정치적으로 영향을 받을 수 있는 방법을 이해하기 위한 문을 여는 편리한 방법은 AI 기반의 진정한 자율 주행 자동차의 출현에서 AI의 사용을 살펴보는 것입니다. 우리는 일석이조로 두 마리 토끼를 잡을 수 있고 정치적 구체화를 포함하는 AI의 일반적이고 포괄적인 주제를 검토할 수 있으며 자율 주행 자동차에서 이것이 어떻게 발생할 수 있는지에 대한 모범적인 맥락에서 그렇게 할 수 있습니다.

나는 AI 정치 예방 접종이 그 자체로 가치가 있는 독립된 주제라는 것을 분명히 하고 싶습니다. 자율주행차의 AI를 AI의 정치적 차원과 실수로 엮지 마십시오. 모든 AI는 정치적으로 내재된 가능성을 가질 것이며 깊이와 정도는 AI가 고안되고 배치되는 방식에 따라 달라집니다.

다음은 숙고할 가치가 있는 주목할만한 질문입니다. AI는 어떻게 내부적으로 정치적 성향을 불어넣게 될까요? AI 기반 자율주행차에 사용되는 겉보기에는 비정치적인 AI 영역에서도 이런 일이 일어날 수 있을까요?

자율 주행 자동차와 관련된 질문을 잠시 풀겠습니다.

첫째, 진정한 자율주행차에는 인간 운전자가 관여하지 않는다는 점에 유의하십시오. 진정한 자율주행차는 AI 운전 시스템을 통해 운전된다는 점을 명심하십시오. 운전대에는 인간 운전자가 필요하지 않으며 차량을 운전할 인간에 대한 규정도 없습니다. 자율주행차(AV), 특히 자율주행차에 대한 광범위하고 지속적인 보도는 여기 링크를 참조하십시오.

진정한 자율 주행 차를 언급 할 때 의미하는 바를 더 명확히하고 싶습니다.

자율 주행 차의 수준 이해

설명하자면, 진정한 자율 주행 자동차는 AI가 자동차를 완전히 스스로 운전하고 운전 작업 중에 사람의 도움이없는 자동차입니다.

이러한 무인 차량은 레벨 4 및 레벨 5로 간주됩니다 (여기에서이 링크의 설명 참조). 사람이 운전 노력을 함께 공유해야하는 자동차는 일반적으로 레벨 2 또는 레벨 3으로 간주됩니다. 운전 공유 작업은 반 자율로 설명되며 일반적으로 ADAS (Advanced Driver-Assistance Systems)라고하는 다양한 자동 추가 기능을 포함합니다.

레벨 5에는 아직 진정한 자율 주행 차가 없으며, 이것이 달성 될 수 있는지, 그리고 도착하는 데 걸리는 시간도 아직 알지 못합니다.

한편, 레벨 4의 노력은이 테스트가 그 자체로 허용되어야하는지에 대한 논란이 있지만 (우리는 실험에서 모두 생사 기니피그입니다. 우리의 고속도로와 도로에서 일어나고 있으며, 일부는 여기 링크에서 내 보도를 참조하십시오).

반 자율 자동차에는 인간 운전자가 필요하기 때문에 이러한 유형의 자동차 채택은 기존 차량을 운전하는 것과 크게 다르지 않으므로이 주제에 대해 다루는 새로운 자체는 많지 않습니다 (그러나, 잠시 후, 다음 사항이 일반적으로 적용됩니다.

반 자율 자동차의 경우 대중이 최근에 발생하고있는 혼란스러운 측면에 대해 미리 알고 있어야합니다. , 우리 모두는 운전자가 반 자율 자동차를 운전하는 동안 운전 작업에서주의를 끌 수 있다고 믿지 않도록 잘못 인도하지 않아야합니다.

레벨 2 또는 레벨 3으로 전환 할 수있는 자동화의 양에 관계없이 차량의 운전 행동에 대한 책임은 귀하에게 있습니다.

자율주행차와 AI 내장 정치적 성향

레벨 4 및 레벨 5 진정한 자율 주행 차량의 경우, 운전 작업에 인간 운전자가 관여하지 않습니다.

모든 탑승자가 승객이됩니다.

AI가 운전을하고 있습니다.

즉시 논의해야 할 한 가지 측면은 오늘날의 AI 구동 시스템에 관련된 AI가 지각력이 없다는 사실을 수반합니다. 다시 말해, AI는 모두 컴퓨터 기반 프로그래밍과 알고리즘의 집합체이며 인간이 할 수있는 것과 같은 방식으로 추론 할 수 없습니다.

AI가 지각이 없다는 점을 강조하는 이유는 무엇입니까?

AI 구동 시스템의 역할을 논의 할 때 AI에 인간의 자질을 부여하는 것이 아니라는 점을 강조하고 싶습니다. 요즘 인공 지능을 의인화하려는 지속적이고 위험한 경향이 있음을 유의하십시오. 본질적으로 사람들은 그러한 AI가 아직 존재하지 않는다는 부인할 수없고 논란의 여지가없는 사실에도 불구하고 오늘날의 AI에 인간과 같은 감성을 부여하고 있습니다.

이러한 설명을 통해 AI 구동 시스템이 기본적으로 운전 측면에 대해 "알지"못할 것이라고 상상할 수 있습니다. 운전과 이에 수반되는 모든 것은 자율 주행 자동차의 하드웨어 및 소프트웨어의 일부로 프로그래밍되어야합니다.

이 주제에 대한 수많은 측면을 살펴 보겠습니다.

첫째, 모든 AI 자율주행차가 같지는 않다는 점을 인식하는 것이 중요합니다. 각 자동차 제조사와 자율주행 기술 회사는 자율주행차 개발에 접근하고 있다. 따라서 AI 운전 시스템이 무엇을 할 것인지, 하지 않을 것인지에 대해 포괄적인 진술을 하기는 어렵습니다.

게다가, AI 운전 시스템이 어떤 특정한 일을 하지 않는다고 말할 때마다, 이것은 나중에 실제로 바로 그 일을 하도록 컴퓨터를 프로그래밍하는 개발자들에 의해 추월될 수 있습니다. AI 운전 시스템은 단계적으로 개선되고 확장되고 있습니다. 현재의 기존 제한은 시스템의 향후 반복 또는 버전에서 더 이상 존재하지 않을 수 있습니다.

나는 이것이 내가 관련시키려는 내용의 기초가 되는 충분한 주의 사항을 제공한다고 믿습니다.

우리는 이제 AI 정치에 내재된 딜레마에 대해 자세히 알아볼 준비가 되었습니다.

자율주행차 측면은 잠시 제쳐두고 먼저 정치적 성향을 통합하는 방법에 대해 AI 주제를 살펴보겠습니다. AI가 정치적으로 만들어지는 가장 쉬운 방법은 AI 소프트웨어를 만드는 AI 개발자의 행동입니다. 인간으로서 그들은 자신의 개인적인 정치적 성향을 소프트웨어가 하도록 프로그래밍하는 데 사용할 수 있습니다.

AI 시스템이 처음 다양한 인종 및 성별 편견을 보여주기 시작했을 때, 이것이 그러한 시스템을 고안한 AI 개발자의 결과였음에 틀림없다는 엄청난 항의가 있었습니다. AI 개발자들의 의도적인 행위라는 지적도 나왔다. 그러나 다른 사람들은 AI 개발자가 다양성이 부족하고 따라서 부주의하거나 생각 없이 기존 편견이 AI 프로그래밍 노력으로 이어지도록 허용했다고 제안했습니다.

많은 AI 팀의 경우 프로그래밍 그룹에 새로운 구성원이 추가되는 경우를 포함하여 동료 개발자 간의 다양성 보장에 대해 더 잘 인식하게 되었습니다. 또한 AI 개발자의 다양성 인식을 높이기 위해 특별 교육 과정을 개설했습니다. 다양성 측면을 포괄하는 AI 개발 방법론도 있어 AI 프로젝트가 시스템에 편향과 불평등을 주입하는 것을 주의하도록 명시적으로 안내합니다.

거의 아무도 아직 AI에 대한 정치적 편향 유형에 대해 알지 못하지만, 결국 그것이 눈에 띄게 증가하고 목소리가 소란을 일으킬 가능성이 있습니다. 다시 한 번 AI 개발자에 대한 면밀한 조사가 있을 것입니다. 일부는 의도적으로 자신의 정치적 성향을 주입하는 반면 다른 일부는 자신도 모르게 그렇게 할 수 있습니다.

AI 개발자가 AI에 편향을 도입한 유일한 출처라고 가정하는 초점은 AI 편향이 발생하는 전체성을 놓쳤다고 감히 말할 수 있습니다. 머신 러닝(ML)과 딥 러닝(DL)의 사용이 AI 내부 편향 측면에도 주목할만한 기여자가 되었다는 점진적인 인식이 있었습니다.

기계 학습 및 딥 러닝은 전산 패턴 매칭 기술 및 기술입니다.

ML/DL에 입력하려는 데이터를 어셈블하면 제공된 데이터 세트에서 계산적으로 수학적 패턴을 찾습니다. 이렇게 계산된 패턴을 기반으로 ML/DL을 사용하여 안면 인식을 할 수 있습니다. 얼굴 인식을 위해 우리는 많은 사람들의 사진을 입력할 수 있으며 ML/DL은 코의 모양과 크기, 입과 입술의 모양과 크기와 같이 얼굴을 인식할 수 있게 만드는 주요 특징을 계산합니다. , 이마의 모양과 크기 등.

이 계산적 접근 방식은 어떤 유형의 편향 영향도 넘어서는 것처럼 보입니다. 모두 계산일 뿐입니다.

아하, 하지만 "훈련" 또는 계산 패턴 일치의 일부로 ML/DL에 그림(또는 무엇이든)을 공급하고 있다는 점을 기억하십시오. 얼굴 인식의 경우 특정 인종의 사람들을 보여주는 사진을 주로 제공하는 경우 컴퓨터 패턴 매칭이 이러한 얼굴 측면을 향해 연마될 가능성이 있습니다. 나중에 이 안면 인식 시스템을 널리 사용한다고 가정하면 ML/DL 패턴이 훈련에서 주로 발견되는 인종을 중심으로 형성되기 때문에 이를 사용하고 다른 인종인 사람들은 수학적으로 "인식"될 가능성이 적을 수 있습니다. 세트.

따라서 ML/DL의 "편향되지 않은" 수학적 접근 방식이 어떻게 왜곡될 수 있는지 분명히 알 수 있습니다(다른 방법도 있지만 여기서는 이 큰 방법만 언급하겠습니다). AI 개발자가 의도적으로 인종적으로 불균형한 데이터 세트를 만들었습니까? 비록 그들이 그렇게 했다는 사실을 깨닫지 못했다는 것이 여전히 충분한 변명거리가 되지는 못하지만, 이것이 고의적인 행동은 거의 아니라고 제안하고 싶습니다.

요즘에는 ML/DL을 사용하는 사람들이 훈련에 어떤 데이터를 사용하고 이것이 어떤 결과를 가져오는지에 대해 더 신중하게 만들려는 노력에 대한 강력한 압박이 있습니다. 불행하게도 모든 사람이 ML/DL 악대차에 뛰어들었고 ML/DL 맨틀을 차지한 이러한 많은 초보자 또는 비행 밤은 편향이 주입되고 있음을 인식하지 못한 채 그렇게 하고 있습니다. 의도적으로 그렇게 할 수 있는 나쁜 배우도 있을 수 있지만, 그들이 거의 없기를 바랍니다.

전술한 내용을 통해 오늘날의 AI에 편견을 주입하는 것과 관련된 AI 윤리 측면에 대해 최신 정보를 얻을 수 있었다고 믿습니다.

계속해서 전체 shebang을 반복하여 편견의 일반적인 개념을 정치적으로 내재된 성향의 특정 표시로 대체하십시오. 나는 이미 AI 개발자 자신이 프로그래밍된 AI가 하는 일에 자신의 정치적 성향을 명백하게 또는 부주의하게 전달할 수 있다고 언급했습니다. 내가 제기한 또 다른 측면은 머신 러닝과 딥 러닝을 사용하기 위해 의도적으로 또는 우발적으로 특정 정치적 차원에 맞는 패턴을 전달할 수 있는 훈련 데이터를 선택할 가능성이 있다는 것입니다.

글쎄요, 저는 이 칼럼을 조금 길게 쓰고 있습니다. 일종의 정치적 성향 웜홀(많은 칼럼 게시물에서 이러한 문제에 대한 광범위한 내용은 여기 링크 참조).

AI 자율주행차에 대해 잘 알려지고 자주 논의되는 한 가지 잠재적인 형평성 문제는 로보택시 사용과 누가 이 새로운 서비스형 이동성 옵션에 액세스할 수 있는지에 관한 것입니다. 부유층만이 로보택시를 이용할 수 있고, 따라서 저소득 계층은 무인 자동차의 부상하는 시대에서 제외될 것이라는 우려가 있습니다(이에 대한 자세한 보고서는 여기 링크 참조). ).

그 양심에서 또 다른 반전이 있습니다.

자율주행차가 도시를 돌아다니며 승차 요청을 기다리고 있다고 상상해 보세요. 요청이 들어오면 근처에 있는 로보택시 자율주행차가 달려와 탑승자를 태운다. 라이더는 가고 싶은 곳을 표시하고 AI 운전 시스템은 목적지까지 가는 경로를 계획합니다. 그러면 AI 운전 시스템이 자율주행차를 원하는 목적지까지 운행합니다.

그 모든 것이 괜찮아 보입니다.

여기 표현된 냉정한 전율이 있습니다.

AI 구동 시스템이 더 억압받는 이웃을 피하는 경로를 고안하기로 선택했다고 가정합니다. 탐색 플로팅은 최소 거리 또는 최단 시간과 같은 최적의 경로만을 기반으로 한다고 가정할 수 있습니다. 그럴 수도 있고 아닐 수도 있고.

다른 요인으로는 자율주행차가 범죄 다발 지역으로 계산될 수 있는 지역을 통과할 가능성이 있습니다. 자율주행차와 탑승자에 대한 위험을 고려하여 어떤 경로를 택할지 고려 중일 수 있습니다.

자율주행차가 거의 항상 더 가난하거나 억압받는 지역사회를 불가분의 관계로 피할 것이라는 손짓이 있습니다. 자율주행차를 타는 사람들은 자신의 도시나 마을에 그러한 장소가 있다는 사실을 결코 깨닫지 못하는 것 같습니다. 이것은 차례로 그들이 그러한 공동체의 필요를 인식하지 못하게 만들 것입니다. 게다가 그 지역에 사는 사람들은 저렴하더라도 자율주행차를 사용할 기회를 거의 얻지 못할 수 있습니다. 로보택시가 그들 한가운데 돌아다니는 일은 없을 것입니다.

이러한 편향은 개발자의 의도적인 AI 프로그래밍으로 인해 발생합니까?

반드시 그런 것은 아니지만 그럴 수도 있습니다.

머신 러닝과 딥 러닝의 사용으로 인해 이러한 편향이 발생했을까요?

물론 고려된 가능성입니다.

AI 구동 시스템은 경로를 매핑할 때 진행할 위치에 대한 교육용 데이터를 사용하는 ML/DL을 기반으로 할 수 있습니다. 해당 데이터가 특정 영역을 피하는 방향으로 형성되었다면 ML/DL은 그러한 패턴을 감지하고 이를 계속 진행할 것입니다. 시간이 지남에 따라 이러한 데이터가 자율 주행 자동차가 외출하면서 더욱 축적된다고 가정하면 이후에 업데이트 및 유지에 사용되는 데이터는 동일한 짜임새 패턴을 더욱 강화할 것입니다.

이전 패턴의 사용이 반복적으로 제자리에 설정됨에 따라 패턴이 합성된다고 말할 수 있습니다. 일종의 눈덩이 또는 계속 나선형 효과입니다.

어떤 식으로 말하면, 운전할 위치에 대한 이 겉보기 편향은 잠재적인 AI 정치 내장 경향이 어떻게 발생할 수 있는지에 대한 예라고 해석할 수 있습니다. 한 가지 관점은 AI가 이러한 편애를 계속 유지하도록 하는 것입니다. 또 다른 하나는 범위를 벗어난 패턴 일치 영역으로 의도적으로 진입하도록 AI를 수정하는 것인데, 이는 AI에 주입되고 있는 아마도 정치적으로 기울어진 자세라고 다시 한 번 주장할 수 있습니다.

모두 말해, AI는 전시 정치적으로 기울어지는 경향이거나 사물의 정치에 대한 유사성이 있는지 여부에 관계없이 적어도 그렇게 인식됩니다.

결론

제기될 수 있는 이러한 종류의 예가 많이 있습니다.

나는 자율주행차 맥락에 머물면서 또 다른 간단한 예를 들겠습니다. 승객이 AI 자율주행차 로보택시를 타고 시내 법원에서 열리는 정치 집회에 가기 위해 승강기를 요청했다고 가정해보자. AI 운전 시스템은 라이더를 그곳으로 데려가는 것을 거부합니다.

이유는 무엇입니까?

정치 집회를 목적지로 삼아 수집한 이전 데이터에서 자율주행차가 교통 체증에 휩싸였다고 상상해 보십시오. 이것은 자율주행차가 교통 체증의 긴 대기 시간과 대기 시간에 대해 더 낮은 요금을 부과하기 때문에 라이더로부터 돈을 벌 수 없다는 것을 의미한다고 가정합니다. ML/DL을 사용하는 것과 같은 AI 알고리즘은 정치적 집회에 가는 것이 신랄한 돈벌이 선택이라고 계산적으로 결정할 수 있습니다. 그래서 로보택시가 정치 집회에 가자는 요청이 오면 거절당한다.

이것이 어떻게 정치적 동기가 있는 선택으로 보일 수 있는지 알 수 있다고 생각합니다. AI는 어떤 방식으로든 정치적 동기를 직접적으로 사용하지는 않을지 모르지만, 어쨌든 정치적 선택을 하는 것으로 보입니다.

우리가 곧 AI의 정치적 성향에 대한 정치적 반발에 직면하게 될 것이라는 데 가장 낮은 금액을 걸 수 있습니다. 내 말을 기억해!

그리스의 유명한 시인이자 극작가인 아리스토파네스는 모든 돌 아래에 정치가가 숨어 있다고 주장했습니다. 오늘날의 세계에서, 모든 AI 시스템에는 당신이 알고 있든 없든 숨어 있는 정치적 성향이 숨어 있을 가능성이 있습니다.

그 돌을 뒤집기 시작하는 것이 좋습니다.