AI 알고리즘을 규제하는 이유는 생각보다 간단합니다

인공지능이 세상을 지배할까봐 걱정되시나요? 많은 사람들이 그렇습니다. 엘론 머스크의 고민 중 DeepMind가 고급 바둑 게임에서 인간을 이겼습니다. 2017년에는 의회 의원, 유럽 정책 입안자에게(참조: 인공 지능에 대한 유럽의 접근 방식) 및 학계에서는 올해가 AI를 진지하게 받아들이는 XNUMX년이 되었으며 자리를 잡아가고 있다는 느낌이 있습니다. 하지만 당신이 생각하는 이유 때문도 아니고 현재의 위협 때문도 아닙니다.

이것이 알고리즘이 등장하는 곳입니다. 알고리즘이 무엇인지 물어볼 수 있습니까? 이를 생각하는 가장 간단한 방법은 기계가 이해하고 배울 수 있는 일련의 명령으로 생각하는 것입니다. 우리는 이미 기계에게 데이터를 계산하고 처리하며 체계적이고 자동화된 방식으로 추론하도록 지시할 수 있습니다. 그러나 문제는 일단 지시가 주어지면 기계가 그 지시를 따른다는 것입니다. 지금은 그게 핵심입니다. 인간과 달리 기계는 지시를 따릅니다. 그 사람들은 그런 걸 잘 배우지 못해요. 하지만 일단 그렇게 하면 문제가 발생할 수 있습니다.

나는 컴퓨터가 언젠가 인간 지능을 능가할 것이라는 생각에 대해 선정적인 주장을 하고 싶지 않습니다. 특이점 주장으로 더 잘 알려져 있습니다(NYU 철학자 David Chalmers의 주제에 대한 묵상.) 오히려 제조는 AI 알고리즘이 일반 대중에게 더 중요해지기 시작한 이유를 보여주는 가장 좋은 예일 수 있습니다. 사람들은 기계가 우리를 희생시키면서 그 능력을 엄청나게 가속화할 것이라고 두려워합니다. 반드시 고급 추론에 의한 것이 아니라 알고리즘이 말하는 범위 내에서 최적화되기 때문입니다.

제조업은 물건을 만드는 일이다. 하지만 기계가 물건을 만들 때는 주의를 기울여야 합니다. 기계가 만드는 것이 단순하더라도. 이유를 설명하겠습니다.

장화부터 휴대폰까지

예를 들어, 한 공장에서 장화를 만들고 있다고 가정해 보겠습니다. 저는 비가 많이 내리는 노르웨이 지역에서 자랐기 때문에 장화를 좋아합니다. 나는 밖에 있는 것을 좋아하며 자연의 많은 요소에 영향을 받습니다. Nokia는 제가 어릴 때부터 즐겨 사용했던 장화를 만들었습니다. 예, 오늘날 우리가 고무 장화를 만드는 데 사용된 전자 회사로 알고 있는 Nokia입니다. 이 열쇠는 왜 있는 걸까요? 일단 무언가를 만들면 개선하고 싶게 마련이기 때문입니다. 말이 되네요. 그게 인간의 본성이라고 할 수 있죠.

Nokia에 일어난 일은 잘 알려져 있으며 다음과 같습니다. 제가 어렸을 때 제지 공장에서 시작하여 고무 장화(및 타이어)를 제조하는 회사는 특히 성공했습니다. 그러나 그들은 더 많은 기회를 보았습니다. 그러다가 1980년대 어느 시점부터 전자제품으로 방향을 전환하고 공장을 급격하게 바꾸면서 휴대폰을 만들기 시작하면서 현지 공급업체라는 큰 구조를 구축하게 됐다. 이는 스칸디나비아에서 시작되어 전 세계로 확산된 모바일 통신 혁명을 가져왔습니다. 당연히 많은 사람들이 1990년대 Nokia의 이야기를 썼습니다. 핀란드 기적의 비밀: 노키아의 부상).

내 예는 간단합니다. 어쩌면 너무 단순할 수도 있습니다. 하지만 이렇게 생각해 보세요. 대기업이 글쓰기를 위해 종이를 만드는 것에서 비를 맞을 때 더 쉽게 사용할 수 있는 부츠로, 마지막으로 인간의 의사소통 방식을 바꾸는 휴대폰으로 빠르게 전환할 수 있다면 다음 단계는 얼마나 쉬울까요? 휴대폰을 제조하는 회사가 나노봇을 만들기로 결정했다고 가정해 보세요. 아마도 XNUMX년 안에 나노봇이 이륙하여 인간의 경험을 재조립하고 변경할 수 있는 자율적으로 어디든 돌아다니는 작은 기계로 인류를 변화시킬 수 있을 것입니다. 우리가 원하는 방식, 책임자가 누구인지, 궁극적인 목표를 고려하지 않고 그런 일이 발생하면 어떻게 될까요?

로봇이 노키아가 휴대폰을 만들기로 결정하는 데 의식적으로 도움을 주었다고 제안하는 것은 무리일 것입니다. 그러나 북부 해안에 있는 핀란드 농촌 지역이 새로운 산업에서 세계 지배권을 얻을 수 있다고 생각하게 만드는 데 기술이 중요한 역할을 했다는 사실을 인정하는 것이 중요한 역할을 합니다.

Nokia의 이야기는 소프트웨어 기반 iOS 및 Android 운영 체제의 출현을 고려하지 않았기 때문에 최근 XNUMX년 동안 그다지 장밋빛이 아니었습니다. 결과적으로 이제 Nokia는 더 이상 휴대폰을 만들지 않습니다. 약간의 복귀 이야기를 통해 그들은 이제 네트워킹 및 통신 인프라, 네트워크 보안 솔루션, Wi-Fi 라우터, 스마트 조명 및 스마트 TV를 만들고 있습니다(참조: 노키아의 컴백 스토리). 노키아는 아직도 뭔가를 만들고 있어요. 그건 사실이에요. 유일하게 관찰할 수 있는 점은 Nokia가 항상 자신이 만드는 것을 혼합하는 것을 즐기는 것 같다는 것입니다. 인간의 제조 결정조차도 때때로 이해하기 어렵습니다.

제조란 사물을 만드는 것을 의미하며, 사물이 진화한다는 것을 의미합니다. 오늘날 우리가 만드는 제품은 불과 3년 전과 크게 달라졌습니다. 3D 프린터는 산업계와 가정 모두에서 많은 첨단 제품을 분산 생산했습니다. XNUMXD 프린팅이 삶을 변화시키는 결과는 아직 발생하지 않았습니다. 이것이 지속될지는 알 수 없지만 FDA의 초점이 제품 제조 규제에 있다는 것은 알고 있습니다(참조: 여기에서 지금 확인해 보세요.) 인쇄된 알약이나 그에 따른 의료 기기, 명백한 지적 재산권 및 책임 문제, 총기 인쇄 가능 여부와 관련된 문제 등이 있습니다. 궁극적으로 3D 프린팅이 이보다 어떤 부정적인 결과를 가져올 수 있는지에 대한 정책 논의는 존재하지 않으며 우리 중 이에 대해 생각하는 사람도 거의 없습니다.

나는 3D 프린팅이 그 자체로 위험하다고 주장하는 것이 아닙니다. 아마도 이것은 나쁜 예일 것이다. 그럼에도 불구하고, 처음에는 평범해 보이는 것들이 세상을 바꿀 수 있습니다. 전쟁을 시작하는 금속으로 만든 수렵채집인의 화살촉, 코로나19로부터 우리를 보호하는 의식 마스크, 고층 건물을 짓는 못, (여전히) 우리 공장을 인쇄된 종이로 채우고 기계에 전력을 공급하는 이동식 인쇄기 등 많은 예가 있습니다. 출판 사업, 밤에도 내부를 보고 일할 수 있게 해주는 전구라면 계속할 수 있을 것 같아요. 내가 아는 사람 중 누구도 1800년대 후반에 노키아가 생산을 종이에서 고무, 전자제품으로 옮기고 휴대폰에서 멀어질 것이라고 예측하지 않았습니다. 아마도 그랬을 것입니다.

인간은 단계적 변화, 즉 하나의 변화가 더 많은 변화로 이어지고 갑자기 상황이 근본적으로 달라지는 과정을 잘 예측하지 못합니다. 우리는 지수 변화에 대한 실질적인 지식이 거의 없기 때문에 아직 이 과정을 이해하지 못합니다. 우리는 그것을 그림으로 그릴 수도, 계산할 수도, 헤아릴 수도 없습니다. 그러나 그것은 몇 번이고 우리에게 타격을 줍니다. 전염병, 인구 증가, 서적 인쇄에서 로봇 공학에 이르는 기술 혁신은 일반적으로 예고 없이 우리에게 닥칩니다.

미래주의의 비결은 '만약'이 아니라 '언제'입니다. 실제로 새로운 생산 방법을 선택하고 이러한 방법이 미래에 더욱 널리 퍼질 것이라고 언급하는 것만으로도 변화를 예측할 수 있습니다. 그것은 충분히 간단합니다. 까다로운 부분은 정확한 시기와 특히 방법을 파악하는 것입니다.

종이 클립이 문제가 아니야

제 공장 사례를 다시 생각해 보세요. 이번에는 기계가 모든 결정이 아닌 최적화와 같은 생산 결정을 비롯한 수많은 결정을 담당한다고 상상해 보세요. 그의 책에는 초 지능, 옥스포드 대학의 디스토피아적 인문주의자인 Nick Bostrom은 종이 클립 공장을 운영하는 AI 최적화 알고리즘을 상상한 것으로 유명합니다. 그는 어느 시점에서 기계가 계속해서 증가하는 자원을 작업에 전환하는 방법을 배우는 것이 합리적이라고 판단하여 점차적으로 세상을 종이 클립으로 바꾸고 그것을 끄려는 우리의 시도에 저항하게 된다고 상상해 봅니다.

똑똑한 사람임에도 불구하고 Bostrom의 예는 매우 멍청하고 오해의 소지가 있습니다(아직 기억에 남습니다). 첫째, 그는 인간과 로봇이 더 이상 별개의 개체가 아니라는 사실을 설명하지 못합니다. 우리는 상호 작용합니다. 대부분의 영리한 로봇은 협동로봇이나 협동로봇으로 진화하고 있습니다. 인간은 기계를 고칠 수 있는 많은 기회를 갖게 될 것입니다. 그럼에도 불구하고 그의 기본 요점은 남아 있다. 어느 시점에서 단계 변경이 있을 수 있으며, 해당 변경이 충분한 감독 없이 충분히 빠르게 발생하면 통제력을 상실할 수 있습니다. 그러나 그 극단적인 결과는 다소 무리한 것 같습니다. 어느 쪽이든, 우리는 이러한 기계를 작동하는 인간을 규제하고 작업자가 적절한 교육을 통해 항상 루프에 있도록 명령해야 한다는 데 동의합니다. 그런 훈련은 잘 안 돼요. 현재로서는 시간이 너무 오래 걸리며 훈련과 훈련 모두에 전문 기술이 필요합니다. 나는 한 가지를 알고 있습니다. 미래에는 다양한 사람들이 로봇을 조종하게 될 것입니다. 그렇지 않은 사람은 정말 무력할 것이다.

기계와 완전히 통합되지 않더라도 인간을 강화하는 것이 무의미한 자동화보다 낫습니다. 두 개념은 논리적으로 구별됩니다. 사람과 로봇 모두 자동화를 위한 자동화에 갇혀 있을 수 있습니다. 이는 앞으로 제조업에 큰 피해를 입힐 것입니다. 킬러로봇을 생산하지 않더라도 말이다. 나는 합병이 수백 년 뒤에 있을 것이라고 생각하지만 그것이 요점이 아닙니다. 단 XNUMX년만 지나면 통제력을 상실한 단순한 알고리즘으로 작동하는 자체 추진 기계가 작업 현장에서 이미 그런 시나리오를 겪고 있습니다. 그 기계 중 일부는 XNUMX년이 되었고 오래된 독점 제어 시스템에서 실행됩니다. 그들의 주요 과제는 그들이 발전했다는 것이 아니라 그 반대라는 것입니다. 그들은 너무 단순해서 의사소통이 불가능합니다. 이것은 내일의 문제가 아닙니다. 이는 기존의 문제입니다. 우리는 그것에 눈을 떠야 합니다. 다음에 고무 장화를 신을 때 이것에 대해 생각해 보십시오.

나는 아직도 1980년대의 Nokia 부츠를 가지고 있습니다. 구멍이 나 있지만 내가 어디에서 왔는지, 얼마나 걸어왔는지 기억하기 위해 보관합니다. 비도 계속 내리고, 충분히 깨끗하다면 그 부츠보다 더 나은 수리는 원하지 않습니다. 다시 말하지만 나는 인간이다. 로봇은 아마도 이미 움직였을 것입니다. 레인부츠의 AI 버전은 무엇인지 궁금합니다. 휴대폰이 아닙니다. 레인 센서가 아닙니다. 그것은 마음을 놀라게합니다.

오늘날의 디지털 부츠는 3D 프린팅 디자인이 있기 때문에 개인화할 수 있음을 의미합니다. 판매 및 거래가 가능한 NFT(대체불가 토큰)로만 존재하는 가상 신발이 있습니다. 요즘 최고의 가상 운동화의 가치는 10,000달러입니다(참조: NFT 운동화란 무엇이며 왜 10,000달러의 가치가 있나요?). 나는 그것들을 두려워하지 않지만 그래야합니까? 가상 세계가 실제 세계보다 더 가치있게 여겨지면 아마도 그럴 것입니다. 아니면 AI의 아바타가 "비"에 대처하기 위해 자체 NFT 부츠를 구입할 때까지 걱정해야 합니까? 우리가 우리 자신의 이미지로 알고리즘을 구축한다면, AI는 우리가 잘하기를 바라지만 일반적으로 그렇지 않은 일(주식 구매, 충실한 우정 구축(아마도 기계와 인간 모두와), 기억하기 등)에 능숙할 가능성이 더 높습니다. 것들. 산업 메타버스는 놀라울 정도로 정교할 수도 있고, 우리 세계를 모방하고 유익한 방식으로 이를 능가하는 디지털 트윈으로 가득 차 있을 수도 있고, 놀라울 정도로 단순할 수도 있습니다. 어쩌면 둘 다일 수도 있습니다. 우리는 아직 모릅니다.

우리는 앞으로 무슨 일이 일어날지 모르기 때문에 AI 알고리즘을 규제해야 합니다. 그 이유는 충분하지만, 우리가 그것을 어떻게 하는지에 대해서는 더 긴 이야기가 있습니다. 한 번 더 빠르게 관찰해 보겠습니다. 아마도 모든 기본 알고리즘은 공개적으로 제공되어야 할 것입니다. 그 이유는 그렇지 않다면 그것이 어떤 결과로 이어질지 알 수 있는 방법이 없기 때문입니다. 상위 항목은 꽤 잘 알려져 있습니다(참조: 상위 10가지 기계 학습 알고리즘), 그러나 어디서 어떻게 사용될지에 대한 전 세계적 개요는 없습니다. 특히 주의 깊게 관찰해야 하는 것은 비지도 알고리즘입니다(참조: 제조 분야의 기계 학습을 위한 XNUMX가지 강력한 사용 사례), 유지 관리나 품질을 예측하거나 생산 환경(예: 디지털 트윈)을 시뮬레이션하거나 인간이 결코 생각하지 못하는 새로운 설계를 생성하는 데 사용됩니다. 오늘날의 환경에서 이러한 비지도 알고리즘은 일반적으로 인간의 두뇌를 모방하려는 소위 인공 신경망입니다.

나는 신경망에 대해 걱정하기 시작했습니다. 그 이유는 그 논리를 이해하기 어렵기 때문입니다. 문제는 대부분의 전문가, 심지어 이를 배포하는 전문가조차도 이러한 알고리즘이 단계에서 단계로 또는 레이어에서 레이어로 이동하는 방식을 이해하지 못한다는 것입니다. 흔히 사용되는 '히든 레이어'라는 비유는 그다지 적절하지도, 아주 재미있지도 않다고 생각합니다. 우선 제조, 자동화된 세금 징수, 채용 결정 또는 대학 입학 과정에 숨겨진 레이어가 있어서는 안 됩니다. 어쩌면 당신도 걱정하는 것을 고려해야 할까요? 한 가지 확실한 것은 인간과 기계가 함께 만들어가는 것이 세상을 바꿀 것이라는 점입니다. 이미 여러 번 끝났습니다. 종이부터 장화, 그리고 오늘날의 인공 두뇌까지, 탐험하지 않은 것이 하나도 남아 있어서는 안 됩니다. 우리는 작은 변화가 많아도 갑자기 더 큰 변화가 나타날 수 있다는 단순한 사실을 숨기지 말아야 합니다.