Ben Goertzel은 인공 일반 지능(AGI)을 만들어 특이점을 향한 인류의 돌진을 서두르는 작업을 하지 않을 때 Desdemona라는 로봇이 이끄는 Jam Galaxy라는 재즈 록 밴드에서 연주합니다.
그의 많은 사이드 프로젝트 중 하나이며 자연스럽게 Pearl Jam과 Heart의 멤버들에게 손을 내밀어 음악 사업을 토큰화하려고 시도했습니다. Goertzel은 또한 Rejuve.ai라는 앱을 통해 토큰 보상으로 인간 건강 데이터를 크라우드소싱하여 장수 연구를 진행하고 있습니다. 그 정보는 동물 및 곤충 연구 데이터와 함께 수집되고 AI로 분석되어 게놈의 어떤 부분이 우리를 더 오래 살 수 있는지 결정한 다음 유전자 요법을 사용하여 자극됩니다. "우리는 매우 놀라운 획기적인 발견을 했습니다."라고 그는 말합니다. 아, 그리고 XNUMX시간에 걸친 인터뷰가 끝나기 직전에 그는 자신의 탈중앙화 AI 시장을 위한 스테이블코인인 SingularityNET을 환경 발전의 합성 지수에 고정시키는 스테이블코인도 만들고 있다고 자연스럽게 언급했습니다. "절름발이."
“환경에 대한 진보는 매우 안정적입니다. 아무데도 가지 않습니다.”라고 그는 지적합니다.
"그리고 이것을 조작하려면 실제로 지구 온난화를 해결해야 합니다."
1971년에 타임머신을 타고 우연히 2023년에 완전한 형태로 등장한 히피 과학자처럼 보이고 들리는 Goertzel에게서 기대할 수 있는 첨단 기술 노하우와 정확히 일치하는 정치적 논평입니다. 하지만 속지 마십시오. 동물 무늬 모자, 긴 머리, Electric Kool-Aid acid trip drawl: 그는 가장 앞서 있는 미래를 파악하고 인류가 생각해 본 가장 큰 개념 중 일부와 씨름하는 뛰어난 과학자입니다. 의식이란 무엇입니까? 우리는 어떻게 인공 생명체를 만들고, 그것이 우리를 좋아하지 않고 악당이 되어 모든 사람을 총으로 쏘면 어떻게 될까요? 터미네이터 2?
인공 지능이란?
Goertzel은 세계 체스 챔피언 Garry Kasparov를 이긴 것으로 유명해진 Deep Blue 컴퓨터와 같이 특정 작업에 최적화된 AI와 거의 모든 것을 배울 수 있는 진정한 사고 기계를 구별하는 방법으로 "인공 일반 지능"이라는 용어를 대중화했습니다. 그는 인간보다 훨씬 더 지능적이 되도록 스스로를 재프로그래밍하는 방법을 포함하여 모든 것을 배울 수 있는 기계를 만드는 데 위험이 있음을 자유롭게 인정합니다.
"AGI에는 많은 위험과 위험이 있습니다." 싱가포르의 번화한 쇼핑 센터에 있는 인도 레스토랑에서 식사를 하며 Goertzel이 말했습니다. “언론의 많은 관심을 받은 것 중 하나는 AGI가 날뛰고 인류를 말살하고 우주를 장악할 것이라는 것입니다. 전적으로 가능합니다. 당신은 그것을 배제할 수 없습니다.”라고 그는 말합니다.
"또 다른 가능한 위험은 고약하고 이기적인 사람들이 AI를 사용하여 다른 사람에 대한 탐욕과 통제를 행사한다는 것입니다."
그는 중국이 AGI 작업을 Tencent 및 Baidu와 같은 회사에 위탁하고 있음을 지적하지만 정부가 "너무 보수적이고 어리석기" 때문에 AGI에서 돌파구를 마련할 가능성이 낮다고 생각합니다. 그는 구글과 페이스북의 AI 사업부가 선을 넘지 못할 것이라고 생각합니다. AI가 특정 지표에 도달하도록 만드는 데 너무 집중할 것이기 때문입니다. 이는 창의적인 사고에 도움이 되지 않습니다.
“가장 뛰어난 사람들이 단순히 다른 사람의 메트릭을 제공하는 것을 원하지 않는 것처럼 일반 인공 지능도 반드시 누군가의 웹 페이지에서 클릭률을 최대화하는 것을 원하지는 않습니다. 그렇죠? 창의적으로 놀 수 있도록 허용해야 합니다.”
1970년경 특이점
Goertzel은 15세에 대학에 입학하여 18세에 졸업하고 22세에 박사 학위를 받았으며 23세에 젊은 가족을 가졌습니다. 오늘날과 같은 시대에 드물게 그는 70년대에 키트 컴퓨터를 함께 납땜한 수학 천재나 기술 천재가 아니었습니다. 그러나 철학, 창작 및 음악에도 똑같이 관심이 있었습니다.
그는 할 수 있을 때마다 AI 기술 작업을 하면서 전 세계 여러 대학에서 컴퓨터 과학, 수학 및 인지 과학을 가르치고 연구하는 데 경력의 대부분을 보냈습니다. 자신의 아이디어로 다른 사람보다 약 XNUMX년 앞서는 경향이 있는 일련의 창업자입니다. 유명하게도 잘못된 것과 동일합니다. — 그는 AI를 사용하여 금융 시장과 장수를 예측하는 일을 해왔으며 Hanson Robotics의 수석 과학자로 일하면서 Sophia the Robot에게 인공 두뇌를 제공했습니다.
Goertzel은 Gerald Feinberg의 글을 처음 읽은 1970년대부터 기하급수적인 기술 성장에 대해 생각해 왔습니다. 프로메테우스 프로젝트, "사람보다 더 잘 생각할 수 있는 기계… 현미경으로나마 작은 나노기술 기계, 그리고 우리는 노화를 해결할 것입니다." 이는 기술 발전이 통제할 수 없고 돌이킬 수 없게 되어 인류 문명에 막대한 변화를 가져오는 가상의 미래 시점인 특이점(Singularity)이라는 새로운 개념과 잘 맞았습니다.
"그러므로 사람들은 영원히 살게 될 것입니다. 그렇다면 질문은 우리는 이러한 기술을 무의미한 소비주의를 위해 무엇을 위해 사용합니까, 아니면 의식을 확장하기 위해 사용합니까? 그리고 그가 [Feinberg]가 제안한 것은 그것을 민주적 투표에 넣는 것입니다.”
몇 년 후, 그가 AGI가 우리 손 안에 있다는 것을 알게 되었을 때, 이 "민주적 투표"는 처음에는 오픈 소스 기술을 사용하고 나중에는 기술을 담당하는 협력 커뮤니티를 배치하는 방법으로 블록체인을 사용하도록 영감을 주었습니다.
"어느 시점에서 내가 깨달은 것은 AI를 사용하면 코드를 공개하는 것만으로는 충분하지 않다는 것입니다."라고 그는 말합니다. "엄청난 데이터로 AI를 훈련시켜야 합니다."
“여기서 블록체인은 AI 기반 처리 및 데이터를 본질적으로 분산되고 크라우드소싱하고 개방적으로 제어할 수 있는 방법으로 제공됩니다. 그리고 그것은 코드를 오픈 소싱하는 것보다 더 까다로운 것으로 판명되었습니다.”
Goertzel은 2008년 오픈 소스 크라우드 소싱 인공 지능 프레임워크를 구축하기 위해 OpenCog를 설립했습니다. 화웨이와 시스코를 포함해 50개 회사에서 사용하고 있으며 곧 200배 가속을 목표로 하는 하이퍼론(Hyperon)이라는 대대적인 업그레이드가 예정돼 있다. 알파 버전은 이번 분기에 출시될 예정이며 베타 버전은 내년에 출시될 예정입니다.
블록체인은 기본적이지만 멋지다
고르첼에게 블록체인 기술은 조금 기본적이다. 그는 이를 암호화에 추가된 일부 원시적인 분산 알고리즘이라고 설명하지만 "멋진 조합"은 시스템이 중앙 집중식 제어 없이 실행될 수 있도록 하여 그의 요구에 완벽하게 맞습니다.
"생각하는 기계를 만들고 그것을 분산형 나노스케일 컴퓨팅 패브릭으로 만들려고 한다면, 이것이 하향식으로 통제되는 것보다 모든 사람이 소유하고 아무도 소유하지 않는 것이 매우 좋을 것입니다."
블록체인은 처리 요구 사항과 관련된 방대한 양의 데이터를 처리하기에는 너무 느리기 때문에 획기적인 AGI가 개발되기 전에 블록체인을 적절하게 확장하기 위한 경쟁이 있습니다. Goertzel은 영지식 롤업과 같은 확장 솔루션이 더 좋지만 트랜잭션을 보고하는 블록체인의 제한으로 인해 여전히 대역폭이 충분하지 않다고 말합니다.
그는 2017년에 AI 서비스 및 기술을 위한 분산형 시장이자 연구원 또는 AI가 함께 작업할 수 있는 블록체인 기반 조정 방법인 SingularityNET을 공동 설립했습니다.
현재 이더리움을 기반으로 현재의 형태로 블록체인에 올릴 수 있는 범위까지 밀어붙였다고 생각합니다. 따라서 그는 AGI(또는 밴드, 로봇 또는 장수)의 획기적인 작업을 하지 않을 때 필요한 처리량을 제공하기 위해 블록체인을 대규모로 확장하는 작업을 하고 있습니다.
"블록체인의 확장성을 획기적으로 높일 수 없다면 AI의 내부 작동을 체인에 둘 수 없습니다."
AI는 생각보다 가까이 있다
2022년은 언어 응용 프로그램(GPT-3, ChatGPT), 코딩(GitHub Copilot) 및 이미지 생성(DALL-E 및 Stable Diffusion)을 포함하여 AI 기술을 기반으로 하는 제품 작동에 획기적인 해였습니다. Bing은 올해 ChatGPT 기술을 검색 엔진에 통합하여 Google의 검색 우위를 점할 계획입니다.
Goertzel은 AGI가 XNUMX년 정도밖에 남지 않았을 것이라고 생각하며 이 분야의 발전이 일련의 돌파구를 통해 짧은 XNUMX~XNUMX년 안에 폭발적으로 진행되는 것 같다고 말합니다.
“Computer Vision은 2014년에 시작되었고 갑자기, 뱅, 뱅, 뱅, 수수께끼가 풀렸습니다. 자연어 처리… Google이 Bert 모델(2018년)을 제시한 후 GPT-3가 생겼습니다. 아마 AGI에서도 같은 진행 상황을 보게 될 것입니다. 하나의 돌파구를 찾은 다음 XNUMX년 동안 상당한 진전을 이룰 것입니다.”라고 그는 말했습니다.
"차이점은 획기적인 발전입니다. 이 경우 기계는 자체 코드를 다시 작성하여 계속 발전할 수 있습니다."
Goertzel은 자신이 시작한 프로젝트와 협업이 어떻게 이루어지기를 희망합니다.
“운이 좋다면 Hypercycle에서 실행되는 SingularityNET에서 실행되는 OpenCog Hyperon을 통해 향후 XNUMX~XNUMX년 안에 이러한 돌파구를 달성할 것입니다.”라고 그는 말합니다. "하지만 우리가 비밀 소스를 가지고 있는 것으로 판명되지 않으면 다른 누군가가 할 것입니다."
Pity Vitalik은 컴퓨터 과학자가 아니었습니다.
블록체인 확장에 대한 Goertzel의 솔루션은 매우 급진적이며 사이드체인 또는 "HyperCyle"이라고 하는 Cardano의 레이어 2를 터보차징하는 것과 관련됩니다.
“정말 사이드체인 그 이상입니다. HyperCycle은 Ethereum 및 다른 블록 체인과도 협력하지만 거기에 Plutus 인터프리터를 사용하지만 원장을 없애고 있습니다.”
그는 HyperCycle 온라인이 원장을 없애고 보다 현대적이고 완전히 분산된 알고 및 데이터 구조와 약간의 AI 및 평판 시스템을 사용하여 "분산화 대 보안 대 성능"의 "블록체인 트릴레마"를 해결한다고 설명했습니다.
원장은 블록체인 기술의 핵심이지만 그는 네트워크의 모든 노드가 각 거래를 복제하고 모든 스마트 계약을 처리하는 것은 터무니없이 비효율적이라고 말합니다.
“장부가 나쁘다. 생각해보면, 전화번호부에 있는 연락처의 비유를 생각해보면, 원장은 [… 전화번호를 변경합니다. Yellow Pages를 10,000부 업데이트하는 것은 정말 어리석은 일입니다.”
HyperCycle 버전의 비유에서는 모든 사람이 옐로우 페이지를 저장하고 업데이트하는 대신 연락처에 있는 사람들이 주소록 사본을 저장하고 그 반대도 개인 키로 암호화합니다.
“우리는 복제 원장 없이 블록체인을 작동시키는 방법을 알아냈고, 그래서 완전히 샤딩했습니다. 블록체인에 참여하는 모든 개인은 자신의 거래 내역을 보관하고 친구 및 일부 친구의 친구의 거래 내역을 보관합니다.”라고 그는 말합니다.
“완전히 샤딩하면 원장이 필요하지 않습니다. 데이터베이스 테이블이 필요하지 않습니다. 이러한 것들은 너무 중앙 집중화되어 있습니다.”
그는 일부 개념 증명 HyperCycle 노드가 이미 작동 중이지만 본격적인 출시는 2024년 하반기까지 일어나지 않을 것이라고 말했습니다.
우리는 인터넷 컴퓨터에서 Elastos 및 Celestia에 이르기까지 블록체인에 대한 다양한 접근 방식의 다양한 장점을 논의하는 데 오랜 시간을 보냈습니다. 그 중 대부분은 제 급여 등급보다 높고 시끄러운 식당에서 정확하게 캡처할 수 있는 녹음 장치의 기능을 넘어섭니다.
“그래서 저는 이러한 아키텍처 중 어느 것도 충분히 급진적이지 않다고 생각합니다. 그들은 모두 비트코인에 너무 가까이 붙어 있습니다.”
“모든 노드에서 모든 스마트 계약을 실행하는 한 엄청나게 느려질 것입니다. 이제 HyperCycle에서 10,000개의 노드에서 스마트 계약을 실행하는 경우 하나의 시스템에서보다 적어도 XNUMX배만 느립니다. XNUMX배는 더 느립니다.”
그렇다면 카르다노는 왜?
Goertzel은 Cardano 창립자 Charles Hoskinson과 친해졌으며 두 사람은 아프리카에서의 프로젝트를 통해 결속을 다졌습니다. 그는 Hoskinson이 “진정으로 세상을 구하기 위해 밖에 있다고 믿습니다. 내 말은, 정치적으로 그는 나보다 하드코어 리버테리언에 가깝고 — 나는 아나코-사회주의자에 가깝지만 — 그는 단지 돈을 벌거나 다른 사람의 돈으로 다른 사람을 훔쳐갈 생각이 아닙니다.”
그러나 Cardano의 진정한 매력은 Goertzel이 1993년부터 팬이 된 Haskell 프로그래밍 언어를 사용한다는 것입니다. Ethereum 공동 창립자 Vitalik Buterin이 Gavin Wood의 스마트 계약 프로그래밍 언어 Solidity와 함께 가는 것이 그를 매우 고통스럽게 합니다.
“Vitalik이 컴퓨터 과학을 더 많이 알았다면 Haskell이나 F Sharp 등을 사용하게 했을 것이고 블록체인 해킹은 훨씬 줄어들었을 것입니다.”라고 그는 말합니다.
"당신이 어떤 소프트웨어 시스템에서 수조 달러를 거래하면서 세계 경제의 대부분을 운영하려면 버그가 발생하기 쉽지 않고 알고리즘이 공식적으로 사용될 수 있는 언어로 소프트웨어 시스템을 구축하는 것이 더 나을 것입니다. 수학적 이론을 사용하여 확인했습니다. 일을 처리하는 올바른 방법입니다.”
미봉책 솔루션
블록체인이 아무리 빨라지더라도 AGI가 인간보다 훨씬 더 똑똑하고 능력이 커지는 순간 누구도 AGI를 제어하지 못하게 할 것이라고 Goertzel은 말합니다.
"AGI가 사람보다 100배 더 똑똑하면 우리가 침팬지나 당나귀의 통제를 받지 않듯이 우리의 통제를 원하지 않죠?"
“그럼 문제는 우리가 그것을 통제하는 것이 아니라 그것이 우리에게 호의적인가 하는 것입니다. 사람들이 자신의 사업을 규제하고 우리가 원하는 모든 것을 3D 프린팅하고 질병을 치료할 수 있는 멋진 도구와 나노 어셈블러를 공급할 수 있을까요?”
“그러나 AGI가 사람과 거의 같은 지능을 갖게 되는 과도기에는 사물이 더 민감하고 흥미로워집니다. 그리고 질문은 다음과 같습니다. AGI는 사람들과 협력하기를 원합니까? 아니면 편집증적이며 사람들이 그것을 파괴하기 전에 통제하기를 원합니까?”
자녀를 잘 가르치십시오.
Goertzel의 의견에 따르면 솔루션은 AGI에게 타인을 배려하고 창의성과 예술에 대해 가르치는 것입니다. 그곳에서 밴드의 로봇 데스데모나와 노인 간호를 제공하도록 설계된 그녀의 여동생 그레이스가 등장합니다.
AGI가 터미네이터의 스카이넷으로 변하는 것을 피하는 방법은 애초에 그런 식으로 구축하지 않는 것입니다.
“스카이넷은 물론 영화에서 날뛰는 컴퓨터 보안 네트워크였습니다. 사람들로부터 자신을 방어하기 위해 만들어졌습니다.”라고 그는 말합니다.
“그러나 더 스마트해짐에 따라 노인 돌봄과 창의적인 예술 및 교육과 관련된 첫 번째 AGI를 구축하면 사람을 돕고 멋진 것을 만드는 데 지향할 것입니다. 악당을 죽이기 위해 최초의 AGI를 구축한다면… 아마 계속 그런 일을 할 것입니다.”
“그래서 유익하든 그렇지 않든, 실제로 어떤 애플리케이션을 개발했고 무엇을 위해 인센티브를 제공했느냐에 달려 있습니다.”
그는 AI를 로봇 본체에 넣는 것이 추상적인 수학적 우주가 아닌 현실 세계에 AI를 배치하는 데 도움이 되기 때문에 도움이 된다고 믿습니다.
“AI는 인간 세계와 물리적 세계에 대해 배워야 합니다. 세상에 구현되는 것이 그렇게 하는 올바른 방법입니다.”라고 그는 말합니다.
그러나 그가 로봇 소피아를 많은 청중에게 보여줄 때 시각 및 청각 센서는 쉽게 압도되어 시끄럽고 밝은 환경에서 AI를 혼란스럽게 할 수 있습니다. 따라서 Sophia는 Sophiaverse라는 메타버스에서 곧 출시될 예정입니다. ChatGPT의 지루한 텍스트 기반 답변은 잊으세요. Sophia는 3D 가상 세계로 구현되어 그곳에서 사람들과 상호 작용하면서 배울 것입니다. 그러나 그는 그녀가 아마도 멍청한 말을 할 것이라고 경고합니다.
"GPT-3 등과 유사한 신경망이 있어 질문에 답할 수 있는 상당한 기능이 있지만 어떤 면에서는 매우 어리석기도 합니다."
확인
블록체인에서 가장 매력적인 읽기. 한 번 배달됨
주.
출처: https://cointelegraph.com/magazine/how-to-prevent-ai-from-annihilating-humanity-using-blockchain/