생성 AI ChatGPT가 무한한 콘텐츠로 인터넷을 범람시킬 것이라는 것이 사실입니까? AI 윤리와 AI 법을 묻습니다.

영감을 주는 동화책을 아시나요 물 밖으로 나온 물고기?

매혹적인 책은 Helen Palmer(실명 Helen Palmer Geisel)가 썼고 Dr. Seuss(실명 Theodor Geisel)의 단편 소설을 기반으로 했습니다. 남편과 아내 팀은 아동 문학에 대한 전설적인 공헌을 하여 모든 곳의 젊은이들을 기쁘게 했습니다.

줄거리에 익숙하지 않거나 새로 고침이 필요한 경우 간략하게 요약하겠습니다. 한 소년이 동네 애완동물 가게에서 금붕어를 삽니다. 그는 작은 바다 생물에게 절대 너무 많이 먹이지 말라고 엄하게 지시합니다. 그렇게 하면 어떤 일이 일어날지 결코 알 수 없습니다.

소년은 실수로 금붕어를 한 번만 너무 많이 먹였지만 이로 인해 엄청난 양의 무제한 성장이 시작되었습니다.

상황이 상당히 잘못되기 시작합니다.

한때 작았던 물고기는 금새 어항을 넘어섰고 너무 커져서 소년은 사랑하는 애완동물을 집안의 욕조에 넣습니다. 물고기는 계속 자라고 자랍니다. 이것은 막을 수 없는 것 같습니다.

곧 경찰과 소방서가 소년을 돕기 위해 와서 코끼리 크기의 금붕어를 지역 공공 수영장으로 옮깁니다. 결국 애완동물 가게 주인이 도착하여 금붕어를 다시 원래 크기로 줄입니다. 우리는 이 마법 같은 위업이 어떻게 달성되었는지 모릅니다. 그 소년은 너무 많이 먹이지 않도록 다시 주의를 받습니다.

어려운 방법으로 배운 교훈.

우리는 인터넷의 미래에 관해서도 이와 같은 끔찍한 교훈에 주의를 기울여야 할 것입니다.

어떻게 그럴 수 있지?

오늘날의 현실은 우리가 인공 지능(AI)의 한 형태를 고안하여 인터넷을 방대하고 끝없이 쏟아지는 데이터로 확장하고 채울 수 있다는 것입니다. 손으로 하는 일이 많다. 제너레이티브 AI요즘 뉴스에서 가장 핫한 AI인 가 바로 그렇게 할 것입니다.

Generative AI는 인간 사용자가 입력한 간단한 프롬프트만으로 텍스트와 같은 출력을 생성하거나 생성할 수 있습니다. 몇 개의 잘 선택된 단어를 통해 완전하고 광범위한 에세이를 생성할 수 있습니다. OpenAI에서 XNUMX월에 출시한 ChatGPT로 알려진 널리 사용되는 AI 앱으로 인해 생성 AI에 대해 알고 계실 것입니다. 나는 이것에 대해 잠시 더 말할 것입니다.

어떤 사람들은 제너레이티브 AI가 겉보기에 무한한 양의 콘텐츠를 만드는 데 사용될 수 있다고 열렬히 경고해 왔습니다.

한 사람이 생성 AI를 쉽게 활용하여 단 한 번의 온라인 세션에서 수천 개의 에세이를 생성할 수 있으며, 최소한의 노동력으로 그렇게 할 수 있습니다. 그런 다음 생성된 에세이를 인터넷에 게시하도록 선택할 수 있습니다. 이 작업을 대규모로 수행한다고 상상해 보십시오. 본질적으로 이 값에 수백만 명의 인터넷 사용자를 곱하십시오. 생성된 콘텐츠의 진정한 쓰나미는 쉽게 생산되고 게시될 수 있습니다.

헹구고, 반복하고, 매일, 분 단위로 끊임없이 그렇게하십시오.

이것은 하늘이 무너지는 불안한 주장입니까, 아니면 타당한 장점이 있습니까?

오늘 칼럼에서는 생성 AI 콘텐츠로 인해 완전히 막히고 늪에 빠진 인터넷의 미래에 직면하고 있다는 표현된 우려를 다룰 것입니다. 우리는 이러한 불만의 근거를 살펴보고 일반적으로 언급되지 않는 몇 가지 잠재적인 장점을 고려할 것입니다. ChatGPT는 제너레이티브 AI의 600파운드 고릴라이기 때문에 이 토론 중에 때때로 ChatGPT를 언급할 것입니다. 하지만 다른 많은 제너레이티브 AI 앱이 있으며 일반적으로 동일한 전체 원칙을 기반으로 한다는 점을 명심하십시오.

한편, 실제로 생성 AI가 무엇인지 궁금할 수 있습니다.

먼저 제너레이티브 AI의 기본 사항을 다룬 다음 당면한 긴급한 문제를 면밀히 살펴보겠습니다.

이 모든 것에는 많은 AI 윤리 및 AI 법률 고려 사항이 있습니다.

윤리적 AI 원칙을 AI 앱의 개발 및 배치에 반영하려는 노력이 계속되고 있음을 인지하시기 바랍니다. AI를 고안하고 채택하려는 노력이 좋은 AI 그리고 회피 나쁜 인공 지능. 마찬가지로 AI 노력이 인권 등에 영향을 미치지 않도록 잠재적 솔루션으로 제안된 새로운 AI 법률이 있습니다. AI 윤리 및 AI 법에 대한 지속적이고 광범위한 내용은 다음을 참조하십시오. 여기 링크여기 링크, 다만 약간을 지명하기 위하여.

사회가 무수히 많은 AI 유발 함정에 빠지지 않도록 AI 윤리 강령의 개발 및 보급을 추진하고 있습니다. 유네스코의 노력을 통해 거의 200개 국가에서 고안되고 지원되는 UN AI 윤리 원칙에 대한 나의 보도는 다음을 참조하십시오. 여기 링크. 비슷한 맥락에서 AI를 균형 있게 유지하기 위해 새로운 AI 법률이 모색되고 있습니다. 최신 테이크 중 하나는 제안된 세트로 구성됩니다. AI 권리 장전 최근 미국 백악관이 AI 시대의 인권을 규명하기 위해 발표한 여기 링크. AI 및 AI 개발자를 정당한 길로 유지하고 사회를 약화시킬 수 있는 의도적이거나 우발적인 부당한 노력을 저지하려면 마을이 필요합니다.

AI 윤리와 AI 법률 관련 고려 사항을 이 토론에 혼합할 것입니다.

제너레이티브 AI의 기초

생성 AI의 가장 널리 알려진 사례는 ChatGPT라는 AI 앱으로 대표됩니다. ChatGPT는 AI 리서치 회사인 OpenAI에서 출시한 XNUMX월에 대중의 관심을 끌었습니다. ChatGPT가 큰 헤드라인을 장식한 이후로 할당된 명성의 XNUMX분을 놀랍게도 초과했습니다.

아마 ChatGPT에 대해 들어보셨거나 사용해본 사람을 알고 계실 것입니다.

ChatGPT는 사용자로부터 일부 텍스트를 입력으로 받은 다음 생성 또는 에세이로 구성된 출력물을 생성합니다. AI는 텍스트 대 텍스트 생성기이지만 AI가 일반적으로 사용되는 용도를 더 쉽게 명확히 하기 때문에 AI를 텍스트 대 에세이 생성기라고 설명합니다. 생성 AI를 사용하여 긴 구성을 작성하거나 다소 짧은 간결한 설명을 제공하도록 할 수 있습니다. 그것은 모두 당신의 입찰입니다.

프롬프트를 입력하기만 하면 AI 앱이 프롬프트에 응답을 시도하는 에세이를 생성합니다. 작성된 텍스트는 에세이가 인간의 손과 마음으로 쓰여진 것처럼 보일 것입니다. "Tell me about Abraham Lincoln"이라는 프롬프트를 입력하면 생성 AI가 Lincoln에 대한 에세이를 제공합니다. 텍스트-아트 및 텍스트-비디오와 같은 생성 AI의 다른 모드가 있습니다. 여기서는 텍스트 대 텍스트 변형에 초점을 맞출 것입니다.

첫 번째 생각은 이 생성 능력이 에세이 제작 측면에서 그렇게 큰 문제가 아닌 것 같다는 것입니다. 인터넷에서 쉽게 온라인 검색을 할 수 있고 링컨 대통령에 관한 수많은 에세이를 쉽게 찾을 수 있습니다. 제너레이티브 AI의 경우 키커는 생성된 에세이가 상대적으로 독특하고 모방이 아닌 독창적인 구성을 제공한다는 것입니다. AI가 제작한 에세이를 온라인 어딘가에서 찾으려고 하면 찾을 수 없을 것입니다.

제너레이티브 AI는 사전 훈련을 받았으며 웹 전반에 걸쳐 쓰여진 단어와 이야기의 패턴을 검사하여 설정된 복잡한 수학적 및 계산 공식을 사용합니다. 수천, 수백만 개의 글을 검토한 결과, AI는 발견된 것과 뒤죽박죽인 새로운 에세이와 이야기를 토해낼 수 있습니다. 다양한 확률적 기능을 추가함으로써 결과 텍스트는 훈련 세트에서 사용된 것과 비교할 때 매우 고유합니다.

생성 AI에 대한 많은 우려가 있습니다.

한 가지 결정적인 단점은 생성 기반 AI 앱으로 생성된 에세이에 명백히 사실이 아닌 사실, 오해의 소지가 있는 사실, 완전히 조작된 명백한 사실 등 다양한 허위 정보가 포함될 수 있다는 것입니다. 이러한 조작된 측면은 종종 AI 환각, 내가 싫어하지만 안타깝게도 어쨌든 대중적인 관심을 끌고 있는 것 같은 캐치프레이즈입니다(왜 이것이 형편없고 부적합한 용어인지에 대한 자세한 설명은 여기 링크).

또 다른 우려는 인간이 스스로 에세이를 작성하지 않았음에도 불구하고 생성 AI가 생성한 에세이에 대한 공로를 쉽게 인정할 수 있다는 것입니다. 선생님과 학교가 제너레이티브 AI 앱의 출현에 대해 상당히 우려하고 있다는 말을 들었을 것입니다. 학생들은 잠재적으로 생성 AI를 사용하여 할당된 에세이를 작성할 수 있습니다. 학생이 자신의 손으로 에세이를 썼다고 주장하는 경우, 교사가 에세이가 생성 AI에 의해 위조되었는지 여부를 식별할 수 있는 가능성은 거의 없습니다. 이 학생 및 교사 교란 패싯에 대한 나의 분석은 다음에서 나의 적용 범위를 참조하십시오. 여기 링크여기 링크.

소셜 미디어에서 제너레이티브 AI 이 최신 버전의 AI가 실제로 지각 있는 AI (아니, 그들은 틀렸어!). AI 윤리 및 AI 법에 종사하는 사람들은 이러한 주장이 급증하는 추세에 대해 특히 우려하고 있습니다. 일부 사람들은 오늘날의 AI가 실제로 할 수 있는 일을 과장하고 있다고 정중하게 말할 수 있습니다. 그들은 AI가 우리가 아직 달성하지 못한 능력을 가지고 있다고 가정합니다. 운이 없었어. 설상가상으로, AI가 행동을 취하는 데 있어서 지각이 있거나 인간과 같을 것이라는 가정 때문에 그들은 자신과 다른 사람들이 끔찍한 상황에 빠지도록 허용할 수 있습니다.

AI를 의인화하지 마십시오.

그렇게 하면 AI가 수행할 수 없는 작업을 수행할 것으로 기대하는 끈끈하고 음침한 의존의 함정에 빠지게 됩니다. 즉, 최신 생성 AI는 수행할 수 있는 작업에 대해 상대적으로 인상적입니다. 생성 AI 앱을 사용할 때 지속적으로 염두에 두어야 할 중요한 제한 사항이 있다는 점에 유의하십시오.

지금은 하나의 마지막 예고입니다.

생성 AI 응답에서 보거나 읽는 모든 것 순전히 사실(날짜, 장소, 사람 등)로 전달하려면 회의적인 태도를 유지하고 보이는 것을 기꺼이 재확인해야 합니다.

예, 날짜를 조작할 수 있고 장소를 구성할 수 있으며 일반적으로 비난할 수 없는 요소는 다음과 같습니다. 모든 의심의 여지가 있습니다. 생성 AI 에세이 또는 결과물을 검토할 때 읽은 내용을 믿지 말고 회의적인 눈을 유지하십시오. 생성 AI 앱이 Abraham Lincoln이 개인 제트기를 타고 전국을 비행했다고 알려준다면 의심할 여지 없이 이것이 악랄하다는 것을 알 것입니다. 불행하게도, 일부 사람들은 그의 시대에 제트기가 없었다는 사실을 깨닫지 못했을 수도 있고, 에세이가 이 뻔뻔스럽고 터무니없이 거짓된 주장을 하고 있다는 것을 알지만 알아차리지 못할 수도 있습니다.

건전한 회의주의와 지속적인 불신의 마음가짐은 생성 AI를 사용할 때 최고의 자산이 될 것입니다.

우리는 이 설명의 다음 단계로 넘어갈 준비가 되어 있습니다.

제너레이티브 AI가 인터넷에 할 수 있는 일 살펴보기

이제 생성적 AI가 무엇인지 알게 되었으므로 이러한 유형의 AI가 인터넷의 팽창을 통해 혼돈과 소란을 일으킬 것인지에 대한 성가신 질문을 탐색할 수 있습니다.

다음은 이 문제와 관련된 XNUMX가지 중요한 주제입니다.

  • 1) 인터넷의 규모
  • 2) 인터넷 인덱싱
  • 3) 제너레이티브 AI 제작 콘텐츠 측정
  • 4) 제너레이티브 AI 콘텐츠의 문제점
  • 5) 사람들이 생성 AI 콘텐츠를 인터넷에 게시할 것인가
  • 6) Paywall 접근 방식이 존중될 수 있습니다.
  • 7) 다중 모달 늪 생성 AI가 기다립니다
  • 8) 생성 AI의 악순환 또는 선순환

저는 이러한 중요한 주제를 각각 다루고 우리 모두가 신중하게 숙고해야 할 주요 고려 사항을 제공할 것입니다. 이러한 각 주제는 더 큰 퍼즐의 필수적인 부분입니다. 한 조각만 보면 안 됩니다. 어떤 조각도 다른 조각과 분리하여 볼 수 없습니다.

이것은 복잡한 모자이크이며 전체 퍼즐이 적절히 조화롭게 고려되어야 합니다.

인터넷의 크기

고려해야 할 첫 번째 측면 중 하나는 인터넷의 크기입니다.

이것은 특히 중요합니다. 제너레이티브 AI에 대한 주장은 그것이 인터넷을 엄청나게 팽창시킬 것이라는 것입니다. 방대한 양의 디지털 자료를 생성하기 위해 제너레이티브 AI를 쉽게 사용할 수 있기 때문에 모든 종류의 콘텐츠가 추가될 것입니다. 그렇다면 논리적으로 합리적인 질문은 오늘날 인터넷이 얼마나 큰지, 그리고 생성 AI가 인터넷에 없었더라면 없었을 추가 콘텐츠를 얼마나 많이 내뿜을 수 있는지를 수반합니다.

불행히도 인터넷의 크기를 파악하는 것은 매우 어렵고 매우 부정확합니다.

에 올라온 견적서 하나 온라인 금융 인터넷의 크기는 현재 최소 74제타바이트(ZB)이며 463년까지 잠재적으로 2025ZB에 도달할 것이라고 제안합니다(예상된 성장은 명시적으로 생성 AI 자체를 요인으로 고려하지 않은 것으로 보이며 단지 모든 그렇지 않으면 이 프로젝션을 유도할 때 동일합니다).

인터넷의 기존 크기에 대한 다른 많은 추정치가 있습니다. 마찬가지로 예상 규모의 성장에 대한 다른 많은 추정치가 있습니다. 저는 그러한 숫자에 대한 논쟁에 얽매이고 싶지 않고 인터넷이 의심할 여지 없이 거대하다는 점을 강조하고자 합니다. 또한 인터넷이 정상적인 과정에서 치솟는 성장 경로를 부끄럽지 않게 계속할 것이라는 모든 합리적인 기대는 주목할 가치가 있습니다.

또한 Statista가 현재 약 5.16억 64.4천만 명의 인터넷 사용자가 있음을 시사하는 다양한 통계를 게시했다는 사실이 흥미로울 것입니다. 이는 전 세계 인구의 XNUMX%를 나타내는 것으로 계산됩니다. 너 놀랐 니? 한편으로 우리는 당연히 대부분의 사람들이 실제로 인터넷에 있을 것이라고 가정할 수 있습니다. 이것은 많은 사람들이 인터넷에 대한 액세스 권한이 없거나 액세스 권한을 얻을 수 없기 때문에 내부자의 관점에서 다소 왜곡됩니다. 어쨌든 인터넷 액세스가 궁극적으로 더 저렴해지고 더 널리 보급되어 인터넷 사용자 수가 확실히 증가할 것이라는 기대가 있습니다.

매우 중요한 질문에 도달하기 위해 이러한 통계를 통해 여러분을 끌고 있습니다.

제너럴 AI는 인터넷의 기존 및 지속적인 성장에 얼마나 추가될까요?

그것이 우리가 알고 싶은 것입니다. 아시다시피, 생성적 AI의 영향에 대한 주장은 생성적 AI가 인터넷에 넘쳐날 것이라는 것을 액면 그대로 받아들이는 것 같습니다. 당신이 편리하게 또는 멍하니 실제 숫자와 사물의 실제 개수에 대해 논의하는 것을 피한다면 이 모든 것은 약간의 손짓일 뿐입니다.

예를 들어 인터넷의 크기가 약 100ZB 정도이고 성장하고 있다는 일반적인 가정을 생각해 보십시오. 제너레이티브 AI가 매년 1ZB를 추가할 것이라고 믿는다면 이는 인터넷의 전체 규모에서 한 방울 떨어진 것입니다.

제너레이티브 AI는 광활한 바다에 조약돌을 튀기는 것과 비슷합니다.

그것은 이 중요한 주제에 대한 일반적인 내러티브에 맞지 않는 것 같습니다. 어떤 사람들은 인터넷의 10%가 "정상적인" 사용자 생성 기반이 되고 나머지 90%는 생성적인 AI 제작 콘텐츠로 인해 발생할 것이라고 열정적으로 추측했습니다.

이 논쟁에 대한 건전한 근거가 없는 것 같습니다. 허공에서 날조된 것 같습니다. 어쨌든 이것이 발생했다고 가정하십시오. 기존 100 ZB를 기반으로 하고 기본적으로 모든 사용자 생성 콘텐츠라고 가정하면(음, 논쟁의 여지가 있음) 1,000 ZB 크기의 인터넷을 살펴봐야 한다는 의미입니다. 이는 900ZB의 생성 AI 제작 콘텐츠와 100ZB의 사용자 생성 콘텐츠입니다.

우리는 오늘날 손으로 만든 것으로 추정되는 콘텐츠의 바다를 가져와 생성 AI가 생산한 인터넷 바다의 전체와 비교했을 때 다소 왜소해졌을 것입니다.

추측에 추측.

그래서, 그것은 무엇입니까?

우리는 인공지능이 조약돌을 생산하도록 할 것인가, 아니면 인터넷의 크기를 여러 배로 늘릴 것인가?

어느 쪽이든 확실하게 말할 수 있는 사람은 없습니다. 우리는 이 주제에 대한 논의가 가시적인 것에 뿌리를 두고 있도록 이러한 핵심 수치를 진지한 맥락에서 탐색해야 합니다. 그렇게 하지 않으면 잡담이 약간 공허해지고 거의 늑대를 울린 소년처럼 됩니다.

다음 요소를 고려해 봅시다. 그리고 이러한 모든 요소는 상호 연관되어 있으며 단순히 개별적으로가 아니라 집합적으로 고려해야 한다는 점을 명심하십시오.

인터넷 인덱싱

인터넷 검색을 할 때 일상적으로 인터넷 콘텐츠의 색인을 생성하려고 시도한 누군가의 검색 엔진을 사용하고 있다는 사실을 알고 있을 것입니다. 인기 있는 검색 엔진을 사용하면 인터넷의 우세에 접근할 수 있다는 인상을 받을 수 있습니다.

그럴 가능성은 거의 없습니다.

일부 추정에 따르면 인터넷의 일부만이 색인화되었으며, 아마도 1% 미만일 것입니다(일부는 최대 5% 또는 약간 더 높다고 합니다. 대부분의 사람들이 일반적으로 다음과 같이 가정하는 수준이 아닙니다. 50% 또는 90%). 다시 말하지만, 이러한 숫자는 다양하지만 그럼에도 불구하고 상대적으로 매우 작습니다. 요점은 거의 항상 인터넷의 엄청난 부분을 인식하지 못한다는 것입니다.

이 맥락에서 이것이 중요한 이유는 무엇입니까?

제너레이티브 AI가 생성할 추가 콘텐츠는 잠재적으로 유사한 인덱싱 고려 대상이 될 것이기 때문입니다. 추가된 콘텐츠가 거의 인덱싱되지 않을 수 있습니다. 그런 경우에는 아마 볼 수 없을 것입니다.

동전의 반대편에는 그러한 "인공적인" 콘텐츠가 인덱싱되어 "기존의" 콘텐츠에 대한 유감스러운 관심 부족에 행해질 것이라고 가정합니다. 인덱스가 생성 AI 콘텐츠에 몰두하고 기존 콘텐츠를 무시할 것이라는 주장이 있습니다. 따라서 제너레이티브 AI 콘텐츠가 인터넷을 압도하지 않더라도 이러한 콘텐츠의 불균형한 인덱싱 때문인 것처럼 보일 것입니다.

결국 기존의 콘텐츠를 찾는 것은 건초 더미에서 바늘을 찾는 것과 같을 수 있습니다. 제너레이티브 AI로 제작된 콘텐츠의 엄청난 어수선함은 압도적으로 크고 쭉 뻗은 건초더미와 비슷할 것입니다. 찾을 수 있다면 어딘가에 기존 콘텐츠의 귀중한 작은 보석이 있을 것입니다.

지수 제작자가 이 딜레마를 처리하는 방법을 알아내야 한다고 즉시 생각할 수 있습니다. "올바른 방법"으로 인덱싱을 수행할 수 있다면 제너레이티브 AI 콘텐츠가 얼마나 많이 생성되는지는 거의 중요하지 않습니다. 그것은 인터넷의 골목길과 뒷골목에 자리 잡고 있을 것이며 어쨌든 특히 빛을 보지 못할 것입니다.

이 인덱싱 문제가 어떻게 더 발생하는지 알아보기 위해 탐색을 계속하겠습니다.

제너레이티브 AI 제작 콘텐츠 측정

네, 제너레이티브 AI가 야생에 빠져 엄청나게 많은 인터넷 콘텐츠를 생산한다면 논리적으로 이러한 콘텐츠를 "기존" 콘텐츠와 구별할 수 있는 한 이에 대처할 수 있습니다.

솔루션으로 쉽게 보인다.

인덱싱을 수행하는 모든 검색 엔진은 콘텐츠가 생성된 AI인지 아니면 기존 방식으로 생성되었는지 감지할 뿐입니다. 그런 다음 인덱스는 생성 AI 자료를 포함하지 않거나 콘텐츠가 생성 AI에서 가져온 것임을 인덱스에 표시하도록 선택할 수 있습니다. 그러한 검색 엔진의 사용자는 검색 중에 생성 AI 콘텐츠를 포함할지 또는 건너뛸지 여부를 지정할 수 있습니다.

경우 폐쇄.

이것이 특히 실행 가능하지 않다고 말해서 유감입니다.

이유가 여기 있습니다.

제너레이티브 AI 출력을 기존 콘텐츠와 구별하는 것은 쉽지 않으며 거의 ​​궁극적으로 비실용적입니다. 내 칼럼에서 주장하는 감지 앱이 거짓 약속이며 본질적으로 오해의 소지가 있는 행동이라고 다뤘습니다. 여기 링크.

요컨대, 생성 AI의 AI 제조업체는 기존의 인간 생성 콘텐츠와 구별할 수 없는 디자인 콘텐츠를 생성하기 위해 AI를 계속 향상시킵니다. 그것은 의도적인 목표입니다. 탐지 앱은 계속되는 고양이와 쥐의 도박에 직면해 있습니다. 또한 이러한 감지 앱은 생성 AI 출력을 구별하는 것에 대한 모든 방식의 가정을 기반으로 하지만 이러한 가정은 종종 부정확하거나 확률에만 기반합니다. 최종 결과는 모든 감지 앱이 가능성을 추측할 뿐이며 확실하게 확실한 표시를 할 수 없다는 것입니다.

결론은 생성 AI 공급자가 제공하는 명확한 표시가 없는 한 생성 AI 콘텐츠가 무엇인지 결정할 수 없을 것 같지만 그것도 철통이 아니라는 것입니다. 다시 한 번, 이 복잡한 주제에 대한 내 기사를 참조하십시오. 여기 링크. 추구하는 아이디어는 워터마크가 생성된 콘텐츠에 비밀리에 포함된다는 것입니다. 이론적으로 워터마크를 사용하여 콘텐츠가 생성 AI를 통한 것인지 확인할 수 있습니다. 단점은 출력에 대한 다양한 변경으로 인해 워터마크를 엉망으로 만들기가 상대적으로 쉽다는 것입니다. 그러면 콘텐츠가 워터마크를 준수하지 못하고 우리에게 정보를 제공해야 했던 표지판이 이제 패배합니다.

일부는 이를 처리하기 위해 새로운 AI 법률이 필요하다고 생각합니다. 생성 AI 앱에 워터마크를 포함하도록 요구하는 법을 만드십시오. 또한 이러한 워터마크를 제거하려는 시도를 불법으로 만드십시오. 이것은 이러한 고양이와 쥐 기술 게임을 축소하는 유일한 수단일 수 있습니다. 저는 제 칼럼에서 이러한 제안을 검토했으며 교훈이 합리적으로 들리지만 악마는 이러한 계획을 구현하고 이러한 정책을 시행하는 세부 사항에 있다고 지적했습니다.

대체로, 제너레이티브 AI 콘텐츠를 통한 인터넷의 팽창에 대한 우려로 돌아가서, 불행히도 우리는 무엇이 제너레이티브 AI 콘텐츠인지 아닌지를 단순히 지적함으로써 문제를 해결할 수 없을 것입니다. 문제는 그보다 더 어렵다.

어쨌든 생성 AI 콘텐츠의 문제점

생성적 AI로 제작된 콘텐츠의 쓰나미에 대한 이러한 모든 우려는 일반적으로 콘텐츠에 결함이 있을 것이라는 다소 본질적인 가정에 근거합니다.

내용이 좋다면 인터넷에 추가된 게시물에 만족해야 할 것입니다. 물론, 양이 많을 수 있지만 게시되는 정보가 가치가 있다면 더 좋은 정보를 선별하는 것이 중요합니다. 그들이 말하는 것처럼 더 즐겁습니다.

주요 고려 사항은 생성적 AI 제작 콘텐츠가 정보를 제공하는지 여부와 오류, 거짓, 잘못된 정보, 허위 정보 등으로 채워질 수 있는지 여부를 수반합니다. 이것은 여러 측면을 나타냅니다.

첫째, 제너레이티브 AI가 더욱 발전하여 잘못된 에세이를 생산할 가능성이 극도로 낮아질 수 있습니다. 대체로 생성 AI가 출력한 에세이가 합리적으로 가장 정확하거나 대부분의 경우 우세하다고 가정하여 모든 생성 AI가 인터넷에 게시되는 것을 금지하고 싶다면 우리는 태만해 보일 것입니다. 출력된 모든 에세이를 거부하고자 하는 것은 고전적인 목욕물과 함께 아기를 던지는 것과 비슷할 것입니다.

둘째, 내 칼럼에서 논의한 것처럼 여기 링크, 인공지능이 출력한 생성적 에세이를 재확인할 수 있는 인공지능 애드온 앱에 대한 관심이 높아지고 있다. AI 더블 체커는 사람들이 생성 AI 콘텐츠를 인터넷에 게시하기 전에 사용할 수 있습니다. 게시하려는 콘텐츠를 미리 검열하지 않더라도 이미 게시된 콘텐츠에 동일한 도구를 사용할 수 있습니다. 요컨대 콘텐츠 소스가 무엇인지에 관계없이 이중 확인을 수행할 수 있으므로 인간이 생성한 콘텐츠도 당연히 의심해야 합니다.

셋째, 앞서 언급한 요점에서 언급했듯이 인간이 생성한 콘텐츠는 항상 좋고 생성 AI 콘텐츠는 항상 나쁘다는 믿음이 있는 것 같습니다. 말도 안되는 잘못된 가정. 모든 종류의 오류, 거짓 및 구성 쓰레기를 포함하는 인간이 생성한 콘텐츠가 많이 있습니다. 인간이 우연히 콘텐츠를 손으로 만들었다고 해서 우리는 안전하지 않습니다.

인간이 고안한 것이든 생성 AI가 고안한 것이든 모든 콘텐츠는 면밀한 조사를 받아야 합니다.

사람들이 생성 AI 콘텐츠를 인터넷에 게시할까요?

고려해야 할 또 다른 요소는 사람들이 실제로 생성 AI 콘텐츠를 인터넷에 게시할 것인지, 그렇다면 어느 정도의 규모로 게시할 것인지입니다.

여기에 의미하는 바가 있습니다.

사람들은 ChatGPT와 같은 생성 AI를 다양한 목적으로 사용하고 있습니다. 그들은 직면한 문제에 대한 아이디어를 자극하기 위해 생성 AI를 사용할 수 있습니다. 그들은 그것을 사용하여 연구를 할 수 있습니다. 편집하려는 자료의 초안을 제공한 다음 이메일을 통해 누군가에게 보낼 수 있습니다. 등등.

요점은 많은 생성적 AI 사용이 결과물로 출력된 에세이를 인터넷에 게시하려는 누군가와 전혀 관련이 없을 수 있다는 것입니다. 우리는 종종 누군가 생성 AI를 사용하기 때문에 생산된 결과물로 인터넷을 범람시키고 싶어한다는 함정에 빠지는 것 같습니다.

우리는 사람들이 제너레이티브 AI를 자신의 용도로 사용할 시간이 얼마나 될지 아직 모릅니다. 지원 출력을 인터넷에 게시합니다.

명확히 하기 위해, 나는 사람들이 생성 AI 출력을 인터넷에 게시하지 않을 것이라고 제안하는 것이 아닙니다. 그들은 가장 확실히 할 것입니다. 온라인 블로그를 운영하는 사람들은 의심할 여지 없이 제너레이티브 AI를 활용할 것입니다. 인터넷용 콘텐츠를 생산하기 위해 생성 AI를 많이 사용하는 일이 확실히 일어날 것입니다. 등.

따라서 한 가지 고려 사항은 인터넷에 게시되는 생성 AI 콘텐츠가 예상보다 많지 않을 수 있다는 것입니다. 우리가 논스톱 풀핸드 게시 데이터 대재앙을 보고 있다고 가정하는 전문가들에게는 그것이 일어날 일인지 알 수 없습니다. 물론, 소수의 사람들만이 그러한 게시를 선택하더라도 이것은 여전히 ​​엄청난 양의 추가 콘텐츠가 인터넷에 쌓이는 것일 수 있습니다.

트위스트는 생성 AI 출력이 잠재적으로 인터넷에 자동으로 게시되는지 여부입니다.

쉽게 풀 수 있는 트릭입니다. 생성 AI 앱의 모든 출력이 인터넷에 바로 게시되도록 간단하게 만들 수 있습니다. 이것을 루프에 넣을 수도 있습니다. 미리 준비된 일련의 프롬프트가 있습니다. 이를 제너레이티브 AI 앱에 제공합니다. 생성 AI 앱은 출력된 에세이를 인터넷에 즉시 게시하도록 프로그래밍되어 있습니다.

짜잔, 당신은 인터넷용 데이터 콘텐츠를 생성하기 위한 영구 운동 기계를 가지고 있습니다.

게시물은 어디로 갈 예정입니까?

이러한 유형의 기관총 분출 콘텐츠 게시를 허용하는 모든 웹사이트 또는 기타 온라인 로케일은 그들이 발생하도록 허용한 것에 대해 잠재적으로 책임을 지게 될 것입니다. 아마도 사람들은 그러한 사이트를 피할 것입니다. 또는 해당 사이트는 검색 엔진 및 인덱싱 알고리즘에 의해 지정됩니다. 생성 AI 콘텐츠가 게시되는 측면이 한 측면인 반면, 또 다른 똑같이 중요한 측면은 게시물이 게재되는 위치입니다.

Paywall 접근 방식이 존중받을 수 있습니다.

흔히 말하는 주장은 우리가 결국 인터넷이라는 황량한 서부에 싫증이 날 것이라는 것입니다. 사람들은 신뢰할 수 있는 온라인 소스에 끌릴 것입니다. 그들은 인터넷의 다른 개략적이거나 알려지지 않은 영역을 의도적으로 피할 것입니다.

이러한 맥락에서 사람들은 신뢰할 수 있는 소스에 액세스하기 위해 기꺼이 비용을 지불할 것이라고 생각합니다. 오늘날에도 여전히 페이월 콘텐츠의 수익성에 대한 큰 논쟁이 있는 반면, 제너레이티브 AI 콘텐츠의 홍수는 페이월 철학에 큰 도움이 되는 것으로 간주됩니다. 인터넷에서 신뢰할 수 있는 콘텐츠를 찾는 측면에서 상황이 악화될수록 페이월 콘텐츠의 가치는 더욱 높아집니다(물론 페이월 콘텐츠가 더 면밀히 조사된다고 가정할 때).

부분적으로 아이러니한 점은 페이월 뒤의 콘텐츠가 생성 AI 제작 콘텐츠로 구성될 수 있다는 것입니다. 추가된 가치는 페이월 공급자가 콘텐츠를 검열하고 있다고 가정하면 본질적으로 앞서 언급한 이중 확인을 수행하는 것입니다. 콘텐츠를 반드시 생성할 필요는 없습니다. 콘텐츠가 신뢰할 만한 가치가 있는지 확인하기만 하면 됩니다.

이 예측된 미래에 대해서는 의견이 분분합니다. 아마도 페이월 대신 광고나 스폰서 알림이 표시되어야 하며 그렇게 하면 신뢰할 수 있는 콘텐츠로 이동하게 됩니다. 다른 많은 가능성이 존재합니다.

제너레이티브 AI의 멀티모달 늪이 여러분을 기다립니다

저는 여기에서 텍스트 관련 생성 AI에 초점을 맞추고 있습니다. 이는 ChatGPT와 같은 텍스트 대 텍스트 또는 텍스트 대 에세이의 다양한 생성 AI입니다.

내 예측 중 하나는 우리가 곧 다중 모달 생성 AI에 넘쳐날 것이라는 것입니다. 여기 링크. 우리는 이미 텍스트를 이미지로, 텍스트를 오디오로, 텍스트를 비디오로, 그리고 제너레이티브 AI에서 출력된 결과의 유형 또는 모드의 다른 변형을 목격하고 있습니다. 다음 단계는 다중 모달 출력을 얻을 수 있다는 것입니다.

예를 들어 생성 AI에 프롬프트를 입력하고 Abraham Lincoln에 대해 질문합니다. 생성 AI가 당신을 위한 에세이를 생성합니다. 또한 링컨의 여러 이미지가 생성되어 지금까지 게시되거나 게시되지 않은 포즈를 취하고 있습니다. 링컨과 같은 목소리로 보이는 오디오 대본이 생성됩니다. 출력된 텍스트와 함께 이동하는 사진 및 이미지의 몽타주를 포함하여 에세이를 보여주는 비디오가 생성됩니다.

다중 모달 생성 AI의 세계에 오신 것을 환영합니다.

확실히 흥미롭습니다.

그러나 이것이 인터넷에 게시될 수 있는 콘텐츠로서 추가 사료라고 생각한다면 그다지 흥미롭지 않을 수 있습니다.

본질적으로, 우리는 오류가 있을 수 있는 텍스트에 대해서만 초조해할 것이 아니라 다른 모든 출력 모드에 대해서도 동일한 작업을 수행해야 합니다. 오디오 파일은 허위가 포함된 것으로 의심되어야 하며, 이미지는 문제를 잘못 묘사할 수 있으며 비디오도 걱정이 될 것입니다.

인터넷의 팽창에 대한 계산에 이미 다중 모드 대화재를 포함하지 않았다면 숫자와 손놀림을 늘리고 싶을 수 있습니다.

생성 AI의 악순환 또는 선순환

약간의 마음을 구부릴 수있는 요소가 있습니다. 잠깐만.

범람한 인터넷의 대서사시에서 우리는 생성 AI가 악당이라고 가정합니다. Generative AI는 오류가 발생하기 쉽고 조작된 이 모든 콘텐츠를 제작하는 방법입니다. 제너레이티브 AI는 골칫거리입니다.

우리가 이것을 다른 관점에서 본다고 가정해 봅시다.

제너레이티브 AI가 가장 강렬하고 강력한 유효 콘텐츠를 생성할 수 있을 수도 있습니다. 한편, 인간의 손으로 생성된 콘텐츠는 훨씬 덜 신뢰할 수 있는 것으로 해석됩니다. 악당으로서의 생성 AI는 영웅으로서의 생성 AI로 이동합니다.

그것에 대해 생각해보십시오.

또 다른 재미있는 반전이 있습니다.

제너레이티브 AI가 인터넷에 있는 콘텐츠를 통해 데이터 훈련을 받고 있다고 가정해 봅시다. 생성 AI 콘텐츠가 인간의 선택에 의해 직접적으로 또는 자동 메커니즘을 통해 인터넷에 게시될 것이라고 가정한다면 우리는 흥미로운 주기에 얽매이게 될 것입니다.

제너레이티브 AI로 제작된 콘텐츠는 제너레이티브 AI에서 추가 데이터 교육을 위한 소스 자료가 됩니다. 나선형이 발생합니다. 제너레이티브 AI로 이미 제작된 콘텐츠의 데이터 트레이닝을 기반으로 한 제너레이티브 AI로 제작된 콘텐츠가 인터넷에 게시되는 경우가 늘고 있다.

"제너레이티브 AI에 피딩하는 제너레이티브 AI"의 에코 챔버는 결국 인터넷과 인류에 어떤 영향을 미칠까요?

한 가지 관점은 이것이 바닥을 향한 무서운 경주라는 것입니다. 생성 AI 출력의 오류가 확대됩니다. 생성 AI의 각각의 새로운 반복은 이전 오류를 소비하고 반복해서 반복합니다. 어느 시점에서 오류가 있는 위치를 알아낼 가능성이 매우 높아질 것입니다. 음침한. 낙담.

또 다른 관점은 생성 AI가 유효한 출력을 생성하도록 고안될 수 있다면 인터넷을 멋지게 만드는 데 도움이 되는 인터넷 청소 메커니즘을 가질 수 있다는 것입니다. 제너레이티브 AI가 잘못된 것을 발견하면(AI가 생성했든 인간의 손으로 생성했든) 제너레이티브 AI는 이 거짓을 감지하고 극복하는 것 같습니다. 생성 AI가 이 작업을 계속 반복하면 마치 끊임없이 잔디를 깎고 잡초의 특성과 두드러진 부분을 효과적으로 줄이는 것과 같습니다.

정확히 무엇이 오류나 거짓을 구성하는지에 대한 크고 희미한 질문을 제외하고는 안심할 수 있습니다. 이 문질러 닦는 기계는 실수로 유효한 콘텐츠를 얕잡아보거나 오류가 발생하기 쉬운 것으로 잘못 비난하게 만들 수 있습니다. 우리는 이러한 유형의 메커니즘을 고려할 때 이러한 거짓 양성 및 거짓 음성을 염두에 둘 필요가 있습니다.

제너레이티브 AI는 악순환일까, 선순환일까?

시간이 말해주 겠지.

결론

인터넷을 휩쓸고 있는 생성 AI에 대한 수많은 그리고 때로는 당황스러운 권고를 주의 깊게 검토해야 합니다. 많은 시나리오를 쉽게 상상할 수 있습니다. 파멸과 우울만이 유일한 길은 아닙니다. 어떤 일이 일어날지 예측한다고 공언하는 사람은 누구나 자신이 하고 있는 가정에 대해 솔직해야 합니다.

제너레이티브 AI의 미래가 어디로 갈 것인지를 결정하는 완화 요인이 있습니다. AI 윤리 및 AI 법은 사회 전체의 전반적인 인식과 함께 이에 대해 결정적인 역할을 할 것입니다.

지금은 마지막 발언입니다.

마르쿠스 아우렐리우스는 “미래가 당신을 방해하게 두지 마십시오. 필요하다면 오늘날 현재에 맞서 당신을 무장시키는 동일한 이성의 무기로 당신은 그것을 맞이할 것입니다.”

오늘날 우리의 추론이 AI가 가득한 미래의 도전에 한 걸음 더 나아갈 수 있는지 확인합시다.

출처: https://www.forbes.com/sites/lanceeliot/2023/02/23/is-it-true-that-generative-ai-chatgpt-will-flood-the-internet-with-infinite-content- ask-ai-ethics-and-ai-law/