Generative AI ChatGPT는 API 포털이 곧 열리면 AI 윤리와 AI 법을 어리석게 만들면 어디에나 있을 것입니다.

크라켄을 풀어라!

영화에서 배우 리암 니슨(Liam Neeson)이 특별히 언급한 유명한 캐치프레이즈에 대해 잘 알고 계실 것입니다. 타이탄의 충돌 그가 전설적인 바다 괴물을 풀어주라고 명령했을 때 엄청난 혼란과 대규모 파괴를 목표로 삼았습니다. 이 대사는 끝없이 반복되어 모든 종류의 밈을 생성했습니다. 다양한 패러디에도 불구하고, 대부분의 사람들은 적어도 직감적으로는 그 발언이 어둡고 위험한 출현이 곧 펼쳐질 것이라는 것을 예고하고 있다고 느낍니다.

오늘날 인공 지능(AI)에도 같은 정서가 적용될 수 있습니다.

좀 더 자세히 설명하겠습니다.

최근 발표에 따르면 OpenAI 조직이 만든 ChatGPT라는 매우 유명한 AI 앱이 곧 다른 프로그램에서 액세스할 수 있게 될 것입니다. 이것은 큰 뉴스입니다. 일반 언론이 이 발표를 거의 받아들이지 않았음에도 불구하고 나는 이렇게 말합니다. 덧없는 언급을 제외하고, 이번 액세스의 전체 영향은 상당히 중요할 것입니다.

오늘 칼럼에서는 그 이유에 대해 설명드리겠습니다. 그에 맞게 준비하시면 됩니다.

어떤 사람들은 이것이 크라켄을 풀어주는 것과 비슷할 것이라고, 즉 모든 종류의 나쁜 일들이 일어날 것이라고 단호하게 믿습니다. 다른 사람들은 이것을 ChatGPT의 뛰어난 기능을 활용하여 수많은 다른 앱을 향상시킬 수 있는 중요한 리소스를 제공하는 것으로 보고 있습니다. 그것은 최악의 시간이거나 최고의 시간입니다. 우리는 여기에서 논쟁의 양쪽 측면을 고려할 것이며 어느 진영에 도착할지 스스로 결정할 수 있습니다.

이 모든 것에는 많은 AI 윤리 및 AI 법률 고려 사항이 있습니다.

윤리적 AI 원칙을 AI 앱의 개발 및 배치에 반영하려는 노력이 계속되고 있음을 인지하시기 바랍니다. AI를 고안하고 채택하려는 노력이 좋은 AI 그리고 회피 나쁜 인공 지능. 마찬가지로 AI 노력이 인권 등에 영향을 미치지 않도록 잠재적 솔루션으로 제안된 새로운 AI 법률이 있습니다. AI 윤리 및 AI 법에 대한 지속적이고 광범위한 내용은 다음을 참조하십시오. 여기 링크 과 여기 링크, 다만 약간을 지명하기 위하여.

ChatGPT 및 기타 유사한 AI 앱에 우리가 처리할 준비가 되지 않은 못생긴 단점이 있다는 우려가 커지고 있습니다. 예를 들어 학교 학생들이 ChatGPT를 사용하여 할당된 에세이를 작성할 때 잠재적으로 부정 행위를 할 수 있다는 소식을 들었을 것입니다. AI는 그들을 위해 모든 쓰기를 수행합니다. 한편, 학생은 마치 자신의 노긴에서 글을 쓴 것처럼 에세이에서 점수가 없는 것처럼 보일 수 있습니다. 우리가 AI가 인류를 위해 해주기를 바라는 것은 아닙니다.

이것이 무엇인지에 대한 단계를 설정하는 데 몇 가지 주요 필수 요소가 도움이 될 수 있습니다.

ChatGPT는 일반적으로 제너레이티브 AI. 이 유행하는 생성 기반 AI 앱을 사용하면 간단한 프롬프트를 입력하고 앱이 출력을 생성하도록 할 수 있습니다. ChatGPT의 경우 출력은 텍스트입니다. 따라서 텍스트 프롬프트를 입력하면 ChatGPT 앱이 텍스트를 생성합니다. 나는 이것을 텍스트-에세이 출력을 생성하도록 연마된 생성 AI의 특정 하위 유형으로 설명하는 경향이 있습니다(텍스트-이미지, 텍스트-비디오 등과 같은 다른 하위 유형이 있음).

ChatGPT의 AI 제조업체는 곧 API(애플리케이션 프로그래밍 인터페이스)를 AI 앱에 사용할 수 있게 될 것이라고 밝혔습니다. 요컨대, API는 다른 프로그램이 계속 진행하고 주어진 응용 프로그램에 대한 포털을 사용할 수 있도록 하는 프로그램을 사용할 수 있도록 하는 수단입니다. 이것은 지구상의 거의 모든 다른 프로그램이 ChatGPT의 사용을 잠재적으로 활용할 수 있음을 의미합니다.

결론은 ChatGPT의 사용과 사용이 잠재적으로 지붕을 뚫을 수 있다는 것입니다.

반면 오늘날에는 개인 기초 AI 제조업체가 백만 명의 사용자로 제한한 ChatGPT를 사용할 수 있습니다.

기존의 백만 가입은 ChatGPT를 일회성 장난으로 사용하고 스릴이 사라진 후 그 이후로 사용하지 않은 일부로 구성되어 있다는 것을 깨달으십시오. 많은 사람들이 아마도 소셜 미디어 바이러스 반응 반응으로 AI 앱에 매력을 느꼈을 것입니다. 요컨대, 다른 모든 사람들이 그것을 사용하기를 원하면 그들도 그렇게 하기를 원했습니다. 생성 기반 AI에 대한 일부 초기 실험에서 그들은 FOMO(누락에 대한 두려움)를 피한 것에 만족감을 느꼈습니다.

분명히 하기 위해 사람들이 ChatGPT를 사용하지 않는다고 말하는 것이 아닙니다. 그들은. 가입한 사람들은 점점 더 AI 앱이 과부하 상태임을 발견하고 있습니다. 많은 사람들이 앱을 사용하고 있습니다. 때때로 시스템이 사용 중이며 나중에 다시 시도해야 한다는 교묘하게 구성된 몇 가지 슬픈 표시가 나타납니다. 소문에 따르면 ChatGPT의 기존 인프라는 AI 앱을 사용하는 열렬한 팬에 대처하기 위해 고군분투하고 있습니다.

잠재적인 사용자가 백만 명이라는 사실을 무시할 수는 없지만 일단 API를 사용할 수 있게 되면 그 숫자는 쉽게 몇 배로 줄어들 것입니다. 오늘날 제너레이티브 AI와 아무 관련이 없는 다른 프로그램의 개발자들은 제너레이티브 AI 악대차를 활용하기를 원할 것입니다. 그들은 그들의 프로그램을 ChatGPT와 연결하기를 원할 것입니다. 그들의 마음 속 희망은 이것이 그들의 기존 프로그램을 인기의 성층권으로 끌어올리는 것입니다.

이렇게 생각해보세요. 오늘날 수백만 명의 사용자에게 도달하는 프로그램을 만드는 모든 종류의 소프트웨어 회사가 종종 수천만 명의 사용자에게 도달한다고 가정하고 각각의 프로그램을 ChatGPT와 페어링하기로 선택한다고 가정합니다. 이것은 ChatGPT를 사용하는 사용자의 양이 엄청나게 증가할 수 있음을 시사합니다.

크라켄이 출시되었습니다.

다양한 소프트웨어 회사가 ChatGPT와 짝을 이루고 싶어하는 이유가 궁금하실 것입니다.

간단한 대답은 그들이 ChatGPT를 앞으로 그리고 위로 밀어붙이는 놀라운 뒷바람을 이용할 수도 있다는 것입니다. 일부는 합리적이고 과장된 이유로 그렇게 할 것입니다. 다른 사람들은 단지 XNUMX분 동안 명성을 얻기 위해 그렇게 할 것입니다.

두 가지 주요 의도로 구성된 ChatGPT에 대한 페어링을 계층화하고 싶습니다.

• ChatGPT와 정품 페어링
• ChatGPT와 가짜 페어링

첫 번째 경우, 개념은 ChatGPT와 페어링하기 위한 선의의 근거가 있다는 것입니다. 특정 프로그램의 제작자는 프로그램과 ChatGPT의 페어링으로 인해 발생할 유형적이고 기능적인 이점을 잘 설명할 수 있습니다. 우리 모두는 이성적인 마음가짐으로 그 짝이 하늘에서 맺어진 짝이라는 것을 알 수 있습니다.

내가 가짜라고 표시한 다른 경우로, 일부는 날렵하거나 흔들리는 기반으로 ChatGPT와 짝을 이루려고 할 것입니다. 비즈니스 사례는 특별히 실질적인 것으로 구성되지 않습니다. 페어링은 ChatGPT의 꼬리를 타기 위한 필사적인 시도입니다. 합당한 조사를 하면 페어링의 가치가 미미하다는 것이 드러날 것입니다. 그렇다면 이것이 적절한 짝짓기 형태인지 아닌지는 다소 공중에 매달려 있습니다. 누군가는 ChatGPT와의 특정 페어링이 사용량을 늘리는 것 외에는 달성하지 못하고 다른 기능적 부가 가치가 없더라도 여전히 수행할 가치가 있는 페어링이라고 주장할 수 있습니다.

약간의 단점은 페어링을 잘못 묘사하고 실제로는 그렇지 않은데 주목할만한 일이 일어나고 있다고 사람들이 믿게 만드는 것입니다. 우리는 분명히 일부 사람들이 이것을 시도할 것이라고 기대할 수 있습니다. AI Ethics의 사람들은 목공 작업에서 나올 뱀 기름 사용에 대해 심각하게 우려하고 있습니다. 이것이 통제 불능 상태가 되면 초안 작성 및 제정에 박차를 가할 새로운 AI 관련 법률을 보게 될 가능성도 있습니다.

무엇이 진짜 짝짓기를 구성하고 무엇이 가짜 짝짓기를 구성하는지 자세히 살펴보겠습니다.

첫째, 우리는 Generative AI가 무엇으로 구성되어 있고 ChatGPT가 무엇인지에 대해 모두 같은 페이지에 있는지 확인해야 합니다. 기본 측면을 다룬 후에는 ChatGPT의 API가 어떻게 근본적으로 변화하는지에 대한 설득력 있는 평가를 수행할 수 있습니다.

Generative AI 및 ChatGPT에 이미 익숙하다면 다음 섹션을 훑어보고 다음 섹션으로 진행할 수 있습니다. 나는 다른 모든 사람들이 섹션을 면밀히 읽고 최신 정보를 얻음으로써 이러한 문제에 대한 중요한 세부 정보를 얻을 수 있다고 믿습니다.

Generative AI 및 ChatGPT에 대한 빠른 입문서

ChatGPT는 범용 AI 대화형 대화형 시스템으로 본질적으로 무해해 보이는 일반 챗봇이지만, 많은 사람들이 완전히 허를 찌르는 방식으로 적극적이고 열성적으로 사용하고 있습니다. 이 AI 앱은 AI 영역의 기술과 기술을 활용합니다. 제너레이티브 AI. AI는 ChatGPT가 수행하는 텍스트와 같은 출력을 생성합니다. 다른 생성 기반 AI 앱은 사진이나 삽화와 같은 이미지를 생성하는 반면 다른 앱은 오디오 파일이나 비디오를 생성합니다.

ChatGPT가 하는 일이므로 이 토론에서는 텍스트 기반 생성 AI 앱에 중점을 둘 것입니다.

Generative AI 앱은 사용하기가 매우 쉽습니다.

프롬프트를 입력하기만 하면 AI 앱이 프롬프트에 응답을 시도하는 에세이를 생성합니다. 작성된 텍스트는 에세이가 인간의 손과 마음으로 쓰여진 것처럼 보일 것입니다. "Tell me about Abraham Lincoln"이라는 프롬프트를 입력하면 생성 AI가 Lincoln에 대한 에세이를 제공합니다. 이것은 일반적으로 다음을 수행하는 생성 AI로 분류됩니다. 텍스트에서 텍스트로 또는 일부는 그것을 부르는 것을 선호합니다 텍스트 투 에세이 산출. 언급한 바와 같이 텍스트-아트 및 텍스트-비디오와 같은 생성 AI의 다른 모드가 있습니다.

첫 번째 생각은 이 생성 능력이 에세이 제작 측면에서 그렇게 큰 문제가 아닌 것 같다는 것입니다. 인터넷에서 쉽게 온라인 검색을 할 수 있고 링컨 대통령에 관한 수많은 에세이를 쉽게 찾을 수 있습니다. 제너레이티브 AI의 경우 키커는 생성된 에세이가 상대적으로 독특하고 모방이 아닌 독창적인 구성을 제공한다는 것입니다. AI가 제작한 에세이를 온라인 어딘가에서 찾으려고 하면 찾을 수 없을 것입니다.

제너레이티브 AI는 사전 훈련을 받았으며 웹 전반에 걸쳐 쓰여진 단어와 이야기의 패턴을 검사하여 설정된 복잡한 수학적 및 계산 공식을 사용합니다. 수천, 수백만 개의 글을 검토한 결과, AI는 발견된 것과 뒤죽박죽인 새로운 에세이와 이야기를 토해낼 수 있습니다. 다양한 확률적 기능을 추가함으로써 결과 텍스트는 훈련 세트에서 사용된 것과 비교할 때 매우 고유합니다.

그래서 학생들이 교실 밖에서 에세이를 쓸 때 부정행위를 할 수 있다는 소란이 일고 있는 것입니다. 교사는 속이는 학생이 자신의 글이라고 주장하는 에세이를 단순히 가져가서 다른 온라인 소스에서 복사되었는지 알아내려고 할 수 없습니다. 전반적으로 AI 생성 에세이에 맞는 결정적인 기존 에세이는 온라인에 없습니다. 결국 교사는 학생이 에세이를 원본 작품으로 썼다는 사실을 마지못해 인정해야 할 것입니다.

생성 AI에 대한 추가적인 우려가 있습니다.

한 가지 결정적인 단점은 생성 기반 AI 앱으로 생성된 에세이에 명백히 사실이 아닌 사실, 오해의 소지가 있는 사실, 완전히 조작된 명백한 사실 등 다양한 허위 정보가 포함될 수 있다는 것입니다. 이러한 조작된 측면은 종종 AI 환각, 내가 싫어하지만 안타깝게도 어쨌든 대중적인 관심을 끌고 있는 것 같은 캐치프레이즈입니다(왜 이것이 형편없고 부적합한 용어인지에 대한 자세한 설명은 여기 링크).

이 주제에 대해 깊이 들어가기 전에 한 가지 중요한 측면을 명확히 하고 싶습니다.

소셜 미디어에서 제너레이티브 AI 이 최신 버전의 AI가 실제로 지각 있는 AI (아니, 그들은 틀렸어!). AI 윤리 및 AI 법에 종사하는 사람들은 이러한 주장이 급증하는 추세에 대해 특히 우려하고 있습니다. 일부 사람들은 오늘날의 AI가 실제로 할 수 있는 일을 과장하고 있다고 정중하게 말할 수 있습니다. 그들은 AI가 우리가 아직 달성하지 못한 능력을 가지고 있다고 가정합니다. 운이 없었어. 설상가상으로, AI가 행동을 취하는 데 있어서 지각이 있거나 인간과 같을 것이라는 가정 때문에 그들은 자신과 다른 사람들이 끔찍한 상황에 빠지도록 허용할 수 있습니다.

AI를 의인화하지 마십시오.

그렇게 하면 AI가 수행할 수 없는 작업을 수행할 것으로 기대하는 끈끈하고 음침한 의존의 함정에 빠지게 됩니다. 즉, 최신 생성 AI는 수행할 수 있는 작업에 대해 상대적으로 인상적입니다. 생성 AI 앱을 사용할 때 지속적으로 염두에 두어야 할 중요한 제한 사항이 있다는 점에 유의하십시오.

ChatGPT 및 Generative AI에 대한 급속도로 확장되는 소동에 관심이 있으신 분을 위해 저는 제 칼럼에서 유익한 정보를 찾을 수 있는 집중 시리즈를 진행해 왔습니다. 다음은 이러한 주제 중 마음에 드는 항목이 있는 경우 한 눈에 볼 수 있는 내용입니다.

• 1) 제너레이티브 AI 발전의 예측. 제너레이티브 AI 및 ChatGPT의 향후 발전을 포함하여 2023년과 그 이후에 AI에 대해 무엇이 펼쳐질지 알고 싶다면 다음에서 2023년 예측에 대한 포괄적인 목록을 읽어보십시오. 여기 링크.
• 2) 생성 AI 및 정신 건강 조언. 집중 분석에 따라 생성 AI 및 ChatGPT가 정신 건강 조언, 골칫거리 추세에 어떻게 사용되고 있는지 검토하기로 했습니다. 여기 링크.
• 3) 생성 AI 및 ChatGPT의 기초. 이 글은 제너레이티브 AI가 작동하는 방식의 핵심 요소를 탐구하고 특히 다음에서 버즈 및 팡파르 분석을 포함하여 ChatGPT 앱을 자세히 살펴봅니다. 여기 링크.
• 4) 생성 AI와 ChatGPT를 둘러싼 교사와 학생 간의 긴장. 학생들이 제너레이티브 AI와 ChatGPT를 교묘하게 사용하는 방법은 다음과 같습니다. 또한 교사가 이 해일에 대처할 수 있는 방법이 있습니다. 보다 여기 링크.
• 5) 컨텍스트 및 생성 AI 사용. 또한 ChatGPT 및 생성 AI와 관련된 산타 관련 컨텍스트에 대해 계절에 따라 혀를 맞대고 조사했습니다. 여기 링크.
• 6) 생성 AI를 사용하는 사기꾼. 불길하게도 일부 사기꾼들은 사기 이메일을 생성하고 심지어 맬웨어용 프로그래밍 코드를 생성하는 등의 범죄를 저지르기 위해 생성 AI 및 ChatGPT를 사용하는 방법을 알아냈습니다. 여기 링크.
• 7) 제너레이티브 AI를 사용한 신인의 실수. 많은 사람들이 제너레이티브 AI와 ChatGPT가 할 수 있는 일을 오버슈팅하고 놀랍게도 언더슈팅하고 있습니다. 그래서 저는 특히 AI 신입생들이 하는 경향이 있는 언더슈팅을 살펴봤습니다. 토론을 참조하세요. 여기 링크.
• 8) 생성 AI 프롬프트 및 AI 환각에 대처. 적절한 프롬프트를 생성 AI에 입력하려고 시도하는 것과 관련된 다양한 문제를 처리하기 위해 AI 애드온을 사용하는 최첨단 접근 방식과 소위 AI 환각 출력 및 허위를 감지하기 위한 추가 AI 애드온이 있습니다. 에 덮여 여기 링크.
• 9) 제너레이티브 AI 제작 에세이 감지에 대한 Bonehead 주장 폭로. 주어진 에세이가 인간이 만든 것인지 AI가 생성한 것인지 확인할 수 있다고 주장하는 AI 앱의 잘못된 골드러시가 있습니다. 전반적으로 이것은 오해의 소지가 있으며 어떤 경우에는 뼈빠지고 지지할 수 없는 주장입니다. 여기 링크.
• 10) 제너레이티브 AI를 통한 롤플레잉은 정신 건강 문제를 예고할 수 있습니다.. 일부는 역할극을 하기 위해 ChatGPT와 같은 생성 AI를 사용하고 있는데, AI 앱은 마치 환상의 세계나 다른 구성 환경에 존재하는 것처럼 인간에게 반응합니다. 이것은 정신 건강에 영향을 미칠 수 있습니다. 여기 링크.
• 11) 출력된 오류 및 허위의 범위 노출. ChatGPT에서 생성된 오류 및 허위의 특성을 보여주기 위해 다양한 수집 목록이 함께 구성되고 있습니다. 어떤 사람들은 이것이 필수적이라고 믿는 반면, 다른 사람들은 운동이 무의미하다고 말합니다. 여기 링크.
• 12) Generative AI ChatGPT를 금지하는 학교는 배를 놓치고 있습니다. 뉴욕시(NYC) 교육부와 같은 다양한 학교에서 네트워크 및 관련 장치에서 ChatGPT 사용을 금지한다고 선언한 것을 알고 계실 것입니다. 이것은 도움이 되는 예방책으로 보일 수 있지만 바늘을 움직이지 않고 슬프게도 보트를 완전히 놓칩니다. 여기 링크.

ChatGPT가 GPT-3로 알려진 이전 AI 앱 버전을 기반으로 한다는 점이 흥미로울 것입니다. ChatGPT는 GPT-3.5라고 하는 약간 다음 단계로 간주됩니다. GPT-4는 2023년 봄에 출시될 것으로 예상됩니다. 아마도 GPT-4는 겉보기에 훨씬 더 유창해 보이는 에세이를 생성할 수 있고, 더 깊이 들어가며, 경외심을 갖게 한다는 점에서 인상적인 발전이 될 것입니다. -작성할 수 있는 구성에 대해 경이로움을 불러일으킵니다.

봄이 찾아오고 최신 생성 AI가 출시되면 놀라움을 표현하는 새로운 라운드를 볼 수 있습니다.

더 좋고 더 큰 생성 AI 앱에 대한 잠재적인 아킬레스건으로 구성된 염두에 두어야 할 또 다른 각도가 있기 때문에 이 문제를 제기합니다. 어떤 AI 공급업체가 거품을 내뿜는 생성 AI 앱을 제공하면 AI 제조업체의 희망이 무너질 수 있습니다. 사회적 유출로 인해 모든 생성 AI가 심각한 멍이 들 수 있습니다. 사람들은 이미 여러 번 발생했으며 AI에 대한 격렬한 사회적 비난 반발을 불러일으킨 잘못된 결과에 대해 의심할 여지 없이 상당히 화를 낼 것입니다.

지금은 하나의 마지막 예고입니다.

생성 AI 응답에서 보거나 읽는 모든 것 것 순전히 사실(날짜, 장소, 사람 등)로 전달하려면 회의적인 태도를 유지하고 보이는 것을 기꺼이 재확인해야 합니다.

예, 날짜를 조작할 수 있고 장소를 구성할 수 있으며 일반적으로 비난할 수 없는 요소는 다음과 같습니다. 모든 의심의 여지가 있습니다. 생성 AI 에세이 또는 결과물을 검토할 때 읽은 내용을 믿지 말고 회의적인 눈을 유지하십시오. 생성 AI 앱이 에이브러햄 링컨이 자신의 개인 제트기를 타고 전국을 날아다녔다고 알려준다면 의심할 여지 없이 이것이 나쁜 짓이라는 것을 알 것입니다. 불행하게도, 어떤 사람들은 그의 시대에 제트기가 없었다는 사실을 깨닫지 못할 수도 있고, 에세이가 이 뻔뻔스럽고 터무니없이 거짓된 주장을 하고 있다는 것을 알지만 알아채지 못할 수도 있습니다.

건전한 회의주의와 지속적인 불신의 마음가짐은 생성 AI를 사용할 때 최고의 자산이 될 것입니다.

우리는 이 설명의 다음 단계로 넘어갈 준비가 되어 있습니다.

야수 해방

이제 기초가 확립되었으므로 ChatGPT API 측면으로 인한 비즈니스 지향 및 사회적 영향에 대해 자세히 알아볼 수 있습니다.

Microsoft는 최근 OpenAI와 함께 Microsoft의 Azure 클라우드 플랫폼에서 곧 출시될 ChatGPT의 가용성에 대해 발표했습니다("Azure OpenAI 서비스의 일반 가용성으로 기업 혜택이 추가된 대규모 고급 AI 모델에 대한 액세스 확장"이라는 제목의 온라인 게시물에 따라). 16년 2023월 XNUMX일):

• “대규모 언어 모델은 사람들이 혁신하고, AI를 적용하여 큰 문제를 해결하고, 가능한 것을 상상하는 데 필수적인 플랫폼이 빠르게 되고 있습니다. 오늘 우리는 AI 민주화를 위한 Microsoft의 지속적인 노력과 OpenAI와의 지속적인 파트너십의 일환으로 Azure OpenAI 서비스의 일반 가용성을 발표하게 되어 기쁩니다. 이제 Azure OpenAI 서비스가 일반적으로 제공되므로 더 많은 기업이 GPT-3.5, Codex 및 DALL•E 2를 포함하여 신뢰할 수 있는 엔터프라이즈급 기능과 AI 최적화 인프라를 기반으로 하는 세계에서 가장 진보된 AI 모델에 대한 액세스를 신청할 수 있습니다. 최첨단 응용 프로그램을 만들기 위한 Microsoft Azure의 또한 고객은 곧 Azure OpenAI Service를 통해 Azure AI 인프라에서 훈련되고 추론을 실행하는 미세 조정된 GPT-3.5 버전인 ChatGPT에 액세스할 수 있습니다.”

그 성명서에서 OpenAI가 고안한 다른 다양한 AI 앱도 사용할 수 있다는 것을 눈치채셨을 것입니다. 실제로 이러한 AI 앱 중 일부는 이미 꽤 오랫동안 액세스할 수 있었습니다. 기업은 고객이 Azure 클라우드 및 컴퓨팅 인프라(보안, 안정성, 규정 준수, 데이터 개인 정보 보호 및 기본 제공되는 Responsible AI 기능)에서 기대하는 것을 약속합니다”(ibid).

앞서 AI 윤리와 AI 법 모두 좋은 AI 잠재력을 가진 포부 나쁜 인공 지능 때때로 발생할 수 있습니다. AI 영역 내에서 책임감있는 AI 또는 때때로 Trustworthy AI 또는 Human-Centered AI로 만들어졌습니다. 여기 링크. 모든 AI 제작자는 다음을 위해 AI를 고안하고 배치해야 합니다. 좋은 AI 축소하거나 완화하기 위해 노골적으로 노력합니다. 나쁜 인공 지능 나타날 수 있습니다.

이것은 무리한 명령입니다.

어쨌든 앞서 언급한 선언은 책임 있는 AI 고려 사항을 다루었습니다.

• “업계 리더로서 우리는 AI의 모든 혁신이 책임감 있게 이루어져야 한다는 것을 인식하고 있습니다. 이는 생성 모델과 같은 강력하고 새로운 기술을 통해 더욱 중요해집니다. 우리는 파트너인 OpenAI 및 고객과 긴밀히 협력하여 사용 사례를 신중하게 평가하고, 학습하고, 잠재적인 위험을 해결하면서 대규모 모델에 대해 반복적인 접근 방식을 취했습니다. 또한 책임 있는 AI 원칙에 부합하는 Azure OpenAI 서비스에 대한 자체 가드레일을 구현했습니다. 제한된 액세스 프레임워크의 일부로 개발자는 서비스에 대한 액세스 권한을 부여받기 전에 의도한 사용 사례 또는 애플리케이션을 설명하면서 액세스를 신청해야 합니다. 욕설, 증오 및 공격적인 콘텐츠를 포착하도록 고유하게 설계된 콘텐츠 필터는 서비스에 제공된 입력과 생성된 콘텐츠를 지속적으로 모니터링합니다. 정책 위반이 확인된 경우 추가 남용을 방지하기 위해 개발자에게 즉각적인 조치를 취하도록 요청할 수 있습니다.”(ibid).

Responsible AI 관점의 핵심은 프로그램 API 기반에서 ChatGPT에 액세스하기 위한 공식적인 요청을 요구함으로써 불미스러운 제출을 걸러낼 수 있다는 것입니다. 어떤 다른 회사와 그들의 프로그램이 ChatGPT에 액세스할 수 있는지 선택하는 데 적절한 실사가 있다면 아마도 출시된 Kraken의 완전한 분노를 막을 수 있는 전투 기회가 있을 것입니다.

예, 아닐 수도 있습니다.

일부 전문가들은 ChatGPT API를 사용하도록 허용하는 돈벌이 가능성이 야수를 합리적이고 안전하게 격리하려는 균형 잡힌 개념에 부담을 줄 것이라고 손을 비비고 있습니다. 면밀한 조사가 실제로 충분히 조심 스럽습니까? 대신 요청의 양이 감당할 수 없게 됨에 따라 느슨하고 끈적거리고 흔들리는 승인 프로세스가 발생하는 것을 볼 수 있습니까? 일부는 고양이가 가방에서 나온 후에야 뒤늦게 완전한 조사가 실제로 발생할 수 있다고 두려워하지만 그때까지는 이미 피해가 발생했을 것입니다.

글쎄, 당신은 관련된 심사 과정이 있다는 것을 적어도 인정할 수 있습니다. 일관된 심사 프로세스가 부족하거나 대략적인 피상적 성격을 지닌 일부 생성 AI 앱이 있습니다. 또한 약간의 라이선스 제한을 준수해야 하지만(이를 시행하는 것이 생각보다 어렵습니다) 일반적으로 원하는 거의 모든 사람이 사용할 수 있는 오픈 소스 버전의 생성 AI가 있습니다.

Azure OpenAI 서비스에 대한 액세스 제한과 관련된 기존 규칙을 간단히 살펴보고 잠재적으로 ChatGPT와 연결하기 위해 다른 소프트웨어 제조업체가 수행해야 할 작업을 살펴보겠습니다. 온라인에 게시된 Microsoft 정책(14년 2022월 XNUMX일로 표시된 최신 게시)에 따라:

• “책임감 있는 AI에 대한 Microsoft의 약속의 일환으로 개인과 사회의 권리를 보호하고 투명한 인간과 컴퓨터의 상호 작용을 촉진하려는 의도로 Azure OpenAI 서비스를 설계 및 출시하고 있습니다. 이러한 이유로 현재 콘텐츠 필터 수정 및 남용 모니터링 수정 기능에 대한 액세스 제한을 포함하여 Azure OpenAI의 액세스 및 사용을 제한하고 있습니다. Azure OpenAI는 등록이 필요하며 현재 Microsoft 계정 팀과 협력하는 관리 고객 및 파트너만 사용할 수 있습니다. Azure OpenAI를 사용하려는 고객은 실험을 위한 초기 액세스와 실험에서 프로덕션으로 이동하기 위한 승인을 위해 등록 양식을 제출해야 합니다.”
• “실험을 위해 고객은 등록 시 제출된 의도된 용도로만 서비스를 사용함을 증명하고 인적 감독, 입력 및 출력에 대한 강력한 기술적 제한, 피드백 채널 및 철저한 테스트를 통합할 것을 약속합니다. 프로덕션의 경우 고객은 위험을 완화하기 위해 이러한 기능이 어떻게 구현되었는지 설명합니다. 서비스에 온보딩한 후 콘텐츠 필터를 수정하고 남용 모니터링을 수정하려는 고객은 추가 시나리오 제한이 적용되며 여기에서 등록해야 합니다.”
• “Azure OpenAI 서비스에 대한 액세스는 자격 기준 및 심사 프로세스에 따라 Microsoft의 단독 재량에 따르며 고객은 Azure OpenAI 서비스에 대한 Azure 서비스 약관을 검토하고 동의했음을 인정해야 합니다. Microsoft는 고객에게 이 정보를 다시 확인하도록 요구할 수 있습니다. Azure OpenAI 서비스는 Microsoft 제품 조건의 Azure OpenAI 섹션을 포함하여 Microsoft Azure 서비스 구독에 적용되는 조건에 따라 고객에게 제공됩니다. Azure OpenAI 서비스 사용에 적용되는 중요한 조건 및 의무가 포함되어 있으므로 이 약관을 주의 깊게 검토하십시오.”

그것은 Microsoft 측의 것입니다.

OpenAI에는 API와 관련된 사용 정책도 있습니다.

• “우리는 모든 사람이 API를 안전하고 책임감 있게 사용할 수 있기를 바랍니다. 이를 위해 사용 사례 및 콘텐츠 정책을 만들었습니다. 이를 따르면 우리 기술이 선을 위해 사용되는지 확인하는 데 도움이 됩니다. 제품이 이러한 정책을 준수하지 않는 것으로 확인되면 필요한 변경을 요청합니다. 준수하지 않으면 계정 종료를 포함하여 추가 조치를 취할 수 있습니다.”
• "우리는 다음 사용 사례를 대상으로 하는 제품 구축을 금지합니다."
• "- 불법 또는 유해 산업"
• “— 개인 데이터의 오용”
• "- 부정직 조장"
• “— 이용자를 속이거나 조종하는 행위”
• “—정치에 영향을 미치려 한다”
• “형사 사법, 법 집행, 법률, 정부 및 공무원 서비스, 의료, 치료, 웰빙, 코칭, 금융, 뉴스와 같은 사용 사례 집합은 잠재적인 피해의 위험이 더 큽니다. 이러한 사용 사례의 경우 다음을 수행해야 합니다.”
• "1) 사용 사례에서 정확성을 위해 모델을 철저히 테스트하고 제한 사항에 대해 사용자에게 투명하게 표시하십시오."
• "2) 팀이 도메인 전문 지식을 갖추고 관련 법률을 이해/준수하는지 확인하십시오."
• "또한 귀하 또는 귀하의 애플리케이션 최종 사용자가 다음 유형의 콘텐츠를 생성하는 것을 허용하지 않습니다."
• "- 싫어하다"
• “— 괴롭힘”
• "- 폭행"
• "- 자해"
• “— 성적”
• "- 정치적인"
• "- 스팸"
• “— 속임수”
• “— 멀웨어”

큰 문제는 ChatGPT 연결 요청이 쇄도할 경우 이러한 이상을 관찰할 수 있는지 여부입니다. 아마도 엄청난 요청의 쓰나미가 있을 것입니다. 각각을 조사하고 신중하게 조사하는 인적 노동은 비용이 많이 들고 관리하기 어려울 수 있습니다. 액세스에 대한 막대한 요구에 직면하여 적절하게 제한하려는 욕구가 무심코 줄어들까요?

유명한 재담에 따르면, 때때로 최상의 계획은 풍부한 세력과의 첫 번째 접촉에서 산산조각 날 수 있습니다.

명시된 규칙을 해석하는 방법에도 많은 여지가 있습니다. 잘못된 정보와 잘못된 정보의 증가에 대해 일반적으로 살펴보았듯이 밀과 쭉정이를 분리하는 것은 상당히 어려울 수 있습니다. 생성된 콘텐츠가 증오성, 정치적, 기만성 등의 조항을 준수하는지 위반하는지 여부를 어떻게 판단합니까?

프로그램을 ChatGPT와 페어링하는 소프트웨어 제조업체가 ChatGPT API를 사용할 수 있고 그 결과 출력이 명시된 규칙을 명백히 위반하는 경우 말은 이미 헛간에서 나올까요? 일부는 관련된 모든 당사자에게 발생할 수 있는 평판 손상 가능성이 높다고 제안합니다. 특정 위반자에 대한 API를 단순히 해제함으로써 이를 극복할 수 있는지 여부는 불분명합니다. 어떤 의미에서 피해는 오래 지속되어 배럴을 망칠 수 있습니다. 모든 사람들에게 많은 비난이 쏟아질 것입니다.

API 페어링 계층화

앞에서 ChatGPT와의 페어링을 두 가지 주요 의도로 편리하게 그룹화할 수 있다고 언급했습니다.

• ChatGPT와 정품 페어링
• ChatGPT와 가짜 페어링

먼저 정품 또는 선의의 페어링을 살펴보겠습니다.

배경으로 이것이 발생하는 방식은 다소 간단합니다. ChatGPT 앱을 사용하면 다른 프로그램에서 앱을 호출할 수 있습니다. 일반적으로 이것은 ChatGPT에 텍스트 형식의 프롬프트를 전달하는 Widget이라고 하는 프로그램으로 구성되며, ChatGPT가 작업을 수행한 후 에세이 또는 텍스트가 프로그램 Widget에 반환됩니다. 이것은 거의 사람이 같은 일을 하는 것과 같지만, 프로그램이 사람이 하는 대신 그러한 행동을 하도록 할 것입니다.

예를 들어 누군가가 웹에서 검색을 수행하는 프로그램을 고안했다고 가정합니다. 프로그램은 사용자에게 무엇을 검색하고 싶은지 묻습니다. 그런 다음 이 프로그램은 사용자 쿼리를 기반으로 관련 웹 사이트를 보여줄 수 있는 다양한 검색 히트 목록을 사용자에게 제공합니다.

이 웹 검색 프로그램을 만드는 회사가 앱을 멋지게 꾸미고 싶어한다고 상상해 보십시오.

그들은 ChatGPT API에 대한 액세스를 요청합니다. 그들이 모든 적절한 서류 작업을 수행하고 궁극적으로 승인을 받는다고 가정합니다. 그런 다음 API를 통해 ChatGPT 앱에 대한 호출을 포함하도록 웹 검색을 수행하는 프로그램을 수정해야 합니다. 그들이 해당 모드를 만들기로 선택했다고 가정합니다.

이것이 완전히 작동하는 방법은 다음과 같습니다. 사용자가 코어 프로그램에 웹 검색 쿼리를 입력하면 이 프로그램은 기존의 웹 검색을 수행할 뿐만 아니라 API를 통해 쿼리를 ChatGPT로 전달합니다. 그런 다음 ChatGPT는 텍스트를 처리하고 결과 에세이를 핵심 프로그램에 반환합니다. 웹 검색 핵심 프로그램은 이제 사용자에게 두 가지 측면, 즉 웹 검색 결과와 ChatGPT에서 추가로 출력된 에세이를 제공합니다.

이 핵심 프로그램을 사용하는 사람은 ChatGPT가 백엔드에서 사용되고 있다는 사실을 반드시 알 필요는 없습니다. 핵심 프로그램의 범위 내에서 발생할 수 있으며 사용자는 ChatGPT가 관련되어 있다는 사실을 다행스럽게도 인식하지 못합니다. 반면에 ChatGPT가 사용되고 있음을 사용자에게 알리기 위해 핵심 프로그램을 고안할 수 있습니다. 이것은 일반적으로 핵심 프로그램의 제작자가 다른 앱(이 경우 ChatGPT)이 사용되고 있음을 밝히기를 원하는지 여부에 달려 있습니다. 일부 배열에서 호출 중인 프로그램의 제작자는 API 호출 프로그램이 다른 프로그램이 사용되고 있음을 사용자에게 알려야 한다고 주장합니다. 그것은 모두 기본 설정 및 라이선스 세부 사항에 따라 다릅니다.

진정한 페어링을 위한 일반적인 접근 방식은 다음과 같습니다.

• 1) ChatGPT로 바로 연결
• 2) ChatGPT를 보강하는 애드온
• 3) ChatGPT와 연동되는 연동앱
• 4) ChatGPT와 완전히 통합된 몰입감

간단히 말해서 첫 번째 나열된 접근 방식에서 아이디어는 ChatGPT의 프런트엔드에 불과한 프로그램을 고안할 수 있다는 것입니다. 따라서 내 프로그램은 텍스트를 ChatGPT로 전달하고 ChatGPT에서 텍스트를 다시 가져옵니다. 저는 ChatGPT를 사용하기를 원하거나 사용하기 위해 등록하지 않은 모든 사람을 위해 제 프로그램을 제공합니다. 이것은 하나의 접근법입니다.

둘째, ChatGPT의 애드온 역할을 하는 프로그램을 고안할 수 있습니다. 예를 들어 ChatGPT가 에세이를 생성할 때 허위 내용이 포함될 수 있습니다. ChatGPT 출력을 검사하고 거짓 여부를 가려내는 프로그램을 만든다고 가정해 보겠습니다. 사람들이 내 프로그램에 텍스트 프롬프트를 입력하면 ChatGPT로 메시지가 전송되도록 내 프로그램을 사용할 수 있습니다. ChatGPT는 내 프로그램으로 돌아가는 에세이를 생성합니다. 내 프로그램은 에세이를 보여주기 전에 에세이를 사전 검열하고 거짓을 표시하거나 제거하려고 시도합니다. 그런 다음 내 프로그램이 심사를 마친 후 결과 에세이를 볼 수 있습니다.

세 번째 접근 방식은 의미상 ChatGPT와 일치하는 연합 앱을 갖는 것으로 구성됩니다. 사람들이 창의적인 글쓰기를 하도록 돕는 프로그램을 개발한다고 가정해 보겠습니다. 내 프로그램은 창의적으로 작성하는 방법에 대한 통조림 팁과 제안을 제공합니다. 프로그램은 사용자가 그렇게 하도록 재촉하거나 자극할 뿐입니다. 한편, 내가 할 수 있기를 바라는 것은 사용자에게 창의적인 글쓰기가 무엇으로 구성되어 있는지 보여주는 것입니다. 그래서 ChatGPT로 API를 구축합니다. 그런 다음 내 프로그램은 사용자로부터 프롬프트를 받고 ChatGPT를 호출하여 창의적인 글쓰기를 시연할 수 있는 에세이를 제공합니다. 이 작업은 반복적으로 수행할 수 있으며 프로세스에서 ChatGPT를 여러 번 호출할 수 있습니다.

나열된 네 번째 접근 방식의 경우 ChatGPT는 일부 다른 프로그램 또는 프로그램 집합에 완전히 통합됩니다. 예를 들어 워드 프로세싱 앱과 스프레드시트 앱이 있다면 ChatGPT를 해당 앱에 통합하고 싶을 수 있습니다. 그들은 말하는 방식으로 서로 손을 잡고 기능할 것입니다. Microsoft가 ChatGPT를 사무실 생산성 제품군에 주입하도록 선택할 수 있는 떠다니는 가능성을 게시하는 다음 칼럼에서 다룰 예정이므로 향후 분석을 살펴보십시오.

그런 다음 진정한 페어링이 발생할 수 있는 주요 방법입니다.

다음으로 일부 가짜 페어링을 살펴보겠습니다.

다음은 주의해야 할 전반적인 가짜 페어링입니다.

• ChatGPT와 속임수 페어링 – ChatGPT를 약간 활용하며, 주로 쇼를 위해 수행되며 추가 가치 없이 홍보를 얻습니다.
• ChatGPT 페어링에 대한 매혹적인 약속 – 소프트웨어 공급업체는 그들이 ChatGPT와 페어링하는 중이며 빛나는 스포트라이트를 받기 위해 노력하고 있다고 주장하지만 실제로는 그렇게 하지 않을 것이며 고전적인 헤드 페이크를 수행하고 거짓 서약을 하고 있습니다.
• ChatGPT와 유사하다고 주장하는 모조품 – 일부 소프트웨어 공급업체는 ChatGPT와 페어링하는 대신 다른 것을 사용하는데 이는 괜찮지만 ChatGPT가 아닌 경우 ChatGPT임을 암시하려고 시도하여 ChatGPT의 여운을 일부 얻을 수 있기를 바랍니다.
• 기타 – 많은 추가 확장 및 속임수 계획을 생각할 수 있습니다.

의심 할 여지없이이 모든 것에 대해 많은 속임수가있을 것입니다. 그것은 Kraken 출시의 일부가 될 것입니다.

결론

이 문제에 렌치와 다른 장애물을 던질 수 있습니다.

비용은 어떻습니까?

현재 ChatGPT를 사용하기 위해 가입한 사람들은 무료로 사용하고 있습니다. 나는 이전에 어떤 시점에서 완전한 수익 창출이 필요하다고 언급한 바 있습니다. 여기에는 거래당 수수료가 부과되거나 구독료를 지불하는 것이 포함될 수 있습니다. 또 다른 가능성은 광고를 사용하여 돈을 벌 수 있다는 것입니다. 그러면 ChatGPT를 사용할 때마다 광고가 표시됩니다. 등.

API를 통해 ChatGPT와 페어링을 설정하기로 선택한 사람들은 관련된 잠재적 비용에 대해 진지하게 고민해야 합니다. ChatGPT 앱 실행을 위한 Microsoft Azure 클라우드 사용과 관련된 비용이 있을 수 있습니다. OpenAI에서 ChatGPT API를 사용하고 AI 앱을 호출하려면 비용이 발생합니다. 소프트웨어 공급업체는 API를 사용하기 위해 기존 프로그램을 수정하거나 ChatGPT와의 페어링을 중심으로 프로그램을 새로 개발하는 것과 같은 자체 내부 비용도 발생합니다. 시작 비용과 지속적인 유지 비용을 모두 구상하십시오.

요점은 이러한 비용 계층화가 ChatGPT API 활용을 향한 골드러시를 어느 정도 완화할 것이라는 것입니다. 소프트웨어 공급업체는 아마도 신중한 ROI(투자 수익) 계산을 수행해야 합니다. ChatGPT를 사용하여 프로그램을 보강함으로써 그들이 할 수 있는 모든 것이 비용을 상쇄하기에 충분한 추가 자금을 가져올까요?

모든 사람이 반드시 그렇게 비용에 민감한 것은 아닙니다. 자금이 풍부하고 ChatGPT를 사용하여 프로그램을 가장 유명하거나 인지도가 높은 앱 영역으로 끌어올릴 수 있다고 생각한다면 지금 비용이 그만한 가치가 있다고 결정할 수 있습니다. ChatGPT의 코트테일을 타고 앱의 이름을 지어보세요. 나중에 프로그램이 인기를 얻거나 다른 방법으로 돈을 벌면 이전의 이익 부족을 보충하거나 큰 성공을 거두는 데 필요한 비용으로 처리합니다.

벤처 캐피털(VC) 회사의 지원을 받는 소규모 스타트업은 ChatGPT API와 짝을 이루기 위해 시드 투자의 상당 부분을 기꺼이 포기할 수 있습니다. 명성이 즉시 생길 수 있습니다. 운은 먼 길을 갈 수 있지만 나중에 다루어야 할 문제입니다. 그들이 말하는 것처럼 얻는 것이 좋을 때 각광을 받으십시오.

비영리단체와 사회적 기업이 이에 대한 결정을 내릴 수도 있다고 가정합니다. 비영리 회사가 이타적이거나 사회적으로 유익한 목표를 지원하는 것으로 보이는 ChatGPT API 호출의 유익한 사용을 식별했다고 가정합니다. 아마도 그들은 온라인 펀딩 캠페인을 통해 이를 위한 기금을 모금할 것입니다. 아마도 그들은 소액의 금액을 지불하거나 무료로 사용할 수 있도록 공급업체와 거래를 끊으려고 할 것입니다.

시간이 말해주 겠지.

마지막으로 알려드릴 사항은 위험 요인입니다.

지나치게 낙관적으로 보이고 싶지는 않지만 앞서 ChatGPT의 출력에 거짓이 포함될 수 있고 다른 잠재적인 단점이 있을 수 있다고 언급했습니다. 문제는 앱을 만드는 소프트웨어 공급업체가 ChatGPT API를 사용하는 데 혼합되면 예상해야 할 신랄하고 음침한 결과가 나올 위험이 있다는 것입니다. 모래에 머리를 넣지 마십시오.

이러한 출력이 이를 활용하기로 선택한 앱을 오염시킬 수 있다는 문제가 발생합니다. 그런 의미에서 처음에 ChatGPT의 영광을 누리고 있는 앱도 ChatGPT를 통해 제공되는 출력에 의존하는 경우 결국 벽돌 벽에 부딪힐 수 있습니다. 아마도 출력이 사용자에게 제공되고 이로 인해 끔찍한 소동이 발생합니다. 그들은 당신과 당신의 앱에 대한 분노를 표출합니다.

차례로 ChatGPT에서 손가락질을 시도합니다. 수수께끼에서 벗어날 수 있습니까? 악취가 나면 널리 퍼지고 거의 남지 않습니다. 이러한 맥락에서 ChatGPT의 사용 확대를 통해 파울 출력에 대한 인식이 더 일반적으로 알려질 수 있습니다. 따라서 이상하게도 또는 아이러니하게도 API로 인해 ChatGPT의 사용이 확장되면 발을 쏠 수 있습니다.

슬픈 얼굴로 발언을 끝내고 싶지 않으니 행복한 얼굴로 바꿔보자.

모든 목표 제한과 제약 사항을 신중하고 신중하게 따르고 엄격하게 준수한다면 API를 통해 ChatGPT를 활용하는 것이 좋을 수 있습니다. 이것이 다른 생성 AI 앱을 더욱 활성화할 가능성도 있습니다. 밀물은 모든 배를 떠 ​​올릴 수 있습니다.

낙관적 인 것 같습니다.

Zeus가 Kraken을 통제하고 있다고 말한 것을 알고 계실 것입니다. 고대 그리스의 극작가 소포클레스는 제우스에 대해 이렇게 말했습니다. “제우스의 주사위는 항상 운 좋게 떨어진다.”

아마도 생성 AI가 어떻게 필연적으로 착륙할지에 대해서도 마찬가지일 것입니다. 적어도 그렇게 되기를 바랍니다.