Generative AI ChatGPT는 개인 및 기밀 데이터를 방해할 수 있으며 AI 윤리 및 AI 법을 미리 경고합니다.

이제 데이터가 표시되지만 표시되지 않습니다.

한편, 귀하의 소중한 데이터는 그대로 집단의 일부가 되었습니다.

최신 인공 지능(AI)을 간절하고 진지하게 사용하고 있는 분들에게는 상당히 놀라운 측면을 언급하고 있습니다. AI 앱에 입력하는 데이터는 잠재적으로 귀하와 귀하에게만 완전히 비공개가 아닙니다. 귀하의 데이터는 AI 제작자가 아마도 AI 서비스를 개선하기 위해 활용하거나 다양한 목적을 위해 그들 및/또는 동맹 파트너에 의해 사용될 수 있습니다.

당신은 이제 미리 경고를 받았습니다.

이러한 데이터 양도는 가장 무해한 방식으로 잠재적으로 수천 또는 수백만 명의 사람들에 의해 발생합니다. 어때? 최근 큰 헤드라인을 장식하고 대중의 열광적인 관심을 받은 생성 AI로 알려진 AI 유형이 있습니다. 기존 생성 AI 앱 중 가장 주목할만한 것은 OpenAI 회사에서 고안한 ChatGPT라는 앱입니다.

ChatGPT에는 약 백만 명의 등록 사용자가 있는 것으로 알려져 있습니다. 많은 사용자들이 이 최신 최신 생성 AI 앱을 사용하는 것을 좋아하는 것 같습니다. 프로세스는 매우 간단합니다. 프롬프트로 텍스트를 입력하면 ChatGPT 앱이 일반적으로 에세이 형식의 텍스트 출력을 생성합니다. 어떤 사람들은 이것을 텍스트 대 텍스트라고 부르지만, 나는 이 말이 더 일상적으로 이해되기 때문에 텍스트에서 에세이로 표시하는 것을 선호합니다.

처음에는 초보자 사용자가 재미있고 평온한 무언가를 입력할 것입니다. 조지 워싱턴의 삶과 시대에 대해 말해주세요. 누군가 프롬프트로 들어올 수 있습니다. ChatGPT는 전설적인 초대 회장에 대한 에세이를 작성합니다. 에세이는 완전히 유창할 것이고 AI 앱에 의해 작성되었다는 것을 분별하기 어려울 것입니다. 흥미로운 일이 발생합니다.

잠시 동안 플레이한 후 초보자 사용자 중 일부는 만족감을 느끼고 잠재적으로 ChatGPT를 가지고 노는 것을 중단할 가능성이 있습니다. 그들은 거의 모든 사람들이 수다를 떨고 있는 AI 앱을 실험한 후 이제 FOMO(놓칠까 하는 두려움)를 극복했습니다. 증서가 완료되었습니다.

그러나 일부는 생성 AI를 사용하는 다른 더 진지한 방법에 대해 생각하기 시작할 것입니다.

아마도 ChatGPT를 사용하여 당신의 상사가 당신에게 작성하라고 괴롭힌 메모를 작성할 수 있습니다. 당신이 해야 할 일은 당신이 염두에 두고 있는 글머리 기호로 프롬프트를 제공하는 것입니다. 그리고 당신이 알고 있는 다음 일은 당신의 상사가 당신을 자랑스러워할 전체 메모가 ChatGPT에 의해 생성되었다는 것입니다. ChatGPT에서 출력된 에세이를 복사하여 워드 프로세싱 패키지의 회사 공식 템플릿에 붙여넣고 고급 메모를 관리자에게 이메일로 보냅니다. 당신은 백만 달러의 가치가 있습니다. 그리고 당신은 당신을 위해 힘든 일을 할 편리한 도구를 찾기 위해 두뇌를 사용했습니다. 등을 쓰다듬어 보세요.

그게 전부는 아니야.

예, 더 있습니다.

생성 AI는 수많은 다른 쓰기 관련 작업을 수행할 수 있습니다.

예를 들어 소중한 고객을 위해 어떤 종류의 내러티브를 작성했으며 자료가 출시되기 전에 검토를 받고 싶다고 가정합니다.

쉬워요.

내러티브의 텍스트를 ChatGPT 프롬프트에 붙여넣은 다음 ChatGPT가 작성한 텍스트를 분석하도록 지시합니다. 그 결과로 출력된 에세이는 당신의 말을 깊이 파고들 수 있고, 놀랍게도 당신이 말한 것의 의미를 검사하는 것처럼 보일 것입니다(맞춤법 검사기 또는 문법 분석기 역할을 훨씬 뛰어넘음). AI 앱은 내러티브 논리의 결함을 감지하거나 자신의 글에서 깨닫지 못한 모순을 발견할 수 있습니다. 그것은 거의 교활한 인간 편집자를 고용하여 초안을 주시하고 유용한 제안과 지적된 우려 사항을 제공하는 것과 같습니다. AI 앱은 단순한 컴퓨터 프로그램일 뿐).

소중한 서면 내러티브를 면밀히 조사하기 위해 생성 AI 앱을 사용해 주셔서 감사합니다. 소중한 고객에게 문서를 보낸 후가 아니라 AI가 불안한 서면 문제를 찾는 것을 의심할 여지 없이 선호할 것입니다. 매우 중요한 묘사를 고안하기 위해 당신을 고용한 누군가를 위해 내러티브를 구성했다고 상상해보십시오. 고객에게 원본 버전을 제공했다면 AI 앱 검토를 수행하기 전에 큰 난처를 겪을 수 있습니다. 의뢰인은 요청받은 작업을 수행할 수 있는 귀하의 기술에 대해 거의 확실하게 심각한 의심을 품을 것입니다.

분담금을 올리자.

법률 문서 작성을 고려하십시오. 그것은 분명히 특히 심각한 문제입니다. 단어와 그 구성 방식은 활기찬 법적 변호 또는 음울한 법적 재난을 철자할 수 있습니다.

진행 중인 연구와 컨설팅에서 저는 법률 분야에서 AI를 사용하는 데 관심이 많은 많은 변호사들과 정기적으로 교류하고 있습니다. 다양한 LegalTech 프로그램이 AI 기능과 연결되고 있습니다. 변호사는 생성 AI를 사용하여 계약서 초안을 작성하거나 기타 법률 문서를 작성할 수 있습니다. 또한 변호사가 직접 초기 초안을 작성한 경우 텍스트를 ChatGPT와 같은 생성 AI 앱에 전달하여 어떤 구멍이나 틈이 감지될 수 있는지 살펴볼 수 있습니다. 변호사와 법률 분야에서 AI를 사용하기로 선택한 방법에 대한 자세한 내용은 여기 링크.

우리는 이것에 대한 문지름에 대한 준비가 되어 있습니다.

변호사가 계약서 초안을 작성하고 텍스트를 ChatGPT 프롬프트에 복사합니다. AI 앱은 변호사를 위한 리뷰를 생성합니다. ChatGPT에서 몇 가지 문제점을 발견한 것으로 나타났습니다. 변호사가 계약을 수정합니다. 또한 ChatGPT에게 작성된 텍스트의 단어 변경 또는 다시 실행을 제안하도록 요청할 수 있습니다. 그런 다음 생성 AI 앱에서 새롭고 더 나은 계약 버전을 생성합니다. 변호사는 출력된 텍스트를 집어 워드 프로세싱 파일에 넣습니다. 오프 서신은 고객에게 전달됩니다. 임무 완수.

방금 무슨 일이 일어났는지 추측할 수 있습니까?

무대 뒤에서, 후드 아래에서 계약은 물고기가 고래의 입으로 삼켜지듯 삼켜졌을 수도 있습니다. AI를 사용하는 이 변호사는 깨닫지 못할 수도 있지만 ChatGPT에 프롬프트로 배치된 계약서 텍스트가 잠재적으로 AI 앱에 의해 삼켜질 수 있습니다. 이제 AI 앱의 패턴 일치 및 기타 계산 복잡성을 위한 사료입니다. 이것은 차례로 다양한 방법으로 사용될 수 있습니다. 초안에 기밀 데이터가 있는 경우 그것도 잠재적으로 ChatGPT의 범위 내에 있습니다. AI 앱에 제공되는 프롬프트는 이제 표면적으로 어떤 식으로든 집단의 일부입니다.

또한 출력된 에세이도 집합체의 일부로 간주됩니다. ChatGPT에 초안을 수정하고 계약서의 새 버전을 제시하도록 요청했다면 이는 출력된 에세이로 해석됩니다. ChatGPT의 출력은 AI 앱에 의해 유지되거나 변형될 수 있는 콘텐츠 유형이기도 합니다.

이런, 당신은 개인 또는 기밀 정보를 무고하게 제공했을 수 있습니다. 안좋다. 게다가, 당신은 당신이 그렇게 했다는 사실조차 인식하지 못할 것입니다. 플래그가 제기되지 않았습니다. 뿔이 울리지 않았습니다. 현실에 충격을 주기 위해 번쩍이는 불빛이 꺼지지 않았습니다.

변호사가 아닌 사람이 그런 실수를 쉽게 할 수 있다고 예상할 수 있지만, 노련한 변호사가 같은 신인 실수를 하는 것은 거의 상상할 수 없는 일입니다. 그럼에도 불구하고 현재 이와 동일한 잠재적인 실수를 저지르는 법률 전문가가 있을 가능성이 있습니다. 그들은 변호사-의뢰인 특권의 주목할 만한 요소를 위반하고 미국 변호사 협회(ABA) 전문직 행위에 관한 모델 규칙(MRPC)을 위반할 가능성이 있습니다. 특히: "변호사는 의뢰인이 정보에 입각한 동의를 하지 않거나, 공개가 대리를 수행하기 위해 묵시적으로 승인되거나 (b)항에 의해 공개가 허용되지 않는 한 의뢰인의 대리와 관련된 정보를 공개해서는 안 됩니다." MRPC, 하위 섹션 b와 관련된 예외는 비보안 방식으로 생성 AI 앱을 사용하는 것을 포함하지 않는 것 같습니다).

일부 변호사는 자신이 기술 마법사가 아니며 생성 AI 앱에 기밀 정보를 입력하는 것이 일종의 위반일 수 있다는 것을 알 준비가 된 수단이 없었을 것이라고 주장함으로써 자신의 범법을 변명하려고 할 수 있습니다. ABA는 변호사의 의무가 법적 관점에서 AI 및 기술에 대한 최신 정보를 포함한다는 점을 분명히 했습니다. 관련 기술과 관련된 이점 및 위험, 지속적인 연구 및 교육에 참여하고 변호사가 적용되는 모든 지속적인 법률 교육 요구 사항을 준수합니다.”(MRPC에 따라).

클라이언트 기밀 정보 유지(규칙 1.6), 데이터와 같은 클라이언트 재산 보호(규칙 1.15), 클라이언트와 적절하게 통신(규칙 1.4), 클라이언트 정보에 입각한 동의 얻기(규칙 1.6), 고객을 대신하여 유능한 대표를 보장합니다(규칙 1.1). 그리고 ABA가 통과한 잘 알려지지 않았지만 매우 주목할만한 AI 중심 결의안도 있습니다. (1) AI가 내린 자동화된 결정의 편견, 설명 가능성 및 투명성; (2) AI의 윤리적이고 유익한 사용; (3) AI 및 AI를 제공하는 공급업체에 대한 통제 및 감독.”

법적인 친구와 동료들에게 현명한 말을 전합니다.

문제의 핵심은 생성 AI를 사용할 때 거의 모든 사람이 잼에 빠질 수 있다는 것입니다. 변호사가 아닌 사람들은 법적 감각이 부족하다고 생각하여 그렇게 할 수 있습니다. 변호사도 그렇게 할 수 있습니다. 아마도 AI에 매혹되었거나 심호흡을 하지 않고 생성 AI를 사용할 때 발생할 수 있는 법적 영향에 대해 반성할 수 있습니다.

우리 모두는 잠재적으로 같은 배를 타고 있습니다.

또한 ChatGPT가 블록에 있는 유일한 생성 AI 앱이 아니라는 점을 인식해야 합니다. 사용할 수 있는 다른 생성 AI 앱이 있습니다. 즉, 프롬프트로 입력한 입력과 생성된 출력된 에세이로 받은 출력은 집단의 일부로 간주되며 AI 제작자가 사용할 수 있습니다.

오늘 칼럼에서는 개인 정보 보호 및 기밀 유지와 관련하여 사용자가 입력하는 데이터와 생성 AI에서 받은 데이터가 잠재적으로 손상될 수 있는 특성에 대해 설명합니다. AI 제조업체는 라이센스 요구 사항을 제공하며 실제 데이터와 유사한 AI 앱을 적극적으로 사용하기 전에 이러한 중요한 규정을 읽는 것이 좋습니다. ChatGPT AI 앱에 대해 그러한 라이선스의 예를 안내해 드리겠습니다.

이 모든 것에는 많은 AI 윤리 및 AI 법률 고려 사항이 있습니다.

윤리적 AI 원칙을 AI 앱의 개발 및 배치에 반영하려는 노력이 계속되고 있음을 인지하시기 바랍니다. AI를 고안하고 채택하려는 노력이 좋은 AI 그리고 회피 나쁜 인공 지능. 마찬가지로 AI 노력이 인권 등에 영향을 미치지 않도록 잠재적 솔루션으로 제안된 새로운 AI 법률이 있습니다. AI 윤리 및 AI 법에 대한 지속적이고 광범위한 내용은 다음을 참조하십시오. 여기 링크 와 여기 링크, 다만 약간을 지명하기 위하여.

AI 제작자가 사용자에게 사적이거나 기밀로 보이는 데이터 또는 정보를 처리할 수 있거나 처리해야 하는 방법과 관련된 중요한 윤리적 AI 뉘앙스와 조항이 있습니다. 많은 기존 법률이 기술 주체가 데이터를 처리하는 방식의 핵심에 영향을 미친다는 사실도 알고 있을 것입니다. 새로 제안된 AI 법률도 동일한 영역으로 교차할 가능성이 있습니다. 예를 들어 내 적용 범위를 참조하십시오. AI 권리 장전 AI에 관한 기타 법적 논쟁, 여기 링크.

다음은 이 토론에서 얻은 핵심 내용입니다.

• 제너레이티브 AI를 사용할 때 프롬프트에 어떤 데이터나 정보를 입력할지 매우, 매우, 매우 신중해야 합니다. 마찬가지로 출력도 흡수될 수 있으므로 어떤 종류의 에세이를 얻을 수 있는지 매우 신중하고 예상해야 합니다.

이것이 생성 AI를 사용해서는 안 된다는 것을 의미합니까?

아니, 그건 내가 말하는 게 전혀 아니야.

마음껏 제너레이티브 AI를 사용하세요. 요점은 사용 방법에 유의해야 한다는 것입니다. 사용과 관련된 라이선스 규정의 종류를 알아보십시오. 이러한 규정에 따라 생활할 수 있는지 여부를 결정하십시오. 특정 종류의 추가 보호 또는 허용을 호출하고 싶다고 AI 제작자에게 알릴 수 있는 방법이 있는 경우 그렇게 해야 합니다.

나는 또한 일부 사람들을 화나게 만들 것이라는 것을 깨닫는 또 다른 측면을 언급할 것입니다. 여기 간다. 라이선스 규정이 무엇이든 간에 이러한 요구 사항이 완전히 준수되지 않을 가능성도 있다고 가정해야 합니다. 상황이 잘못될 수 있습니다. 균열 사이로 물건이 미끄러질 수 있습니다. 결국에는 규정을 준수하지 않는 AI 제조업체에 대해 법적 소송을 제기할 수도 있지만 말이 이미 헛간에서 나온 후 어느 정도입니다.

잠재적으로 매우 안전한 진행 방법은 클라우드 또는 사내에 관계없이 자신의 시스템에 자신의 인스턴스를 설정하는 것입니다. 소프트웨어 벤더의 클라우드를 사용하는 것보다 자체 클라우드에서 꺼짐). 하지만 약간의 성가신 문제는 현재 이를 허용하는 생성 AI 대규모 앱이 거의 없다는 것입니다. 그들은 모두 우리의 클라우드 전용 기반에서 거의 작동하고 있습니다. 귀하만을 위해 전체 인스턴스를 조각하는 옵션을 제공하는 사람은 거의 없습니다. 나는 우리가 점차적으로 이 옵션이 발생하는 것을 보게 될 것이라고 예측했지만 처음에는 다소 비용이 많이 들고 다소 복잡할 것입니다. 여기 링크.

그렇지 않으면 특히 똑똑하고 특히 기민한 사람들이 어떻게 데이터 또는 정보 기밀성 침식 수렁에 빠지게 될까요?

이러한 생성 AI 앱의 매력은 일단 사용하기 시작하면 매우 매력적입니다. 단계적으로, 당신은 자신이 최면에 걸리고 생성 AI 물에 발가락을 점점 더 깊숙이 넣도록 선택하는 것을 발견합니다. 다음으로 알 수 있는 것은 비공개 및 기밀로 유지되어야 하는 독점 콘텐츠를 생성 AI 앱에 쉽게 넘겨주는 것입니다.

충동을 억제하고 불미스러운 함정에 단계적으로 빠지지 마십시오.

비즈니스 리더와 최고 경영진의 경우 동일한 경고가 귀하와 회사 전체의 모든 사람들에게 전달됩니다. 고위 간부들도 제너레이티브 AI 사용에 대한 열정과 놀라움에 휩싸입니다. 그들은 정말 엉망이 될 수 있고 잠재적으로 최상위 수준의 비밀 정보를 AI 앱에 입력할 수 있습니다.

게다가 직원들로 구성된 다양한 리그가 생성 AI를 가지고 놀 수도 있습니다. 다른 면에서 유념하는 많은 직원들은 회사의 개인 및 기밀 정보를 이러한 AI 앱에 아무 생각 없이 행복하게 입력하고 있습니다. 최근 뉴스 보도에 따르면 Amazon은 일부 직원이 ChatGPT에 다양한 독점 정보를 입력하고 있음을 분명히 발견했습니다. 거부할 수 없는 AI 앱 사용에 주의하라는 법적 경고가 내부적으로 발송된 것으로 전해졌다.

전반적으로 ChatGPT 및 기타 생성 AI에 기밀 데이터를 입력하는 직원의 증가하는 현상에 약간의 아이러니가 발생합니다. 자세히 설명하겠습니다. 오늘날의 현대 기업은 일반적으로 공들여 만들고 구현한 엄격한 사이버 보안 정책을 가지고 있습니다. 수많은 기술적 보호가 존재합니다. 희망은 중요한 내용이 우발적으로 공개되는 것을 방지하는 것입니다. 지속적인 경고는 웹 사이트를 방문할 때 주의하고 승인되지 않은 앱을 사용할 때 주의하는 것 등입니다.

ChatGPT와 같은 생성 AI 앱도 함께 제공됩니다. AI 앱에 대한 뉴스는 지붕을 뚫고 널리 퍼집니다. 광란이 일어납니다. 이러한 모든 사이버 보안 보호 기능을 갖춘 이러한 회사의 사람들은 생성 AI 앱을 선택합니다. 그들은 처음에는 멍하니 그것을 가지고 논다. 그런 다음 회사 데이터를 입력하기 시작합니다. 왬, 그들은 이제 공개되어서는 안 될 정보를 잠재적으로 노출시켰습니다.

사이버 보안 보호 및 하지 말아야 할 것에 대한 지속적인 교육에 대한 수백만 달러의 지출을 마술처럼 우회하는 반짝이는 새 장난감. 하지만 제너레이티브 AI를 사용하고 "in" 군중의 일부가 되는 것은 신나는 일입니다. 그것이 중요한 것 같습니다.

나는 당신이 현저하게 조심하는 것에 대한 나의 표류를 이해한다고 믿습니다.

다음으로 생성 AI가 프롬프트 및 출력된 에세이의 텍스트를 기술적으로 처리하는 방법을 자세히 살펴보겠습니다. 또한 ChatGPT를 예로 들어 라이선스 규정 중 일부를 살펴보겠습니다. 이러한 라이센스 요소의 전체 범위를 다루지는 않을 것임을 이해해 주십시오. 사용하기로 결정한 생성 AI 앱에 대해 법률 고문을 참여시키십시오. 또한 라이선스는 AI 제조업체마다 다르며 주어진 AI 제조업체는 라이선스를 변경할 수 있으므로 최신 버전의 라이선스가 규정하는 모든 사항에 대해 경계를 유지해야 합니다.

우리는 이 골치아픈 주제에 대해 흥미진진한 포장을 풀고 있습니다.

첫째, 우리는 Generative AI가 무엇으로 구성되어 있고 ChatGPT가 무엇인지에 대해 모두 같은 페이지에 있는지 확인해야 합니다. 기본 측면을 다루면 이러한 유형의 AI와 관련된 거울 은유에 대한 설득력 있는 평가를 수행할 수 있습니다.

Generative AI 및 ChatGPT에 이미 익숙하다면 다음 섹션을 훑어보고 다음 섹션으로 진행할 수 있습니다. 나는 다른 모든 사람들이 섹션을 면밀히 읽고 최신 정보를 얻음으로써 이러한 문제에 대한 중요한 세부 정보를 얻을 수 있다고 믿습니다.

Generative AI 및 ChatGPT에 대한 빠른 입문서

ChatGPT는 범용 AI 대화형 대화형 시스템으로 본질적으로 무해해 보이는 일반 챗봇이지만, 많은 사람들이 완전히 허를 찌르는 방식으로 적극적이고 열성적으로 사용하고 있습니다. 이 AI 앱은 AI 영역의 기술과 기술을 활용합니다. 제너레이티브 AI. AI는 ChatGPT가 수행하는 텍스트와 같은 출력을 생성합니다. 다른 생성 기반 AI 앱은 사진이나 삽화와 같은 이미지를 생성하는 반면 다른 앱은 오디오 파일이나 비디오를 생성합니다.

ChatGPT가 하는 일이므로 이 토론에서는 텍스트 기반 생성 AI 앱에 중점을 둘 것입니다.

Generative AI 앱은 사용하기가 매우 쉽습니다.

프롬프트를 입력하기만 하면 AI 앱이 프롬프트에 응답을 시도하는 에세이를 생성합니다. 작성된 텍스트는 에세이가 인간의 손과 마음으로 쓰여진 것처럼 보일 것입니다. "Tell me about Abraham Lincoln"이라는 프롬프트를 입력하면 생성 AI가 Lincoln에 대한 에세이를 제공합니다. 이것은 일반적으로 다음을 수행하는 생성 AI로 분류됩니다. 텍스트에서 텍스트로 또는 일부는 그것을 부르는 것을 선호합니다 텍스트 투 에세이 산출. 언급한 바와 같이 텍스트-아트 및 텍스트-비디오와 같은 생성 AI의 다른 모드가 있습니다.

첫 번째 생각은 이 생성 능력이 에세이 제작 측면에서 그렇게 큰 문제가 아닌 것 같다는 것입니다. 인터넷에서 쉽게 온라인 검색을 할 수 있고 링컨 대통령에 관한 수많은 에세이를 쉽게 찾을 수 있습니다. 제너레이티브 AI의 경우 키커는 생성된 에세이가 상대적으로 독특하고 모방이 아닌 독창적인 구성을 제공한다는 것입니다. AI가 제작한 에세이를 온라인 어딘가에서 찾으려고 하면 찾을 수 없을 것입니다.

제너레이티브 AI는 사전 훈련을 받았으며 웹 전반에 걸쳐 쓰여진 단어와 이야기의 패턴을 검사하여 설정된 복잡한 수학적 및 계산 공식을 사용합니다. 수천, 수백만 개의 글을 검토한 결과, AI는 발견된 것과 뒤죽박죽인 새로운 에세이와 이야기를 토해낼 수 있습니다. 다양한 확률적 기능을 추가함으로써 결과 텍스트는 훈련 세트에서 사용된 것과 비교할 때 매우 고유합니다.

그래서 학생들이 교실 밖에서 에세이를 쓸 때 부정행위를 할 수 있다는 소란이 일고 있는 것입니다. 교사는 속이는 학생이 자신의 글이라고 주장하는 에세이를 단순히 가져가서 다른 온라인 소스에서 복사되었는지 알아내려고 할 수 없습니다. 전반적으로 AI 생성 에세이에 맞는 결정적인 기존 에세이는 온라인에 없습니다. 결국 교사는 학생이 에세이를 원본 작품으로 썼다는 사실을 마지못해 인정해야 할 것입니다.

생성 AI에 대한 추가적인 우려가 있습니다.

한 가지 결정적인 단점은 생성 기반 AI 앱으로 생성된 에세이에 명백히 사실이 아닌 사실, 오해의 소지가 있는 사실, 완전히 조작된 명백한 사실 등 다양한 허위 정보가 포함될 수 있다는 것입니다. 이러한 조작된 측면은 종종 AI 환각, 내가 싫어하지만 안타깝게도 어쨌든 대중적인 관심을 끌고 있는 것 같은 캐치프레이즈입니다(왜 이것이 형편없고 부적합한 용어인지에 대한 자세한 설명은 여기 링크).

이 주제에 대해 깊이 들어가기 전에 한 가지 중요한 측면을 명확히 하고 싶습니다.

소셜 미디어에서 제너레이티브 AI 이 최신 버전의 AI가 실제로 지각 있는 AI (아니, 그들은 틀렸어!). AI 윤리 및 AI 법에 종사하는 사람들은 이러한 주장이 급증하는 추세에 대해 특히 우려하고 있습니다. 일부 사람들은 오늘날의 AI가 실제로 할 수 있는 일을 과장하고 있다고 정중하게 말할 수 있습니다. 그들은 AI가 우리가 아직 달성하지 못한 능력을 가지고 있다고 가정합니다. 운이 없었어. 설상가상으로, AI가 행동을 취하는 데 있어서 지각이 있거나 인간과 같을 것이라는 가정 때문에 그들은 자신과 다른 사람들이 끔찍한 상황에 빠지도록 허용할 수 있습니다.

AI를 의인화하지 마십시오.

그렇게 하면 AI가 수행할 수 없는 작업을 수행할 것으로 기대하는 끈끈하고 음침한 의존의 함정에 빠지게 됩니다. 즉, 최신 생성 AI는 수행할 수 있는 작업에 대해 상대적으로 인상적입니다. 생성 AI 앱을 사용할 때 지속적으로 염두에 두어야 할 중요한 제한 사항이 있다는 점에 유의하십시오.

ChatGPT 및 Generative AI에 대한 급속도로 확장되는 소동에 관심이 있으신 분을 위해 저는 제 칼럼에서 유익한 정보를 찾을 수 있는 집중 시리즈를 진행해 왔습니다. 다음은 이러한 주제 중 마음에 드는 항목이 있는 경우 한 눈에 볼 수 있는 내용입니다.

• 1) 제너레이티브 AI 발전의 예측. 제너레이티브 AI 및 ChatGPT의 향후 발전을 포함하여 2023년과 그 이후에 AI에 대해 무엇이 펼쳐질지 알고 싶다면 다음에서 2023년 예측에 대한 포괄적인 목록을 읽어보십시오. 여기 링크.
• 2) 생성 AI 및 정신 건강 조언. 집중 분석에 따라 생성 AI 및 ChatGPT가 정신 건강 조언, 골칫거리 추세에 어떻게 사용되고 있는지 검토하기로 했습니다. 여기 링크.
• 3) 생성 AI 및 ChatGPT의 기초. 이 글은 제너레이티브 AI가 작동하는 방식의 핵심 요소를 탐구하고 특히 다음에서 버즈 및 팡파르 분석을 포함하여 ChatGPT 앱을 자세히 살펴봅니다. 여기 링크.
• 4) Generative AI와 ChatGPT를 둘러싼 교사와 학생 간의 긴장. 학생들이 제너레이티브 AI와 ChatGPT를 교묘하게 사용하는 방법은 다음과 같습니다. 또한 교사가 이 해일과 맞서 싸울 수 있는 방법은 여러 가지가 있습니다. 보다 여기 링크.
• 5) 컨텍스트 및 생성 AI 사용. 또한 ChatGPT 및 생성 AI와 관련된 산타 관련 컨텍스트에 대해 계절에 따라 혀를 맞대고 조사했습니다. 여기 링크.
• 6) 생성 AI를 사용하는 사기꾼. 불길하게도 일부 사기꾼들은 사기 이메일을 생성하고 심지어 맬웨어용 프로그래밍 코드를 생성하는 등의 범죄를 저지르기 위해 생성 AI 및 ChatGPT를 사용하는 방법을 알아냈습니다. 여기 링크.
• 7) 제너레이티브 AI를 사용한 신인의 실수. 많은 사람들이 제너레이티브 AI와 ChatGPT가 할 수 있는 일을 오버슈팅하고 놀랍게도 언더슈팅하고 있습니다. 그래서 저는 특히 AI 신입생들이 하는 경향이 있는 언더슈팅을 살펴봤습니다. 토론을 참조하세요. 여기 링크.
• 8) 생성 AI 프롬프트 및 AI 환각에 대처. 적절한 프롬프트를 생성 AI에 입력하려고 시도하는 것과 관련된 다양한 문제를 처리하기 위해 AI 애드온을 사용하는 최첨단 접근 방식과 소위 AI 환각 출력 및 허위를 감지하기 위한 추가 AI 애드온이 있습니다. 에 덮여 여기 링크.
• 9) 제너레이티브 AI 제작 에세이 감지에 대한 Bonehead 주장 폭로. 주어진 에세이가 인간이 만든 것인지 AI가 생성한 것인지 확인할 수 있다고 주장하는 AI 앱의 잘못된 골드러시가 있습니다. 전반적으로 이것은 오해의 소지가 있으며 어떤 경우에는 뼈빠지고 지지할 수 없는 주장입니다. 여기 링크.
• 10) 제너레이티브 AI를 통한 롤플레잉은 정신 건강 문제를 예고할 수 있습니다.. 일부는 역할극을 하기 위해 ChatGPT와 같은 생성 AI를 사용하고 있는데, AI 앱은 마치 환상의 세계나 다른 구성 환경에 존재하는 것처럼 인간에게 반응합니다. 이것은 정신 건강에 영향을 미칠 수 있습니다. 여기 링크.
• 11) 출력된 오류 및 허위의 범위 노출. ChatGPT에서 생성된 오류 및 허위의 특성을 보여주기 위해 다양한 수집 목록이 함께 구성되고 있습니다. 어떤 사람들은 이것이 필수적이라고 믿는 반면, 다른 사람들은 운동이 무의미하다고 말합니다. 여기 링크.
• 12) Generative AI ChatGPT를 금지하는 학교는 배를 놓치고 있습니다. 뉴욕시(NYC) 교육부와 같은 다양한 학교에서 네트워크 및 관련 장치에서 ChatGPT 사용을 금지한다고 선언한 것을 알고 계실 것입니다. 이것은 도움이 되는 예방책으로 보일 수 있지만 바늘을 움직이지 않고 슬프게도 보트를 완전히 놓칩니다. 여기 링크.
• 13) Generative AI ChatGPT는 다가오는 API로 인해 어디에나 있을 것입니다. ChatGPT 사용에 대한 중요한 반전이 있습니다. 즉, API 포털을 이 특정 AI 앱으로 사용하면 다른 소프트웨어 프로그램이 ChatGPT를 호출하고 활용할 수 있습니다. 이것은 제너레이티브 AI의 사용을 극적으로 확장할 것이며 주목할만한 결과를 가져올 것입니다. 여기 링크.
• 14) ChatGPT가 실패하거나 무너질 수 있는 방법. ChatGPT가 지금까지 받은 엄청난 찬사를 약화시키는 측면에서 몇 가지 잠재적인 성가신 문제가 ChatGPT 앞에 놓여 있습니다. 이 분석은 ChatGPT가 활력을 잃고 심지어 개집에 들어갈 수 있는 XNUMX가지 가능한 문제를 면밀히 조사합니다. 여기 링크.

ChatGPT가 GPT-3로 알려진 이전 AI 앱 버전을 기반으로 한다는 점이 흥미로울 것입니다. ChatGPT는 GPT-3.5라고 하는 약간 다음 단계로 간주됩니다. GPT-4는 2023년 봄에 출시될 것으로 예상됩니다. 아마도 GPT-4는 겉보기에 훨씬 더 유창해 보이는 에세이를 생성할 수 있고, 더 깊이 들어가며, 경외심을 갖게 한다는 점에서 인상적인 발전이 될 것입니다. -작성할 수 있는 구성에 대해 경이로움을 불러일으킵니다.

봄이 찾아오고 최신 생성 AI가 출시되면 놀라움을 표현하는 새로운 라운드를 볼 수 있습니다.

더 좋고 더 큰 생성 AI 앱에 대한 잠재적인 아킬레스건으로 구성된 염두에 두어야 할 또 다른 각도가 있기 때문에 이 문제를 제기합니다. 어떤 AI 공급업체가 거품을 내뿜는 생성 AI 앱을 제공하면 AI 제조업체의 희망이 무너질 수 있습니다. 사회적 유출로 인해 모든 생성 AI가 심각한 멍이 들 수 있습니다. 사람들은 이미 여러 번 발생했으며 AI에 대한 격렬한 사회적 비난 반발을 불러일으킨 잘못된 결과에 대해 의심할 여지 없이 상당히 화를 낼 것입니다.

지금은 하나의 마지막 예고입니다.

생성 AI 응답에서 보거나 읽는 모든 것 것 순전히 사실(날짜, 장소, 사람 등)로 전달하려면 회의적인 태도를 유지하고 보이는 것을 기꺼이 재확인해야 합니다.

예, 날짜를 조작할 수 있고 장소를 구성할 수 있으며 일반적으로 비난할 수 없는 요소는 다음과 같습니다. 모든 의심의 여지가 있습니다. 생성 AI 에세이 또는 결과물을 검토할 때 읽은 내용을 믿지 말고 회의적인 눈을 유지하십시오. 생성 AI 앱이 에이브러햄 링컨이 자신의 개인 제트기를 타고 전국을 날아다녔다고 알려준다면 의심할 여지 없이 이것이 나쁜 짓이라는 것을 알 것입니다. 불행하게도, 어떤 사람들은 그의 시대에 제트기가 없었다는 사실을 깨닫지 못할 수도 있고, 에세이가 이 뻔뻔스럽고 터무니없이 거짓된 주장을 하고 있다는 것을 알지만 알아채지 못할 수도 있습니다.

건전한 회의주의와 지속적인 불신의 마음가짐은 생성 AI를 사용할 때 최고의 자산이 될 것입니다.

우리는 이 설명의 다음 단계로 넘어갈 준비가 되어 있습니다.

악마가 그 텍스트로 어떤 일이 일어날 지 알기

이제 기초가 확립되었으므로 생성 AI를 사용할 때 데이터 및 정보 고려 사항을 자세히 살펴볼 수 있습니다.

먼저 ChatGPT 프롬프트에 텍스트를 입력하면 어떤 일이 발생하는지 간단히 살펴보겠습니다. 프로그램이 독점으로 간주되기 때문에 ChatGPT 내부에서 무슨 일이 일어나고 있는지 확실히 알 수 없습니다. 일부에서는 이것이 AI 앱에 대한 투명성을 약화시킨다고 지적했습니다. 다소 비열한 발언은 OpenAI라는 회사의 경우 AI가 실제로 공개 액세스가 차단되어 오픈 소스로 사용할 수 없다는 것입니다.

토큰화에 대해 알아보겠습니다.

프롬프트에 일반 텍스트를 입력하고 리턴 키를 누르면 즉시 발생하는 변환이 있을 수 있습니다. 텍스트는 토큰으로 구성된 형식으로 변환됩니다. 토큰은 단어의 하위 부분입니다. 예를 들어, "hamburger"라는 단어는 일반적으로 "ham", "bur" 및 "ger" 부분으로 구성된 세 개의 토큰으로 나뉩니다. 엄지손가락의 규칙은 토큰이 약 75개의 문자를 나타내는 경향이 있거나 기존 영어 단어의 약 XNUMX%로 간주된다는 것입니다.

그런 다음 각 토큰은 숫자로 재구성됩니다. 다양한 내부 테이블은 어떤 특정 번호에 어떤 토큰이 할당되는지 지정합니다. 이것에 대한 이해는 입력한 텍스트가 이제 완전히 숫자 집합이라는 것입니다. 이러한 숫자는 프롬프트를 계산적으로 분석하는 데 사용됩니다. 또한 앞서 언급한 패턴매칭 네트워크 역시 토큰화된 가치를 기반으로 합니다. 궁극적으로 출력된 에세이를 작성하거나 생성할 때 이러한 숫자 토큰이 먼저 사용된 다음 표시되기 전에 토큰이 다시 문자 및 단어 집합으로 변환됩니다.

잠시 생각해보십시오.

내가 사람들에게 이것이 처리 메커니즘이 작동하는 방식이라고 말하면 그들은 종종 깜짝 놀란다. 그들은 ChatGPT와 같은 생성 AI 앱이 완전히 통합된 단어를 사용해야 한다고 가정했습니다. 우리는 논리적으로 단어가 기록된 내러티브 및 구성에서 관계를 통계적으로 식별하기 위한 키스톤 역할을 한다고 가정합니다. 처리가 실제로 토큰을 사용하는 경향이 있음이 밝혀졌습니다. 아마도 이것은 계산 과정이 인간의 언어를 모방하는 상당히 설득력 있는 작업을 수행하는 것처럼 보이는 방식에 대한 놀라움을 더할 것입니다.

주변에 퍼지고 있는 일반적인 오해 하나 때문에 그 과정을 안내해 드렸습니다. 일부 사람들은 프롬프트 텍스트가 숫자 토큰으로 변환되고 있기 때문에 AI 앱의 내부에 원래 입력한 텍스트가 더 이상 없어도 안전하고 건전하다고 믿는 것 같습니다. 따라서 프롬프트에 기밀 정보를 입력하더라도 모든 것이 토큰화된 것처럼 보이므로 걱정할 필요가 없습니다.

그 개념은 오류입니다. 방금 숫자 토큰을 문자와 단어의 텍스트 형식으로 다시 가져올 수 있다고 지적했습니다. 토큰화된 변환 프롬프트에서도 동일한 작업을 수행할 수 있습니다. 토큰화된 것에 대해 마술처럼 보호할 수 있는 것은 없습니다. 즉, 토큰으로 변환한 후 토큰을 버리고, 토큰을 이동하고, 그렇지 않으면 물건을 뒤섞거나 자르는 추가 프로세스가 있는 경우 실제로 원본의 일부가 발생할 가능성이 있습니다. 프롬프트는 더 이상 온전하지 않습니다(원본이 내부 어딘가에 유지되거나 저장되지 않는다고 가정).

다음으로 ChatGPT의 다양한 알림 및 라이선스 규정에 대해 살펴보겠습니다.

ChatGPT에 로그인하면 일련의 주의사항과 정보성 댓글이 표시됩니다.

여기 있습니다:

• "때때로 잘못된 정보를 생성할 수 있습니다."
• "때때로 유해한 지침이나 편향된 콘텐츠를 생성할 수 있습니다."
• "부적절한 요청을 거절하도록 교육받았습니다."
• "우리의 목표는 시스템을 개선하고 더 안전하게 만들기 위해 외부 피드백을 받는 것입니다."
• “안전 장치가 마련되어 있지만 시스템은 때때로 부정확하거나 오해의 소지가 있는 정보를 생성하고 공격적이거나 편향된 콘텐츠를 생성할 수 있습니다. 조언을 하려는 것이 아닙니다.”
• "시스템을 개선하기 위해 AI 트레이너가 대화를 검토할 수 있습니다."
• "대화에서 민감한 정보를 공유하지 마십시오."
• “이 시스템은 대화에 최적화되어 있습니다. 특정 응답이 좋은지 또는 도움이 되지 않았는지 알려주십시오.”
• "2021년 이후 세계와 사건에 대한 제한된 지식."

명시된 주의 사항 중 두 가지가 특히 이 논의와 관련이 있습니다. 여섯 번째 글머리 기호와 일곱 번째 글머리 기호를 보십시오.

이 두 가지를 풀어 보겠습니다.

"시스템을 개선하기 위해 AI 트레이너가 대화를 검토할 수 있습니다."

이 여섯 번째 항목은 ChatGPT를 사용할 때 문자 대화가 시스템 개선을 위해 수행되는 "AI 트레이너"를 통해 ChatGPT에서 검토될 수 있음을 설명합니다. ChatGPT로 수행하는 "대화"의 일부인 모든 입력된 텍스트 프롬프트 및 해당 출력 에세이에 대해 해당 사람들이 완전히 볼 수 있음을 알려드립니다. 제시된 이론적 근거는 이것이 AI 앱을 개선하기 위해 수행되고 있으며 AI 트레이너가 수행하는 작업 유형이라고 들었습니다. 그럴 수도 있지만 결론은 그들이 당신의 텍스트를 볼 수 있다는 것을 당신에게 알렸다는 것입니다. 기간, 마침표.

그들이 귀하의 텍스트로 다른 작업을 수행하는 경우 시스템 개선 목적으로 텍스트를 검토하는 제안된 범위를 심각하게 넘어섰는지 여부에 대해 법적 조언을 구할 것입니다(귀하가 그렇게 했다는 것을 발견했다고 가정할 때, 그 자체는 아마도 가능성이 없어 보입니다). 어쨌든, 당신은 이것에 대해 그들을 고정시키려는 법적 논쟁과 그들의 면책 조항의 범위를 어떻게든 위반했다는 이유로 체포당하지 않으려는 그들의 시도를 상상할 수 있습니다.

"대화에서 민감한 정보를 공유하지 마십시오."

일곱 번째 글머리 기호는 대화에서 민감한 정보를 공유하지 않아야 함을 나타냅니다. 비교적 간단해 보입니다. 민감한 정보의 정의가 무엇으로 구성되어 있는지에 대해 논쟁을 벌일 수 있다고 생각합니다. 또한 글머리 기호 항목은 중요한 정보를 공유해서는 안 되는 이유를 알려주지 않습니다. 언젠가 당신이 왜 어리석게 기밀 데이터를 입력했는지 몹시 땀을 흘리며 설명해야 한다면, 경고가 구체적이지 않아서 그 중요성을 파악하지 못했다는 눈살을 찌푸린 주장을 시도할 수 있습니다. 저것에 숨을 참으십시오.

대체로 제가 ChatGPT를 사용하는 것을 본 대부분의 사람들은 글머리 기호를 읽지 않거나 글머리 기호 주의 사항을 훑어보고 마치 일반적인 횡설수설 법률 용어인 것처럼 고개를 끄덕입니다. 시각. 경고를 엄격하게 마음에 새기는 사람은 거의 없는 것 같습니다. 주의 사항을 더 명확하게 하지 않은 공급업체의 잘못입니까? 아니면 사용자가 책임을 지고 주의 깊게 읽고 이해한 후 경고에 따라 현명하게 행동해야 한다고 가정해야 합니까?

AI 앱이 반복적으로 경고해야 한다고 주장하는 사람도 있습니다. 프롬프트를 입력할 때마다 소프트웨어는 경고를 표시하고 리턴을 할 것인지 묻습니다. 다시 반복하여. 이것이 도움이 되는 예방책처럼 보일 수도 있지만, 분명히 사용자를 짜증나게 할 것입니다. 까다로운 절충안이 관련되어 있습니다.

좋습니다. 모든 사용자가 쉽게 볼 수 있도록 제시된 명백한 주의 사항입니다.

호기심이 많은 사용자는 온라인에 게시된 자세한 라이센스 규정 중 일부를 추구하도록 선택할 수 있습니다. 나는 많은 사람들이 그렇게 하는지 의심스럽다. 내 직감은 로그인할 때 글머리 기호를 진지하게 보는 사람은 거의 없으며 라이선스 세부 사항을 살펴보는 사람은 훨씬 더 적다는 것입니다. 다시 말하지만 요즘 우리는 모두 그런 것들에 다소 무감각합니다. 나는 행동을 변명하는 것이 아니라 그것이 발생하는 이유를 지적할 뿐입니다.

게시된 라이선스 조건에서 발췌한 몇 가지를 살펴보겠습니다.

먼저 ChatGPT 사용과 관련된 "콘텐츠"로 간주되는 항목에 대한 정의는 다음과 같습니다.

• “귀하의 콘텐츠. 귀하는 서비스에 입력('입력')을 제공하고 입력('출력')을 기반으로 서비스에서 생성 및 반환된 출력을 수신할 수 있습니다. 입력과 출력은 집합적으로 "컨텐츠"입니다. 당사자들 사이에서 관련 법률이 허용하는 범위 내에서 귀하는 모든 입력을 소유하고 본 약관을 준수하는 경우 OpenAI는 출력에 대한 모든 권리, 소유권 및 이익을 귀하에게 할당합니다. OpenAI는 서비스를 제공 및 유지하고 관련 법률을 준수하며 정책을 시행하기 위해 필요에 따라 콘텐츠를 사용할 수 있습니다. 귀하는 해당 법률이나 본 약관을 위반하지 않도록 하는 것을 포함하여 콘텐츠에 대한 책임이 있습니다.”

해당 정의를 주의 깊게 검토하면 OpenAI가 관련 법률 준수 및 정책 시행을 포함하여 서비스를 유지하는 데 필요하다고 판단되는 콘텐츠를 사용할 수 있다고 선언하는 것을 알 수 있습니다. 이것은 그들에게 편리한 포괄입니다. 다음 칼럼에서는 다르지만 관련된 주제, 특히 입력된 텍스트 프롬프트 및 출력된 에세이와 관련하여 귀하가 보유한 지적 재산권(IP) 권리에 대해 논의할 것입니다. 내용은 해당 주제와 관련이 있습니다).

섹션 c로 레이블이 지정된 용어의 추가 부분에서 다음과 같은 측면을 언급합니다. “기계 학습 모델의 주요 이점 중 하나는 시간이 지남에 따라 개선될 수 있다는 것입니다. OpenAI가 서비스를 제공하고 유지 관리할 수 있도록 귀하는 당사가 서비스를 개발하고 개선하기 위해 콘텐츠를 사용할 수 있음에 동의하고 지시합니다.” 이는 ChatGPT에 로그인할 때 표시되는 이전에 논의된 한 줄 주의 사항과 유사합니다.

이와 연결된 별도의 문서는 이러한 중요한 문제에 대한 몇 가지 추가 측면을 제공합니다.

• “이 지속적인 개선의 일환으로 API를 통해 OpenAI 모델을 사용할 때 우리는 모델을 개선하기 위해 제공한 데이터를 사용할 수 있습니다. 이는 모델이 특정 문제를 더 정확하고 더 잘 해결하는 데 도움이 될 뿐만 아니라 일반적인 기능과 안전성을 개선하는 데도 도움이 됩니다. 우리는 데이터 프라이버시와 보안이 고객에게 매우 중요하다는 것을 알고 있습니다. 당사는 귀하의 데이터를 보호하기 위해 적절한 기술 및 프로세스 제어를 사용하기 위해 세심한 주의를 기울입니다. 모델 성능을 개선하기 위해 사용하려는 데이터에서 개인 식별 정보를 제거합니다. 또한 모델 성능을 개선하기 위한 노력을 위해 고객당 소량의 데이터 샘플링만 사용합니다. 예를 들어, 하나의 작업에 대해 고객당 샘플링하는 최대 API 요청 수는 200개월마다 6개로 제한됩니다.

조항은 해당 조항이 다음에 적용됨을 나타냅니다. API 사용 모든 OpenAI 모델에 연결하고 사용하는 수단으로. 이것이 ChatGPT를 직접 사용하는 최종 사용자에게 동일하게 적용되는지 여부는 다소 모호합니다.

다양한 FAQ 목록이 포함된 또 다른 문서에서 그들은 일련의 질문과 답변을 제공하며 그 중 두 가지는 이 토론과 특히 관련이 있는 것 같습니다.

• “(5) 누가 내 대화를 볼 수 있습니까? 안전하고 책임 있는 AI에 대한 약속의 일환으로 시스템을 개선하고 콘텐츠가 정책 및 안전 요구 사항을 준수하는지 확인하기 위해 대화를 검토합니다.”
• “(8) 특정 프롬프트를 삭제할 수 있습니까? 아니요, 기록에서 특정 프롬프트를 삭제할 수 없습니다. 대화에서 민감한 정보를 공유하지 마십시오.”

개인 정보 보호 정책을 다루는 추가 문서가 있습니다. "우리는 단독으로 또는 우리가 소유한 다른 정보와 결합하여 귀하를 식별하는 데 사용될 수 있는 정보("개인 정보")를 수집한 다음 로그 데이터, 사용 데이터, 통신 정보, 장치 정보, 쿠키, 분석 및 귀하에 대한 기타 잠재적으로 수집 가능한 정보. 작은 글씨를 읽으십시오.

귀하의 데이터가 어떻게 사용될 수 있는지에 대한 몇 가지 고려 사항에 대한 둘러보기를 제공한다고 생각합니다. 서두에서 언급했듯이 모든 라이선스 규정을 힘들게 거치지는 않을 것입니다.

바라건대, 이것은 이러한 문제에 대한 마음의 틀에 들어가고 마음에 남아있을 것입니다.

결론

전에도 말했고 다시 한 번 말하지만, 이러한 생성 AI 앱에 기밀 또는 개인 데이터를 입력하지 마십시오.

이 현명한 조언에 대한 몇 가지 편리한 팁 또는 옵션을 고려하십시오.

• 제너레이티브 AI를 사용하기 전에 생각하기
• 미리 물건을 제거하십시오
• 입력을 가리거나 위조
• 나만의 인스턴스 설정
• 기타

나는 그것들 각각이 무엇으로 구성되어 있는지 다음에 표시할 것입니다. 자신의 인스턴스 설정은 이전에 여기에서 다루었습니다. 내 목록에서 "기타"를 사용하는 이유는 기밀 데이터가 포함되지 않도록 대처할 수 있는 다른 방법이 있을 수 있기 때문입니다. 이에 대해서는 향후 칼럼 게시에서 자세히 다룰 예정입니다.

다음을 살펴보겠습니다.

• 제너레이티브 AI를 사용하기 전에 생각하기. 한 가지 접근 방식은 생성 AI를 모두 사용하지 않는 것입니다. 또는 그렇게 하기 전에 적어도 두 번 생각하십시오. 가장 안전한 방법은 이러한 AI 앱을 사용하지 않는 것입니다. 그러나 이것은 또한 상당히 심각하고 거의 지나친 것처럼 보입니다.
• 미리 물건을 제거하십시오. 또 다른 접근 방식은 프롬프트로 입력한 항목에서 기밀 또는 개인 정보를 제거하는 것입니다. 그런 의미에서 입력하지 않으면 Borg에 주입될 가능성이 없습니다. 단점은 기밀 부분을 제거하면 생성 AI가 수행하려는 작업이 어떻게든 줄어들거나 약화될 수 있다는 것입니다.
• 입력을 가리거나 위조. 정보를 변경하여 제안된 텍스트를 수정할 수 있으므로 기밀 또는 비공개로 보이는 것이 이제 다르게 표시됩니다. 예를 들어, Widget Company와 John Smith를 언급하는 계약서 대신 Specious Company와 Jane Capone을 언급하도록 텍스트를 변경합니다. 여기서 문제는 모든 기밀 및 사적인 측면이 완전히 변경되거나 위조되도록 충분히 철저한 작업을 수행할지 여부입니다. 흐려진 부분을 놓치고 있어서는 안 될 것을 남겨두기 쉬울 것입니다.

다음은 이 주제에 대해 머리를 더 숙이게 할 수 있는 흥미로운 추가 트위스트입니다. 입력 프롬프트에 기밀 정보가 포함되어 있지 않음을 완전히 확인할 수 있다면 기밀 정보가 포함된 출력 에세이에 대해 걱정할 필요가 없다는 의미입니까?

이것은 공리적으로 사실처럼 보일 것입니다. 기밀 입력 없음, 기밀 출력 없음.

여기 당신의 놀라운 트위스트가 있습니다.

생성 AI는 종종 제공되는 텍스트 프롬프트에서 스스로를 계산적으로 재훈련하도록 설정됩니다. 마찬가지로, 생성 AI는 출력된 에세이에서 계산적으로 재훈련하기 위해 자주 고안됩니다. 이 모든 재교육은 생성 AI의 기능을 개선하기 위한 것입니다.

나는 다른 칼럼 중 하나에서 내가 수행한 다음 실험에 대해 설명했습니다. 한 변호사가 법적 문제를 다루는 새로운 방법을 찾으려고 노력하고 있었습니다. 법률 문헌을 철저히 살펴본 후 이미 드러난 모든 측면이 발견된 것 같습니다. 생성 AI를 사용하여 이전에는 확인되지 않았던 법적 접근 방식의 참신함을 생성하는 AI 앱을 얻었습니다. 아무도 아직 이 법적 지위에 도달하지 못했다고 믿었습니다. 합법적 인 금 덩어리. 이것은 적시에 활용되고 악용되는 전략적으로 가치 있는 경쟁적 법적 대박이 될 수 있습니다.

출력된 에세이는 이 특정인을 위해 AI가 생성하고 특별하고 독특해 보이는 것을 포함하는 기밀 정보의 한 형태를 구성합니까?

아하, 이것은 우리를 생성 AI와 관련된 소유권 및 IP 권리에 대한 연합되고 얽힌 다른 주제로 이끕니다. 이것이 어떻게 나타나는지 지켜봐주십시오.

지금은 마지막 발언입니다.

소포클레스는 이러한 지혜를 제공했습니다. “아무것도 비밀리에 하지 마십시오. 시간은 모든 것을 보고 듣고 모든 것을 드러내기 때문입니다.” 나는 당신이 표현을 현대화하고 생성적 AI와 AI를 고안하고 유지하는 사람들이 모두 보기 쉽다고 주장할 수 있다고 생각합니다.

그것은 기억할 가치가 있는 적당히 토큰적인 충고입니다.