Generative AI ChatGPT가 학생들이 에세이를 작성할 때 엄청난 속임수를 쓰도록 자극하고 AI 윤리 및 AI 법에 대한 철자적인 관심을 불러일으킨다는 격분한 우려

현대 학생들이 쓴 에세이는 더 이상 존재하지 않습니까?

불안으로 가득 찬 학생 학기말 보고서가 열렬히 창 밖으로 나가고 있습니까?

최근에 전면적인 소동을 일으킨 브로하하입니다. 아시다시피 ChatGPT라는 AI 앱의 등장은 많은 관심을 받았고 동시에 많은 분노를 불러일으켰습니다. ChatGPT에 대한 포괄적인 내용은 다음을 참조하세요. 여기 링크. AI 윤리 및 AI 법에 대한 지속적이고 광범위한 내용은 다음을 참조하십시오. 여기 링크 와 여기 링크, 다만 약간을 지명하기 위하여.

고함과 고함의 요지는 이런 종류의 AI가 일반적으로 생성 적 AI, 학생들에게 에세이 스타일의 과제를 수행하도록 요구하는 죽음의 종소리가 될 것입니다.

왜 그래?

최신 생성 AI는 단순한 프롬프트 입력만으로 유창해 보이는 에세이를 생성할 수 있기 때문입니다. "Tell me about Abraham Lincoln"과 같은 줄을 입력하면 AI는 링컨의 생애와 시대에 대한 에세이를 생성할 것입니다. 게다가, 그리고 여기에 진짜 키커가 있습니다. 에세이는 동일한 주제에 대해 이미 작성된 다른 항목의 중복되거나 눈에 띄는 사본이 아닙니다. 에세이 제작은 일상적인 검사가 확인하는 한 본질적으로 "원본"이 될 것입니다.

작문 과제에 직면한 학생은 이러한 생성 AI 앱 중 하나를 호출하고 프롬프트를 입력하기만 하면 전체 에세이가 작성됩니다. 그들은 자동으로 생성된 텍스트를 잘라 빈 문서에 붙여넣고, 비밀리에 자신의 이름과 클래스 정보를 거기에 넣고 약간의 대담한 허세를 가지고 계속해서 자신의 작업으로 제출하기만 하면 됩니다.

교사가 에세이가 학생이 아니라 AI에 의해 작성되었음을 알아낼 수 있는 기회는 거의 XNUMX에 가깝습니다.

스캔들!

헤드라인은 우리가 학생들이 에세이를 쓰거나 기본적으로 모든 종류의 수업 외 작문 과제를 수행하는 쓰라린 끝에 도달했다고 성급하게 선언했습니다. 상황에 대처하는 유일한 방법은 수업 중 에세이 쓰기를 활용하는 것 같습니다. 학생들이 교실과 같은 통제된 환경에 있고 노트북이나 스마트폰에 접근할 수 없다고 가정할 때, 그들은 구식 방식으로 에세이를 쓰는 것에 국한될 것입니다.

명확히 하기 위해 구식 방식은 그들이 자신의 노긴을 사용해서만 작성해야 함을 의미합니다.

교실 밖에서 이루어진 모든 종류의 에세이는 즉시 의심됩니다. 학생이 에세이를 작성했습니까, 아니면 AI 앱이 작성했습니까? 언급한 바와 같이 에세이는 너무 잘 쓰여서 기계로 작성되었다는 것을 쉽게 감지할 수 없습니다. 맞춤법은 완벽할 것입니다. 구문은 엄청날 것입니다. 담화 라인과 잠재적인 코칭된 주장은 설득력이 있을 것입니다.

젠장, 말하자면, 생성 AI가 이 사악한 길을 선택하는 학생의 능력을 넘어서는 에세이를 작성함으로써 속담의 손을 기울일 것이라고 제안할 수 있습니다. 에세이가 너무 좋다는 이유만으로 교사가 의심을 품을 수도 있습니다. 정통한 교사라면 그 학생이 그렇게 우아하고 완벽한 산문을 쓸 수 없었을 것이라고 추측하고 싶을 것입니다. 내부 알람 벨이 울리기 시작합니다.

물론 에세이에 대해 학생에게 도전하는 것은 추한 일이며 불리한 결과를 초래할 수 있습니다.

학생이 혼자서 주의 깊게 에세이를 썼다고 가정해 봅시다. 그들은 그것을 두 번, 세 번 확인했을 것입니다. 친구나 지인에게 추가 연마가 필요한 부분을 찾아보게 했을 가능성도 있습니다. 결국 그것은 여전히 ​​그들이 쓴 에세이입니다. 이 진지하고 학구적인 학생에게 에세이에 대해 중요한 질문을 하는 교사를 상상해 보십시오. 교사가 큰 소리로 그런 주장을 하지 않더라도 본질적으로 부정 행위로 고발당하는 당혹감과 억울함은 눈에 띕니다. 단순한 대결 그 자체만으로도 학생의 자존감을 떨어뜨리고 거짓으로 중상모략을 당하는 느낌을 주기에 충분하다.

일부는 에세이의 저자에 대해 의심이 있는 교사는 학생에게 자신이 쓴 내용을 설명하도록 요청해야 한다고 주장합니다. 아마도 학생이 에세이를 썼다면 특정 학생이 충분히 설명할 수 있을 것입니다. 교사들은 영겁 동안 이런 종류의 조사를 해왔습니다. 한 학생이 다른 학생을 불러 모아 에세이를 작성하도록 했을 수 있습니다. 학생은 부모에게 에세이를 쓰게 했을 수도 있습니다. 오늘날의 세계에서 학생은 자신을 대신하여 비밀리에 에세이를 작성하도록 인터넷을 통해 누군가에게 비용을 지불할 수 있습니다.

따라서 학생에게 교실 내 조사를 통해 저자 확인을 요청하는 것은 관례이며 큰 문제가 아닙니다.

그 문제를 제기해 주셔서 감사합니다.

학생을 온화하게 또는 명백하게 구우려는 시도는 생각만큼 간단한 리트머스 시험이 아닙니다. 학생은 AI가 생성한 에세이를 면밀히 연구하고 잠재적인 심문에 대비할 수 있었습니다.

이렇게 생각해보세요. 학생은 먼저 버튼을 누르기만 하면 에세이를 생성합니다. 그런 다음 학생은 에세이를 세심하게 검토하고 연구하는 대신 에세이 작성에 할애했을 많은 시간을 보냅니다. 잠시 후 단어는 거의 완전히 기억에 남습니다. 학생은 자신이 실제로 에세이를 썼다고 스스로를 거의 속입니다. 이러한 자신감과 인식의 유사성은 교사가 주도하는 정밀 조사를 통해 쉽게 얻을 수 있습니다.

아하, 어떤 사람들은 제너레이티브 AI 앱에 대한 두려움에 약간의 대위법을 사용하여 학생이 에세이를 생성함으로써 실제로 무언가를 "배웠다"고 말합니다. 물론 그 학생은 주제를 연구하기 위해 발을 들이지 않았고, 에세이를 작성하지도 않았지만, 그럼에도 불구하고 에세이를 주의 깊게 공부했다면 할당된 주제에 대해 배웠다는 것을 보여주는 것 같습니다. 링컨에 대한 에세이를 암기하기로 결심한 학생은 아마도 링컨에 대해 실질적인 무언가를 배웠을 것입니다.

학습이 일어났습니다.

와우, 레토르트는 간다, 할당은 아마도 두 가지 과정이었을 것입니다. 링컨에 대해 배우는 것은 상대적으로 부차적일 수 있습니다. 진짜 목적은 학생이 글쓰기를 배우게 하는 것이었습니다. 과제의 이 필수적인 부분은 완전히 약화되었습니다. 교사는 종종 개방형 주제를 할당하고 학생이 글쓰기를 경험하게 하는 것을 목표로 합니다. 쓰고 싶은 것을 배치하고, 사용할 단어를 파악하고, 단어를 합리적인 문장과 단락에 넣어야 합니다. AI가 생성한 에세이를 단순히 읽는 것은 에세이 과제의 기본적인 측면과 전혀 일치하지 않습니다.

이에 대한 반박은 학생이 AI에 의해 생성된 글을 면밀히 검토함으로써 잠재적으로 글쓰기에 대해 배우고 있다는 주장입니다. 우리 모두는 그들이 어떻게 쓰는지 보기 위해 글쓰기의 거장들을 연구하지 않습니까? 우리의 글은 셰익스피어와 다른 위대한 작가들에게 다가가려는 시도입니다. 쓰여진 단어를 공부하는 것은 쓰는 방법을 습득하는 유효한 수단입니다.

치열한 테니스 경기처럼 공은 네트 반대편으로 이동합니다. 좋은 글을 공부하는 것도 좋지만 글을 쓸 수 있으려면 결국 글을 써야 합니다. 끝없이 읽은 다음 학생이 이제 쓰는 방법을 알고 있다고 멍하니 가정할 수는 없습니다. 글을 쓰고, 또 쓰고, 자신의 글쓰기 능력을 눈에 띄게 보여주고 향상시킬 수 있을 때까지 계속 써야 합니다.

이것이 얼마나 수수께끼 같은지 아십니까?

이 모든 것에는 엄청나게 많은 왜곡이 있다는 점에 유의하십시오.

좀 더 독창적이고 흥미로운 우여곡절을 다룰 것입니다.

AI 프롬프트를 통한 에세이 조정

방금 셰익스피어를 언급했는데, 여러분이 놀랄 만한 생성 AI의 한 측면이 있습니다. 많은 제너레이티브 AI 앱에서 다음과 같이 말할 수 있습니다. "셰익스피어가 에세이를 쓴 것처럼 링컨에 대한 에세이를 작성하세요." AI는 셰익스피어가 글에서 관례적으로 사용하는 언어로 작성된 것으로 보이는 에세이를 생성하려고 시도할 것입니다. 보는 것은 꽤 재미 있고 매력적인 위업이며 많은 사람들이 이것에서 상당한 킥을 얻습니다.

이것은 생성 AI를 사용하여 에세이를 작성함으로써 "속이는" 학생과 어떤 관련이 있습니까?

많은 생성 AI 앱에서 AI에게 별보다 못한 방식으로 작성하도록 지시할 수 있습니다. AI는 가장자리가 다소 거친 에세이를 생성하려고 합니다. 여기 저기 구문 문제가 있습니다. 에세이의 논리가 불안정하거나 약간 엉성할 수 있습니다.

이것은 영리한 계략이 될 것입니다. 학생은 결과 에세이를 받아 제출합니다. 에세이는 최고 점수를 받을 만큼 훌륭하지만 동시에 교사의 분노를 불러일으킬 만큼 완벽하지는 않습니다. 다시 한 번, AI는 에세이를 다소 불완전하게 만드는 것을 포함하여 학생을 위해 모든 다리 작업을 수행했습니다.

또한 대부분의 생성 AI 앱을 사용하면 원하는 만큼 앱을 사용할 수 있습니다. 그것이 작동하는 방법은 다음과 같습니다. 한 학생이 AI 앱이 Lincoln에 대해 다소 불완전한 에세이를 작성하는 것이라고 입력합니다. 에세이가 제작됩니다. 학생은 에세이를 보고 그것이 여전히 지나치게 완벽하다는 것을 깨닫습니다. 학생은 AI에게 결함을 더 뚜렷하게 만들도록 지시하는 또 다른 프롬프트를 입력합니다.

거품을 내고 헹구고 반복하십시오.

학생은 프롬프트를 계속 입력하고 생성된 에세이를 검사합니다. 계속해서 이런 일이 발생합니다. 결국 학생은 에세이에서 적절한 수준의 불완전성까지 AI를 얻습니다. goldilocks 버전이 달성되었습니다. 고득점을 받을 만큼 완벽할 뿐이고, 의심받지 않을 만큼 불완전할 뿐이다.

여러분 중 일부는 학생이 처음부터 에세이를 작성하기로 선택했다면 에세이 자체를 작성하는 데 더 적은 시간 또는 적어도 같은 시간을 소비했을 것이라고 우스꽝스럽게 말하고 있다고 확신합니다. AI 앱의 이 모든 에너지 소모적 사용은 단순히 에세이 작성을 진행하는 데 사용될 수 있습니다.

글쎄요, 학생은 그것을 염두에 두지 않는다는 것을 기억하세요. 프롬프트를 입력하고 원하는 에세이를 반복적으로 검토하고 선택하는 것이 학생에게 훨씬 더 쉬울 수밖에 없습니다. 이렇게 한 시간 정도 하는 것이 에세이를 직접 쓰는 것보다 훨씬 덜 힘들죠. 이 경우 Smarminess는 현실에 대해 무게를 달아야합니다.

다른 학생들이 똑같이 하면 어떻게 될까요?

에세이와 생성 AI 앱에 대한 이전 분석을 읽으면서 이 영리한 생각을 염두에 두셨을 것입니다.

내가 설명 할 수 있습니다.

한 교사가 학급 전체에게 링컨에 관한 에세이를 쓰도록 배정합니다. 학생의 90%가 이 과제에 생성 AI 앱을 사용하기로 결정했다고 가정합니다. 90%가 지나치게 우울해 보이면 대신 10%를 사용하십시오. 학생들이 제너레이티브 AI 앱의 유용성에 대해 알게 되면서 이를 사용하려는 유혹이 급증할 것이라는 점을 명심하십시오.

자, 학급의 주목할만한 비율이 생성 AI 앱을 사용합니다. 따라서 학생들이 모두 거의 동일한 Lincoln 에세이를 제출할 것이라고 가정할 수 있습니다. 교사는 세 번째 또는 네 번째 에세이를 채점할 때 에세이가 모두 거의 동일하다는 것을 알아차릴 것입니다. 이것은 뭔가 잘못되었다는 큰 단서가 될 것입니다.

죄송하지만 그렇게 운이 좋을 것 같지는 않습니다.

대부분의 생성 AI 앱은 프롬프트가 특히 어떻게 구성되는지에 매우 민감합니다. "Tell me about Lincoln"과 "Tell me about the life of Lincoln"을 쓰면 에세이가 실질적으로 달라질 확률이 높습니다. 첫 번째 예에서 AI가 작성한 에세이는 백악관 재임 기간 동안 링컨 대통령에 초점을 맞추고 어린 시절에 대한 내용을 생략할 수 있습니다. 다른 프롬프트는 그의 탄생부터 죽음까지를 다루는 에세이를 생성할 수 있습니다.

학생들은 아마도 교사가 에세이에 대한 프롬프트로 제시한 내용을 정확하게 입력하지 않을 것입니다. 사기꾼으로서 변형을 시도하는 것이 현명한 것처럼 보일 것입니다. 그러나 모든 학생이 정확히 같은 프롬프트를 입력하더라도 각 에세이가 다른 에세이와 다소 다를 확률이 매우 높습니다.

이러한 AI 앱은 기본적으로 인터넷에서 찾은 텍스트에 대해 광범위하게 패턴이 일치하는 방대한 내부 제작 수학 및 계산 네트워크를 사용합니다. 에세이를 생성하는 과정에는 확률적 요소가 포함됩니다. 선택된 단어는 동일한 순서와 동일한 정확한 단어로 되어 있지 않을 수 있습니다. 생성된 각 에세이는 일반적으로 다릅니다.

하지만 여기에는 한 가지 문제가 있습니다. 선택한 주제가 상당히 모호한 경우 생성된 에세이 중 일부가 서로 유사할 가능성이 있습니다. 부분적으로는 텍스트 루트의 패턴이 시작하기에 얇았기 때문입니다. 즉, 에세이가 구성되는 방식은 여전히 ​​상당히 다를 수 있습니다. 내가 말하고자 하는 것은 콘텐츠 자체의 본질은 잠재적으로 거의 동일할 수 있다는 것입니다.

무뚝뚝하게 보이고 싶지는 않지만 링컨의 삶과 같은 일반적인 주제에 대해 잠재적으로 동일한 주장을 할 수 있습니다. 그의 삶의 전반적인 측면에 대해 몇 가지 다른 방법으로 자세히 설명할 수 있습니까? 잠긴 교실에서 링컨에 대해 글을 쓰도록 학생들을 확보하고 링컨의 삶을 연구할 수 있도록 온라인 액세스를 제공했다면 어쨌든 에세이가 어느 정도 비슷할 가능성이 있다고 감히 말할 수 있습니다.

자유롭고 쉬운 요소가 중요합니다

요즘 학생이 에세이를 작성하기 위해 인터넷을 통해 누군가에게 돈을 지불함으로써 컨닝을 하고 싶다면 그렇게 하는 것은 매우 간단합니다(충격적이지 않기를 바랍니다. 사전에 트리거 경고를 제공했어야 했습니다).

하지만 문제는 에세이 비용을 지불해야 한다는 것입니다. 또한 나중에 잡힐 수 있는 약간의 기회가 있습니다. 에세이 비용을 지불하기 위해 신용 카드를 사용했습니까? 트랙을 명확하게 유지하기 위해 어떤 형태의 지하 지불 처리를 사용하는 것이 더 나을 것입니다.

제너레이티브 AI의 아름다움 또는 짜증나는 요소는 현재 대부분이 무료로 제공된다는 것입니다. 지불이 필요하지 않습니다. 귀하의 사용에 대한 특정 추적 기록이 없습니다. 특히 많은 AI 앱이 이메일 주소로 가입하도록 요구하기 때문에 AI 앱이 귀하의 사용을 추적할 수 있지만 물론 위조할 수도 있습니다. ).

일부 사람들은 자연스럽게 생성 AI 앱을 사용하려면 AI 마법사가 되어야 한다고 생각합니다.

별로.

대체로 생성 AI 앱은 놀라울 정도로 사용이 간편합니다. AI 앱을 호출합니다. 프롬프트를 입력할 수 있는 열린 텍스트 상자가 표시됩니다. 프롬프트를 입력하고 제출을 누르십시오. AI 앱이 텍스트를 생성합니다.

그게 다야.

특별한 컴퓨터 언어가 필요하지 않습니다. 데이터베이스 또는 데이터 과학에 대한 지식이 없습니다. 학교에 다니는 거의 모든 어린이가 생성 AI 앱을 쉽게 사용할 수 있다고 장담합니다. 자녀가 입력할 수 있으면 이러한 앱을 사용할 수 있습니다.

일각에서는 제너레이티브 AI 앱을 제공하는 회사가 먼저 사용자의 나이를 확인해야 한다고 주장하는데, 아마도 비성인이 에세이를 작성할 때 부정 행위 목적으로 AI를 사용하는 것을 방지하기 위해서일 것입니다. 사용자가 성인이 아니라고 표시하면 AI 앱을 사용하지 못하게 하세요. 솔직히, 이러한 종류의 제한을 설정하려는 AI 관련 법률이 제정되지 않는 한, 그것은 있을 법하지 않은 예방 시나리오입니다. 그러한 법이 통과되더라도 다른 국가 등에서 호스팅되는 생성 AI 앱을 사용하여 이 문제를 해결할 수 있습니다.

또 다른 금지 각도는 생성 AI 앱을 사용하는 데 비용이 든다는 것입니다. 거래당 수수료 또는 구독료가 있다고 가정합니다. 이것은 생성 AI 앱을 인터넷을 통해 당신에게 청구하는 에세이를 작성하는 인간과 동등하게 만들 것입니다. 노동당은 AI와 정면으로 맞설 것입니다. 그러한 생활을 하는 인간들은 더 이상 그런 식으로 살 수 없을 것입니다).

생성 AI 앱을 만드는 회사는 확실히 이러한 앱으로 수익을 창출하기를 원하지만 그렇게 하는 방법은 아직 미정입니다. 거래 수수료, 구독료 또는 생성된 단어당 청구가 모두 테이블에 있습니다. 사람들에게 비용을 청구하는 대신 광고를 사용하여 수익을 창출할 수 있습니다. 아마도 특정 생성 AI 앱을 사용할 때마다 먼저 광고를 봐야 할 것입니다. 돈벌이가 될 수 있습니다.

나는 이것에 우유를 흘리는 것을 싫어하지만 학생 부정 행위를 극복하는 수단으로 어떤 종류의 은총알이 되지 않을 것입니다. 근처에도 안.

생성 AI의 오픈 소스 버전이 있습니다. 사람들은 그것들을 거기에 놓고 다른 사람들은 앱을 무료로 제공하는 경향이 있습니다. 어떤 식으로든 일부 회사에서 요금을 청구하더라도 광고를 보거나 가입하고 마케팅 목적으로 자신에 대한 정보를 제공해야 할 수도 있지만 무료로 사용할 수 있는 변형을 찾을 수 있습니다.

다단계가 도움이 됩니까?

한 학생이 생성 AI 앱을 사용하여 에세이를 작성하기로 선택합니다.

에세이를 바로 제출하는 대신 학생은 에세이를 수정하기로 결정합니다. 그들은 여기에서 신중하게 몇 마디를 꺼냅니다. 거기에 몇 마디 적습니다. 문장을 위로 이동합니다. 문장을 더 아래로 이동합니다. 약간의 편집과 다듬기를 거쳐 이제 제출할 준비가 된 에세이가 생겼습니다.

이 에세이는 학생의 작품입니까, 아니면 그렇지 않습니까?

나는 당신을 백만 달러짜리 거물 미해결 미해결 질문으로 데려 왔습니다.

법적 권리 및 침해에 대한 간단한 배경 지식을 살펴보겠습니다. 이것은 내가 꽤 많이 다룬 주제입니다. 여기 링크 와 여기 링크예를 들어.

저작권과 지적 재산권(IP)에 대해 이미 알고 계실 것입니다. 저작권이 있는 스토리를 가진 사람은 해당 스토리와 관련된 다양한 법적 권리를 보유해야 합니다. 그들은 모든 것을 포괄하는 법적 권리와 완전히 유사하지 않습니다. 제외 및 예외가 있습니다.

다른 사람의 저작권이 있는 자료를 침해하는 것과 관련하여 가장 어려운 문제 중 하나는 원본 출처와 비교할 때 귀하가 가질 수 있는 자료의 근접성입니다. 아마도 당신은 유명한 가수와 그들의 가사에 대한 뉴스 기사를 읽거나 보았을 것입니다. 다른 누군가가 비슷한 가사로 노래를 썼고 이것이 법적으로 적절한지 아닌지.

일반적으로 제너레이티브 AI 앱은 이전에 인터넷에서 콘텐츠를 검토하여 훈련된 다른 자료의 사본인 에세이를 생성하지 않는다고 앞서 언급했습니다. 가능성은 자료가 일반화되고 모든 소스 콘텐츠가 구성되어 있는 내용과 더 이상 유사하지 않도록 함께 흐릿해질 수 있다는 것입니다.

법적 절차가 어떻게 처리되는지 기다려야 할 것입니다. 제너레이티브 AI 앱이 일부 소스 아트워크와 시각적으로 분명히 유사한 아트워크를 생성하는 경우, 우리는 아마도 AI와 AI 제작자가 원본 작업과 관련된 저작권을 위반했다고 비난하는 방향으로 기울어질 것입니다. 우리 눈으로 직접 볼 수 있습니다.

에세이의 경우 더 까다로울 수 있습니다. 명백한 예는 전체 문장과 단락이 단어 단위로 동일한 경우입니다. 우리는 모두 그것을 볼 수 있습니다. 그러나 문구가 약간의 차이로 다를 때 우리는 회색 영역에 들어갑니다.

원본 소스 자료에서 얼마나 멀리 떨어져 있어야 새로 제작된 자료가 그 자체의 장점에 대해 진정한 원본임을 선언할 수 있습니까?

그것은 중요한 질문입니다.

이를 에세이에 생성 AI 앱을 사용하는 학생과 연결해 보겠습니다.

AI 앱에 의해 생성된 특정 에세이가 "원본" 에세이로 해석되는 순간을 가정해 보십시오. 나는 그것이 지구상의 어느 곳에도 존재하는 다른 에세이 또는 텍스트 내러티브를 명백한 방식으로 위반하지 않는다고 가정하고 있습니다.

그런 다음 학생은 자료의 원본 소스로 시작합니다. 이미 지적한 바와 같이 학생은 이 자료를 편집하고 수정합니다. 이제 AI 앱에서 생성된 원본이 학생이 고안한 세련된 버전과 다른 지점에 도달합니다.

이게 속임수인가요?

아마 네, 아닐 수도 있습니다.

라고 주장할 수 있습니다. 학생은 AI가 그들을 위해 에세이를 작성하는 것으로 시작했습니다. 학생이 한 모든 것은 에세이를 가지고 기계적으로 수행됩니다. 우리는 학생이 허공에서 에세이를 작성하고 그렇게 하기 위해 자신의 노깅을 사용하기를 기대합니다. AI 앱을 사용하여 기준선을 생성하는 것은 명백히 부정 행위입니다. 학생에게 "F" 등급을 부여합니다.

그렇게 빠르지 않습니다. 부정행위가 아니라고 주장할 수 있습니다. 학생이 소스 자료를 다시 만들었습니다. AI 앱으로 제작한 에세이와 학생이 다듬은 버전의 비교가 충분히 크다면 학생이 에세이를 썼다고 말할 수 있습니다. 물론 그들은 다른 자료를 사용했지만 백과 사전이나 다른 출처를 사용했다면 똑같이 말할 수 없습니까? 이 학생은 (그렇게 하기 위해 다른 자료를 참조했음에도 불구하고) 자신의 재치로 에세이를 작성했기 때문에 "A" 학점을 받을 자격이 있습니다.

교사들은 이미 성가신 이 질문의 한가운데에 잡힐 것입니다.

한 가지 접근 방식은 교사가 생성 AI 앱이 사용되었는지 여부를 포함하여 학생들이 모든 참조 자료를 나열해야 한다고 단호하게 말할 수 있다는 것입니다. 학생이 제너레이티브 AI를 참고 자료로 적나라하게 기재하지 않고 교사가 이를 기재하지 않은 사실을 알게 되면 해당 학생은 과제에 대해 즉석에서 “F” 등급을 받습니다. 또는 일부 학교에서는 이를 학생이 자동 낙제를 받게 하는 부정 행위로 간주할 수 있습니다. 아니면 추방되었을 수도 있습니다. 우리는 학교가 이 문제에 대해 얼마나 멀리 가는지 봐야 할 것입니다.

일반적으로 우리는 다음을 포함하여 에세이(텍스트), 예술(이미지) 및 비디오와 같은 저작물의 법적 소유권 및 지적 재산의 뒤죽박죽 세계로 향하고 있습니다.

• 일부는 생산된 결과물을 생성하기 위해 AI가 사용한 콘텐츠 소스에 대해 생성 AI 제작자로부터 법적 구제를 요청할 것입니다.
• 일부는 생성 AI의 결과물을 가져오고 그 결과를 자신의 작업으로 간주한 다음 자신의 "원본" 작업을 위반하는 사람에게 법적 보상을 구하려고 합니다.
• 누군가가 생성 AI의 출력을 생성하고 인터넷에 게시된 다음 다른 생성 AI가 와서 유사한 작업을 생성하는 훈련에 이를 사용하도록 순환할 수 있습니다.

부정적인 것을 긍정적으로 바꾸기

학생 부정 행위와 관련하여 생성 AI의 나쁜 점에 대한 이 모든 이야기는 아마도 우리의 마음을 흐리게 할 것입니다.

이것을 다른 방향으로 가져가십시오.

당신은 앉아 있습니까?

아마도 교사는 학생들이 에세이 작성 방법에 대한 학습 과정의 일부로 의도적으로 생성 AI를 사용하도록 하는 것을 고려해야 할 것입니다.

나는 이전에 소위 말하는 것에 대해 썼습니다. 이중 용도 AI의 참조 여기 링크. AI 시스템이 때때로 나쁘게 사용될 수 있고 때로는 좋은 방향으로 전환되어 사용될 수 있다는 개념입니다. 걱정스러운 점은 누군가가 AI를 좋게 작성하고 자신의 AI가 얼마나 쉽게 악의 유령으로 변할 수 있는지 알지 못하는 것입니다. 부분의 윤리적 AI AI가 하룻밤 사이에 저주로 바뀌지 않도록 고안되어야 한다는 깨달음입니다. 이것은 지속적인 우려 사항입니다.

에세이 제작을 위한 생성 AI로 돌아가십시오.

나는 이전에 학생이 이미 존재하는 저작물을 보면서 글쓰기에 대해 배울 수 있다는 개념을 제기했습니다. 이것은 많은 의미가 있습니다. 기본적으로 더 많이 읽을수록 글을 쓸 수 있는 방향으로 정신적 외양이 확장될 가능성이 있습니다. 앞에서 언급한 것처럼 글쓰기를 연습하지 않으면 세상의 모든 독서가 반드시 좋은 작가가 되는 것은 아니기 때문에 글쓰기는 여전히 필요합니다.

생성 AI를 사용하여 이 읽기 및 쓰기 결합을 촉진할 수 있습니다. 학생에게 의도적으로 생성 AI를 사용하게 합니다. AI는 에세이를 생성합니다. 학생에게는 AI가 제작한 에세이를 비평하는 과제가 주어집니다. 다음으로, 학생은 아마도 다른 주제에 대해 새로운 에세이를 작성하도록 지정되지만 이전 AI 생성 에세이의 구조 및 기타 일반 요소를 사용할 수 있습니다.

이것은 학생이 "상호 작용"할 수 없는 작가의 책이나 기타 텍스트를 단순히 읽는 것보다 학생들에게 훨씬 더 생산적일 수 있습니다. AI 앱을 사용하여 학생은 여러 프롬프트를 차례로 사용하여 초기 에세이를 다시 실행하고 작성해 볼 수 있습니다. 학생은 AI에게 링컨에 대한 기본 에세이를 작성하라고 말할 수 있습니다. 다음으로 학생은 비공식적인 목소리로 작성된 Lincoln에 대한 긴 에세이를 요청합니다. 그것을 살펴본 후 학생은 AI 앱에 링컨 에세이의 매우 형식화된 버전을 생성하도록 지시합니다. 등.

주장은 이것이 학생이 글쓰기와 글쓰기가 어떻게 일어날 수 있는지 배우는 데 실질적으로 도움이 될 수 있다는 것입니다.

최근 연구 논문은 바로 이 점을 제안합니다. Ethan Mollick 박사와 Lilach Mollick 박사는 "AI Chatbots: Three Methods and Assignments"라는 제목의 논문에서 펜실베이니아 대학교 와튼 스쿨 및 와튼 인터랙티브, 12년 2022월 XNUMX일)

예를 들어, 그들은 학습 전이를 개선하는 것이 다음과 같은 방식으로 일어날 수 있다고 지적합니다. 주제에 대한 기초 지식이 있는 학생의 경우 AI를 사용하여 이해도를 테스트하고 주제의 부정확성, 공백 및 누락된 측면을 명명하고 설명하도록 명시적으로 푸시할 수 있습니다. AI는 개념과 해당 개념의 적용에 대한 일련의 예를 제공할 수 있으며 교사는 학생들에게 다양한 맥락에서 예를 비교하고, 개념의 핵심을 설명하고, AI가 개념을 적용하는 방식에서 불일치 및 누락된 정보를 지적하도록 유도할 수 있습니다. 새로운 상황으로”(ibid).

그것은 오래된 후렴구와 비슷합니다. 그들을 이길 수 없다면 그들과 합류하십시오.

생성 AI를 교육 도구로 전환합니다.

Yikes, 빠른 응답이 온다.

당신은 닭장에 여우를 넣고 있습니다. 제너레이티브 AI가 무엇인지 전혀 몰랐던 학생들은 이제 교사와 학교의 노골적인 행동을 통해 이를 공개적으로 보여줄 것입니다. 학생들이 부정 행위의 기회에 대해 전혀 모른다면 그들의 얼굴과 손에 직접 부정 행위를 하는 것입니다.

권위 있는 사람들이 학생들에게 부정 행위 수단을 소개하는 것은 완전히 혐오스러운 것 같습니다. 따라서 당신은 가장 정직한 학생들을 부정 행위의 유혹에 영원히 빠뜨릴 것입니다. 누구나 치팅 머신에 액세스할 수 있습니다. 그렇게 하라는 지시를 받습니다. 숨길 필요가 없습니다. 생성 AI를 사용하지 않는 척할 필요가 없습니다. 학교와 선생님이 그것을 사용하게 만들었습니다.

이에 대한 반박은 학생들이 생성 AI에 익숙해지지 않을 것이라고 생각하려면 맹목적이고 무지하게 머리를 모래 속에 두어야 한다는 것입니다. 당신은 어리석게도 모른 척하고 있는 동안, 그들은 그것을 이용하기 위해 학교 밖으로 허둥지둥 다니고 있습니다. 당신의 더 나은 선택은 그들에게 그 물건을 소개하고, 그것이 무엇에 사용될 수 있고 없는지 토론하고, 전체 수수께끼에 밝고 빛나는 빛을 가져오는 것입니다.

꽤 두려운 일입니다.

기술의 교육적 혁신에 대해 연구하고 있는 분들은 생성적 AI와 그것이 교육적 접근 방식의 본질을 어떻게 바꾸고 학생 학습에 영향을 미칠 수 있는지 살펴보고 싶을 것입니다. 그것은 곧 오고 있다.

파멸에서 우리를 구출하기 위해 탐지 사용

모자를 바꾸고 잠시 디지털 아트워크를 살펴보겠습니다.

디지털 아트 작품을 만드는 경우 나중에 누군가가 당신의 예술성을 사용하거나 재사용하기로 선택했는지 식별할 수 있도록 어떤 방식으로든 표시할 수 있습니다. 이를 수행하는 간단한 방법은 디지털 아트워크의 일부 픽셀 또는 점을 변경하는 것입니다. 여기저기서 몇 가지 해보면 작품의 모습은 여전히 ​​인간의 눈에는 똑같아 보일 것입니다. 그들은 디지털 도구를 통해 면밀히 검사해야만 볼 수 있는 특별한 색상으로 설정된 조그만 픽셀을 알아차리지 못할 것입니다.

이러한 기술을 워터마킹의 한 형태로 알고 있을 것입니다. 예전에 종이 기반 자료 및 기타 디지털화되지 않은 콘텐츠에 워터마크를 적용하려는 시도가 있었던 것처럼 점차 디지털 워터마크가 부상하는 것을 목격했습니다.

디지털 아트워크의 이미지에 디지털 워터마크가 숨겨져 있을 수 있습니다. 이미지에 방해가 되는 것처럼 보이면 디지털 아트워크(소위 디지털 작업의 "메타 데이터")가 포함된 파일에 워터마크를 삽입해 볼 수 있습니다.

발생할 수있는 고양이와 쥐 게임이 있습니다.

일부 악행자가 와서 디지털 워터마크를 발견합니다. 그들은 그것을 제거합니다. 이제 그들은 당신이 나중에 그것을 들여다보고 그것이 당신의 노력의 표절이라는 것을 분명히 보여줄 수 있을지 걱정하지 않고 당신의 디지털 아트워크를 자유롭게 사용할 수 있는 것처럼 보입니다. 그 악당들!

우리는 암호화 기술과 기술을 사용하여 디지털 워터마크를 강화해야 합니다. 비밀 메시지와 인코딩을 생각해 보십시오.

아이디어는 디지털 워터마크를 찾기 어렵게 인코딩한다는 것입니다. 또한 잠재적으로 제거하기 어렵습니다. 디지털 아트워크를 표시하거나 사용을 허용하는 소프트웨어가 작업에 유효한 인코딩된 디지털 워터마크가 있는지 먼저 확인하고 확인해야 하며, 그렇지 않으면 부적절한 복사로 간주되도록 할 수도 있습니다. 당신을 적발했습니다.

텍스트를 생성하는 생성 AI에 대해 동일한 작업을 수행할 수 있습니까?

건틀릿이 놓여 있습니다. 하지만 문제는 아트워크용 디지털 워터마크를 고려할 때보다 어느 정도 더 어려울 수 있습니다.

이유가 여기 있습니다.

워터마크를 배치할 수 있는 유일한 위치는 텍스트 자체에 직접 있다고 가정합니다. 생성된 텍스트가 반드시 파일에 들어가는 것은 아니기 때문에 이렇게 말합니다. 텍스트는 텍스트일 뿐입니다. 생성 AI 도구에서 잘라내어 붙여넣을 수 있습니다. 이러한 의미에서 일반적으로 워터마크를 삽입할 수 있는 메타 데이터나 파일이 없습니다.

오로지 글에만 집중해야 합니다. 순수한 텍스트.

한 가지 방법은 생성 AI가 추적할 수 있는 방식으로 텍스트를 몰래 생성하도록 하는 것입니다. 거칠지만 비실용적인 예로서, 세 번째 문장마다 문장 시작 부분에 "And"라는 단어를 사용하기로 결정했다고 상상해 보십시오. 우리는 여전히 완전히 유창해 보이는 에세이를 생성할 것입니다. 유일한 속임수는 세 번째 문장마다 우리가 선택한 마법의 단어로 시작한다는 것입니다. 다른 누구도 우리가 무엇을 하고 있는지 모릅니다.

한 학생이 생성 AI를 사용하여 링컨에 대한 에세이를 작성합니다. 학생은 AI 앱에서 직접 가져와 교사에게 이메일로 보냅니다. 알고 보니 그 학생은 마지막 순간까지 기다렸고 게시된 마감일을 앞둔 상태였습니다. 에세이를 검토할 시간이 없습니다. 그냥 보내고 최선을 다해 바랍니다.

선생님은 에세이를 봅니다. 워터마크가 매 세 번째 문장의 시작 부분에 사용되는 마법의 단어로 구성되어 있다고 그녀에게 말했다고 가정합니다. 교사는 이 제출된 에세이에서 이것이 사실임을 감지합니다. 학생이 에세이를 작성하고 매 세 번째 문장의 시작 부분에 이 특정 단어를 사용하는 것을 좋아할 가능성은 매우 희박하지만, 그럴 가능성은 거의 없으며 대신 학생이 생성 AI를 사용했을 것이라는 데 합리적으로 동의할 수 있습니다. 에세이를 생산하기 위해.

그것이 어떻게 작동하는지 보십니까?

나는 당신이 그렇게 한다고 믿습니다.

이제 문제는 그렇게 명확하지 않은 워터마크를 만드는 방법입니다. 학생은 문장이 이상하게 특정 단어를 사용하는 것처럼 보일 수 있습니다. 그들은 무슨 일이 일어나고 있는지 짐작할 수 있습니다. 차례로, 학생은 문장 주위를 이동하고 약간의 단어 변경을 할 수 있습니다. 그런 다음 에세이가 더 이상 생성 AI에 의해 작성된 것으로 쉽게 발견되지 않기 때문에 이 특정 워터마크를 거의 가라앉힙니다.

고양이와 쥐 게임이 다시 한 번 앞서가고 있습니다.

쉽게 식별할 수 없는 방식으로 "워터마크"가 포함된 유창한 텍스트를 생성해야 합니다. 또한 가능하면 에세이가 약간 수정되더라도 워터마크는 계속 유지되어야 합니다. 전체 수정 버전은 아마도 워터마크가 남아있게 하지 않을 것입니다. 그러나 텍스트 영역에 약간의 변경이 있더라도 워터마크를 감지할 수 있도록 약간의 중복성과 복원력이 필요합니다.

ChatGPT(OpenAI의 AI 앱)를 만드는 회사에서 일을 하고 있는 연구원이 이러한 워터마킹 고려 사항에 따라 몇 가지 흥미로운 암호화 노력을 탐색하고 있습니다. Scott Aaronson은 오스틴에 있는 텍사스 대학의 컴퓨터 과학 교수이며 최근 진행 중인 작업에 대해 이야기했습니다(대본은 그의 블로그에 게시됨).

그가 기존 접근 방식을 간략하게 설명하는 다음 발췌문을 고려하십시오. “어떻게 작동합니까? GPT의 경우 모든 입력 및 출력은 단어일 수도 있고 구두점, 단어의 일부 등일 수도 있는 일련의 토큰입니다. 총 약 100,000개의 토큰이 있습니다. 핵심적으로 GPT는 이전 토큰의 문자열에 따라 생성할 다음 토큰에 대한 확률 분포를 지속적으로 생성합니다. 신경망이 분포를 생성한 후 OpenAI 서버는 실제로 해당 분포 또는 '온도'라는 매개변수에 따라 일부 수정된 분포 버전에 따라 토큰을 샘플링합니다. 그러나 온도가 XNUMX이 아닌 한 일반적으로 다음 토큰 선택에 임의성이 있습니다. 동일한 프롬프트로 계속 실행할 수 있으며 매번 다른 완료(예: 출력 토큰 문자열)를 얻을 수 있습니다. .”

언급한 바와 같이 ChatGPT 앱에서 파생되는 에세이에 다음 단어를 배치할 때 무작위성이 지정되어 있습니다. 그것은 또한 동일한 주제에 있더라도 각 에세이가 다소 다를 수 있다는 이전 요점을 설명합니다. 특정 범위 내에서 임의 선택 접근 방식을 의도적으로 사용하는 것은 에세이 생성 중에 내부적으로 실행됩니다.

이제 흥미진진한 부분인 암호화 혼합에 도달했습니다. . 최종 사용자가 의사 난수를 실제 난수와 구분할 수 없다고 가정하면 최종 사용자에게 감지할 수 있는 차이가 없습니다. 그러나 이제 특정 점수(작은 n에 대해 각 n-그램(n개의 연속 토큰 시퀀스)에서 평가된 특정 함수 g에 대한 합계)를 은밀히 편향시키는 의사 난수 함수를 선택할 수 있습니다. 이 의사 난수 함수의 키입니다.”

나는 그것이 기술적으로 다소 꽉 찬 것처럼 보일 수 있다는 것을 알고 있습니다.

본질은 생산된 에세이가 유창하게 보일 것이고 디지털 워터마크가 포함된 에세이를 읽는 것으로는 쉽게 분별할 수 없을 것입니다. 주어진 에세이에 워터마크가 포함되어 있는지 알아내려면 특별히 고안된 감지기에 에세이를 입력해야 합니다. 탐지를 수행하는 프로그램은 텍스트를 기반으로 값을 계산하고 저장된 키와 비교할 수 있습니다. 설명된 접근 방식에서 키는 공급업체가 보유하고 다른 방법으로는 사용할 수 없으므로 키가 비밀로 유지된다고 가정하면 기름부음 받은 탐지 프로그램만이 에세이가 이 경우 ChatGPT에서 파생되었을 가능성이 있는지 여부를 계산할 수 있습니다.

그는 계속해서 이것이 절대 안전한 것은 아니라는 점을 인정합니다. “이제 충분한 노력을 기울이면 이 모든 것을 물리칠 수 있습니다. 예를 들어, 다른 AI를 사용하여 GPT의 출력을 의역한 경우—알겠습니다. 감지할 수 없습니다. 반면에 여기 저기에 몇 단어를 삽입하거나 삭제하거나 일부 문장의 순서를 재정렬하면 여전히 워터마킹 신호가 있습니다. n-gram에 대한 합계에만 의존하기 때문에 이러한 종류의 개입에 대해 강력합니다.”

교사는 학생 에세이를 확인하는 탐지기 프로그램에 대한 액세스 권한을 부여받을 수 있습니다. 교사가 학생에게 자신의 에세이를 교사와 자동 탐지기에 이메일로 보내게 하여 문제가 비교적 쉽다고 가정합니다. 그런 다음 감지기 앱은 이 경우 ChatGPT에서 에세이를 작성할 가능성을 교사에게 알립니다.

이제 탐지기를 누구에게나 공개적으로 사용할 수 있는 경우 탐지기에 에세이를 실행하고 탐지기가 에세이가 생성에 의해 도출된 낮은 확률을 표시할 때까지 일련의 변경을 수행하는 "과도한 성취" 학생 사기꾼이 있을 것입니다. 일체 포함. 더 많은 고양이와 쥐. 아마도 탐지기는 암호 사용으로 단단히 보호되어야 하거나 암호화 접근 방식을 처리하는 다른 수단이나 방법이 필요합니다(활용할 수 있는 다양한 키 기반 및 키리스 중심 방법이 있음).

교사는 인터넷에서 사용할 수 있는 수십 또는 수백 개의 생성 AI 앱 가능성에 직면할 수 있습니다. 어떤 경우에는 모든 사람이 디지털 워터마크를 사용하도록 하고 모든 사람에게 에세이를 입력해야 하므로 더 재미있고 논리적으로 복잡해집니다.

교실 밖에서는 더 이상 에세이가 없습니다.

어둡고 우울한 관점은 교사가 외부 에세이 쓰기를 포기해야 할 수도 있다는 것입니다. 모든 에세이는 통제된 교실 환경에서만 작성해야 합니다.

이것은 많은 문제를 안고 있습니다.

학생이 수업 프로젝트인 특정 본격적인 에세이를 작성하는 데 일반적으로 XNUMX시간이 걸린다고 가정합니다. 교실 안에서는 어떻게 할 수 있을까요? 그것을 나눠서 학생이 일련의 며칠 동안 에세이의 작은 조각을 쓰게 할 건가요? 이것이 나타내는 어려움에 대해 생각해 보십시오.

일부에서는 문제가 과장된 것일 수 있다고 주장합니다.

교사는 학생들의 표절에 대해 늘 해왔던 대로 해야 한다. 선생은 표절이 심각한 부정 행위 문제라고 선언합니다. 어떠한 방식으로든 제너레이티브 AI를 사용하는 것은 부정 행위로 간주될 것임을 강조합니다.

저학년, 낙제, 학교에서 퇴학 등 상당한 무게를 지닌 벌칙을 내리십시오. 학생들이 각 외부 에세이 과제에 대해 그들이 제출한 것이 자신의 작업임을 서면으로 증명하도록 요구합니다(생성 AI, 인터넷에서 복사, 동료 학생 사용, 부모 사용, 비용 지불, 곧). 또한 학생들에게 작업 준비에 사용된 모든 온라인 도구를 나열하도록 요구합니다. 여기에는 특히 생성 AI 사용을 구체적으로 기록해야 하는 것이 포함됩니다.

교사는 제출된 에세이가 생성 AI 앱일 가능성이 있는지 여부를 식별하기 위해 탐지기 앱을 사용할 수도 있고 사용하지 않을 수도 있습니다. 이것은 감지기의 사용 및 액세스 용이성에 따라 잠재적으로 부담스러운 단계입니다.

아마도 교사들은 이미 외부에서 작성된 에세이가 합법적으로 보이는지 확인하는 조치를 취하고 있을 것입니다. 교실에서 에세이 작성을 함으로써 교실에서 작성하는 시간이 적고 온라인 참조 자료에 대한 액세스를 허용하지 않는 제한으로 인해 방해받을 수 있음을 깨닫고 비교하고 대조할 기회가 있습니다.

외부 에세이 쓰기를 갑자기 꺼버리는 길을 택해서는 안 된다는 것이 요지다. 어떤 사람들은 이것을 경솔한 행동으로, 아기를 목욕물과 함께 버리는 것과 같은 행동이라고 개탄할 것입니다.

외부 글쓰기가 학습 활동으로 완전히 중단된다면 커리큘럼에서 겉보기에 일상적인 교육 활동을 제거하는 데 심각하고 장기적인 단점이 있을 수 있습니다. 관련된 절충안이 있습니다. 위에서 언급한 견제와 균형에도 불구하고 얼마나 많은 학생들이 부정행위를 할까요? 얼마나 많은 학생들이 컨닝을 하지 않고 계속해서 유익한 교육적 접근 방식을 사용하여 작문 실력을 향상시킬 것입니까?

이론적으로 바라건대, 사기꾼의 비율은 외부 작문이 여전히 학생들의 우세에 유리할 정도로 충분히 작을 것입니다.

결론

AI는 꽤 골칫거리일 수 있습니다.

교사에게 AI는 축복이자 저주가 될 수 있습니다. 어느 쪽이든 교사는 AI에 대해 알아야 하고, 교육 활동과 관련된 AI 우여곡절에 대처하는 방법을 알아야 합니다. 어디에서나 선생님들에게 외칩니다.

AI가 사라지기를 바랄 수도 있습니다.

아뇨.

알다시피, 우리는 시간을 되돌려 생성 AI를 말소하지 않을 것입니다. 이것을 요구하는 사람은 몽상가입니다. 여담이지만 이 단락의 세 번째 문장의 첫 번째 단어로 "And"라는 단어를 사용하고 있습니다.

열띤 토론을 진행하기 위한 프롬프터는 다음과 같습니다. 제너레이티브 AI는 더욱 보편화되고 훨씬 더 놀랍고 불안한 기능을 갖게 될 것입니다.

마이크 드롭.

지금은 마지막 생각입니다.

셰익스피어는 "사느냐 죽느냐 그것이 문제로다"라는 유명한 말을 남겼습니다.

제너레이티브 AI가 될 것이라고 장담합니다. 이미 그렇습니다.

우리는 생성 AI가 우리 삶에 어떻게 들어오기를 원하는지, 그리고 사회가 그러한 사용을 어떻게 형성하고 안내할지를 알아내야 합니다. AI 윤리 및 AI 법에 대해 생각해야 할 이유가 필요한 경우, 아마도 생성 AI는 우리가 무엇인지 알지 못하더라도 우리가 무엇인지 알도록 유도할 것입니다(숨겨진 셰익스피어 참조).