인공 지능(AI)은 발전과 함께 점점 더 발전하고 있으며, 생성 AI 시스템의 소위 "근친교배" 위험은 오랫동안 인간과 가축 개체군 사이에서 흔히 볼 수 있었던 위험 요소가 되었습니다.
이 기사에서는 생성 AI에 비추어 근친 교배의 개념과 근친 교배가 AI 생성 콘텐츠의 미래와 어떻게 관련될 수 있는지에 대해 설명합니다.
Generative AI 근친교배 이해 LLM(대형 언어 모델)과 같은 Generative AI 시스템은 주로 웹에서 사용할 수 있는 텍스트, 시각적 및 오디오 콘텐츠의 포괄적인 데이터 세트에 대해 훈련됩니다. 초기에 데이터 세트에는 문학, 기사, 예술 작품 등 인간이 만든 항목이 크게 포함되었습니다. 그러나 생성적 AI 도구가 등장하면서 인터넷에서 점점 더 많은 콘텐츠가 AI 자체로 작성되고 있습니다.
이러한 변화는 미래 AI 시스템을 훈련하는 데 사용되는 데이터 세트의 품질과 다양성에 대한 우려를 불러일으킵니다. AI 생성 콘텐츠가 발전함에 따라 많은 미래 세대의 AI 모델이 인간 콘텐츠가 아닌 AI 생성 자료를 나타내는 데이터 세트에서 학습할 것으로 예상됩니다.
생성적 AI 근친교배의 결과는 다면적입니다.
반대로, AI 시스템이 훨씬 더 많은 수의 동종 데이터 세트에서 학습을 계속하면 AI 생성 결과물의 창의성과 독창성이 감소할 수 있습니다.
이 프로세스가 여러 세대에 걸쳐 연속적으로 반복되면(즉, 복사본에서 복사) 출력의 품질이 희석되고 그 결과는 덜 매력적인 작업이 될 위험이 있고 우리가 인간의 창의적 결과물이라고 생각하는 것을 덜 반영할 가능성이 있습니다. . 근친 교배 데이터 세트에 대해 훈련된 AI 생성 콘텐츠가 증가함에 따라 이러한 문제는 더욱 악화될 수 있습니다.
훈련 데이터 세트가 충분히 다양하지 않으면 개발된 AI 시스템은 AI 생성 콘텐츠 내에 존재하는 편견을 강화하고 확대하는 역할만 하여 정보 소스로서 AI 생성 콘텐츠의 신뢰할 수 있는 사용을 더욱 약화시킬 것입니다. 더욱이 훈련 데이터의 다양성 부족으로 인해 광범위한 인간 경험과 관점을 올바르게 이해하고 표현할 수 있는 AI 시스템 개발 가능성이 제한될 수 있습니다. 이로 인해 자연어 처리, 콘텐츠 생성, 의사결정 시스템 등 다양한 AI 적용 영역의 발전이 제한될 수 있습니다.
생성적 AI 근친교배 문제 해결
무엇보다도 이는 진정한 위험, 특히 생성 AI 기술의 근친교배입니다. 그럼에도 불구하고 연구원, 개발자, 심지어 정책 입안자에게 적극적으로 행동해야 하는 책임을 부여합니다. AI 시스템 훈련 중에 다양하고 대표적인 데이터 세트가 최우선 사항으로 사용되도록 보장하고 감지하고 줄일 수 있는 메커니즘을 통합합니다. AI 생성 콘텐츠의 편견을 방지하고 효과적인 학제간 협업을 보장하는 동시에 AI 구축의 윤리적, 사회적 영향을 다루고 보장합니다.
AI 시스템 배포에 있어 개방성과 책임성에 대한 필요성을 더욱 촉진해야 하며 AI 생성 콘텐츠 사용자와 한계 및 편견에 대한 인식을 공유해야 합니다. 따라서 모든 이해관계자는 AI 개발에서 근친교배와 관련된 위험을 완화하는 동시에 생성 AI의 힘을 활용하기 위해 적극적으로 협력할 수 있습니다.
생성적 AI의 근친교배 개념은 AI 시스템의 개발 및 배포에 있어 미래의 큰 과제입니다. 이는 생성적 AI 근친교배를 효과적으로 개선하는 방법과 의미를 이해함으로써 사회를 위한 기술 개선의 책임 있고 윤리적인 개발이 충족되도록 보장하는 데 도움이 될 것입니다.
출처: https://www.cryptopolitan.com/generative-ai-growing-in-ai-development/