Meta는 미성년자가 인터넷에서 알몸의 성적 이미지를 지울 수 있도록 새로운 플랫폼을 지원합니다.

T국립실종학대아동센터(National Center for Missing & Exploited Children)는 Meta가 자금을 지원하는 플랫폼을 시작하여 어린이와 십대가 소셜 미디어에서 자신의 알몸 또는 성적인 사진과 비디오를 제거하도록 돕습니다.

미성년자를 위한 새로운 서비스인 그것을 내려로 알려진 성인을 위한 유사한 도구가 출시된 지 XNUMX년 후에 공개되었습니다. 정지NCII (합의되지 않은 친밀한 이미지의 줄임말). 현재 Take It Down은 참여에 동의한 XNUMX개 플랫폼에서만 작동합니다. Meta가 소유한 Facebook 및 Instagram은 물론 Yubo, OnlyFans 및 Pornhub입니다.

NCMEC의 사장 겸 CEO인 Michelle DeLaune은 “많은 어린이들이 절박한 상황에 처해 있기 때문에 이 시스템을 만들었습니다. "우리의 희망은 아이들이 이 서비스를 인식하고 이미지를 제거하는 데 도움이 되는 도구가 있다는 안도감을 느끼는 것입니다."

소셜 미디어 회사가 어린이와 청소년을 보호하는 방법과 부족한 점은 새 의회에서 양당의 최고 기술 정책 문제로 부상했으며 의원이 법안을 통과시킬 가능성이 가장 높은 문제입니다. 그럼에도 불구하고 보호 장치를 만들거나 강화하기 위한 제안에는 갈 길이 멀고 임박한 법률이 없기 때문에 NCMEC는 계속해서 온라인 회사와 아동 안전 문제에 대한 법 집행 사이의 다리 역할을 합니다. 2021년에 이 비영리 단체는 플랫폼에 있는 명백한 섹스토션 및 아동 성적 학대 자료에 대해 업계 전반에서 약 30천만 건의 제보를 받았습니다. 대다수는 Meta가 소유한 플랫폼에서 보고되었습니다.

미성년자 및 보호자 사용 가능 NCMEC의 무료 익명 도구 온라인에 유포되었거나 유포될 것으로 생각되는 미성년자의 노골적인 자료를 표시합니다. 기기에서 민감한 사진이나 동영상을 선택하면 플랫폼은 NCMEC가 참여하는 소셜 미디어 사이트와 공유하는 해당 사진의 디지털 지문("해시"라고 함)과 동등한 것을 생성하여 검색할 수 있도록 합니다. 해당 콘텐츠를 제한하거나 제거하고 계속 모니터링합니다.

NCMEC에 따르면 문제의 사진이나 비디오는 특히 장치를 떠나지 않으며 누구도 볼 수 없습니다. (해시는 또한 피해자를 NCMEC와 소셜 미디어 앱 모두에서 식별할 수 없도록 하여 이미지가 유해하므로 삭제해야 한다는 신호만 보냅니다.) NCMEC는 잠재적으로 개인의 신원을 노출할 수 있는 해시 데이터베이스의 알려진 침해가 없다고 말했습니다. .

그러나 이러한 노력의 가장 큰 장애물 중 하나는 종단 간 암호화의 부상입니다. NCMEC의 DeLaune 회장은 이번 달 청문회에서 상원 법사위원회에 "기술 회사가 알려진 아동 성학대 자료를 탐지하기 위한 예방 조치 없이 종단간 암호화를 구현할 때 아동 안전에 미치는 영향은 엄청납니다"라고 말했습니다. . 방 안의 코끼리는 재무 후원자이자 Take It Down, Meta와 관련된 가장 유명한 회사가 종단 간 암호화를 향한 클립 이동 인스타그램과 메신저 모두에서

NCMEC 부회장인 Gavin Portnoy는 두 조직이 이 문제를 어떻게 조화시킬 수 있는지는 "백만 달러의 문제"라고 말했습니다. 포브스, NCMEC는 여전히 Meta의 암호화 계획이 무엇인지, 어떤 보호 장치가 마련되어 있는지 정확히 알지 못한다고 지적합니다. (Meta는 작업이 진행 중이며 Instagram과 Messenger에서 다양한 암호화 기능이 테스트되고 있다고 말했습니다.)

Portnoy는 "우리는 오늘날 인터넷과 [전자 서비스 제공업체]가 있는 방식에 대해 Take It Down을 구축하고 있습니다."라고 말했습니다. "[Meta의] 종단 간 암호화 환경이 어떤 모습인지, 그리고 Take It Down이 작동할 수 있는 세상이 있는지 더 잘 이해하게 되었을 때 우리가 건너야 할 다리입니다."

Meta의 글로벌 안전 책임자인 Antigone Davis는 다음과 같이 말했습니다. 포브스 "암호화로 인해 특정 이미지가 식별되지 않을 수 있지만" 사용자 개인 정보 보호 및 보안에 필수적인 메시징 업계 표준이 되고 있습니다. 해시 기술을 사용하고 이와 같은 프로젝트에서 NCMEC를 지원하는 것은 Meta가 "실제로 문제를 해결하기 위해" 시도하는 여러 가지 방법 중 하나라고 그녀는 말했습니다. (양측은 메타가 테이크 잇 다운을 구축하기 위해 NCMEC에 얼마나 많은 돈을 줬는지 밝히기를 거부했습니다.)

"이러한 문제를 해결하기 위한 만병통치약은 없습니다." Davis는 인터뷰에서 Meta의 접근 방식을 "다면적"이라고 설명하면서 말했습니다. 그녀는 섹스토션과 사적인 이미지의 비동의적 확산을 막기 위한 이 새로운 시스템에 대한 협력 외에도 메타는 성인 낯선 사람이 메시지 기능을 통해 미성년자와 연결하는 것을 허용하지 않는다고 말했습니다. 또한 미성년자의 계정과 콘텐츠가 온라인에서 의심스러운 행동을 한 성인 메타 사용자에게 푸시되는 것을 방지하기 위해 분류자를 사용하고 있다고 그녀는 덧붙였습니다.

“어렸을 때 누구에게든(그것을 착취한 부모, 착취한 다른 성인, 전 남자친구나 여자친구에게) 그런 이미지를 공유한 적이 있는 사람들이 관심을 갖기를 바랍니다. 이 도구를 사용하십시오.”라고 Davis는 말했습니다.

NCMEC는 일부 투구했다고 밝혔다. 200개의 기타 전자 서비스 제공업체 Take It Down 프로그램 가입에 대한 정보를 "CyberTipline"에 제출했습니다. 오늘날 이를 옹호하는 소수의 소셜 미디어 플레이어 외에 누가 참여할지는 두고 볼 일입니다. Yubo는 이러한 얼리 어답터가 다른 사람들의 참여를 독려하기를 희망한다고 말했습니다.

Yubo의 CEO인 Sacha Lazimi는 이메일을 통해 "온라인에서 위험을 완화하고 문제를 해결하려면 정부 개입 이상의 것이 필요합니다."라고 말했습니다. “모든 배우는 자신의 역할을 해야 합니다. … 공동 작업은 큰 문제에 대한 솔루션을 식별하는 데 핵심이므로 더 많은 플랫폼이 Take It Down 이니셔티브에 참여하기를 바랍니다.”

FORBES에서 더TikTok Live는 어떻게 '15세 청소년들로 가득 찬 스트립 클럽'이 되었나By 알렉산드라 S. 레빈FORBES에서 더이 TikTok 계정은 눈에 잘 띄는 곳에 아동 성적 학대 자료를 숨기고 있습니다By 알렉산드라 S. 레빈FORBES에서 더TikTok 중재자는 아동 성적 학대의 그래픽 이미지를 사용하여 훈련되고 있습니다.By 알렉산드라 S. 레빈