인공지능은 그 존재의 모든 측면에서 인간의 삶에 영향을 미칠 것으로 예상되지만, 전문가들이 가장 우려하는 것은 전쟁에서의 적용이며, 이는 틀리지 않습니다. 미군이 인간이 조종하는 항공기와 AI가 조종하는 제트 전투기 간의 최초의 공중전을 실시했습니다.
반면, AI는 이미 가자지구와 우크라이나 같은 실제 전쟁 지역에서 누구를 표적으로 삼을지 결정하고 있습니다. 이스라엘 출판물 +972 Magazine 연구에 따르면 이스라엘은 잠재적인 표적을 식별하기 위해 라벤더라는 AI 알고리즘을 배포했으며 인간의 의사 결정 적용을 최소화하여 엄청난 수의 민간인 사상자를 발생시켰다고 합니다.
전 세계 국가에서 AI 무기를 테스트하고 있습니다
보시다시피 전쟁에서 AI를 부주의하게 배치하면 인류에게 파괴적인 영향을 미칠 수 있습니다. 목표를 달성하기 전에 주요 의사결정자가 되어야 하는 강력한 인간 통제력을 갖추는 것이 필수적입니다. 러시아는 또한 우크라이나를 표적으로 삼기 위해 이란의 드론을 사용하고 있으며, 우크라이나는 AI 유도 무기와 전통 무기에 대한 지원을 서방 동맹국에 의존하고 있습니다. 최근에는 러시아 내부 최대 1300km 깊이의 몇몇 정유소를 공격했습니다. 이러한 사실은 인간의 삶뿐만 아니라 인류 문명을 지원하는 핵심 자원과 공급망에 대한 AI의 위험성을 직접적으로 알려줍니다.
미 공군은 최근 몇 년 전에 시작된 DARPA의 ACE(Air Combat Evolution) 프로젝트에 따라 공중전에서 AI 지원 F-16을 테스트했습니다. F-16 연구용 항공기의 고도로 수정된 버전에 AI 소프트웨어가 탑재되었습니다. 이 항공기의 이름은 X-62 VISTA(Variable Stability In-flight Simulator Test Aircraft)이며, 인간 조종사가 조종하는 기본 F-16과 수많은 공중전을 벌였습니다.
기자회견에 따르면 미 공군 관계자는 VISTA가 인간 조종사와 동등한 성능을 발휘했으며 항공기 탑재 AI 시스템의 훈련 과정에 대해 설명했다고 말했습니다.
기계 학습은 무인 항공기 산업에 또 다른 차원을 제공했으며 미군은 수십 년 동안 이러한 자율 선박을 조종해 왔지만 적과의 긴밀한 접촉을 요구하는 공중전에 참여하는 것은 관련된 위험과 이전에 시도된 적이 없습니다.
AI 위협을 완화하려면 긴급 법안이 필요합니다.
많은 국가에서 인간의 간섭 없이 목표물을 식별하고 타격할 수 있는 공중 또는 지상의 자율 차량을 개발하고 있습니다.
2020년 유엔 보고서에 따르면, 리비아 전쟁에서 군용 드론이 군인들을 공격했으며, 로켓 공격을 피해 도망가는 적 민병대원들을 향해 드론이 스스로 행동한 것으로 추정된다.
위에서 설명한 관행을 살펴보면, 국제사회가 한자리에 모여 모든 이해관계자를 참여시켜 이러한 문제를 긴급하게 해결해야 한다는 것은 의심의 여지가 없습니다.
AI는 아직 기술로서 성숙하지 못하고 계속해서 진화하고 있어 엄청난 잠재력을 보여주고 있으며, 제대로 규제되지 않는다면 인간의 삶의 존재 자체에 심각한 결과를 초래할 수 있습니다.
출처: https://www.cryptopolitan.com/will-ai-fight-wars-autonomously-in-future/