[BBC] HRW, 구글의 AI 무기 금지령 해제는 매우 우려스러운 일

Google ending AI arms ban incredibly concerning, campaigners say. Google's parent company lifting a longstanding ban on artificial intelligence (AI) being used for developing weapons and surveillance tools is "incredibly concerning", a leading human rights group has said.  

HWR, 구글의 AI 무기 금지령 해제는 매우 우려스러운 일

AI 지원 무기가 사용된 우크라이나 전장

 

주요 인권 단체는 "구글의 모회사가 무기와 감시 도구 개발에 인공지능(AI)을 사용하는 것을 금지하는 오랜 금지령을 해제한 것은 매우 우려스럽다"고 말했다. 앨퍼벳(Alphabet)은 AI 사용 방법에 대한 지침을 다시 작성하여 이전에 해를 끼칠 가능성이 있는 애플리케이션을 배제했던 섹션을 삭제했다. 

세계적인 인권 단체 휴먼 라이츠 워치(Human Rights Watch)는 이 결정을 비판하며 BBC에 "AI가 생사에 영향을 미칠 수 있는 전장 결정에 대한 책임을 복잡하게 만들 수 있다"고 말했다. 

블로그 게시물에서 구글은 이 변화를 옹호하며 "기업과 민주 정부가 국가 안보를 지원하는 AI에 협력해야 한다."고 주장했다. 전문가들은 AI가 전장에 광범위하게 배치될 수 있다고 말한다. 하지만 특히 자율 무기 시스템과 관련하여 사용에 대한 우려도 있다. 

휴먼라이츠워치의 수석 AI 연구원인 안나 바치아렐리는 "글로벌 산업 리더가 스스로 정한 적선을 포기한다는 것은 우려스러운 변화의 신호이며, AI 분야에서 그 어느 때보다 책임감 있는 리더십이 필요한 시점입니다."라고 말했다. 

바치아렐리는 일방적 결정은 또한 자발적 원칙이 규제와 구속력 있는 법률을 대체하기에 적합한 대안이 될 수 없는 이유를 보여주었다. 앨퍼벳은 블로그에서 민주주의가 자유, 평등, 인권 존중과 같은 핵심 가치에 따라 AI 개발을 주도해야 한다고 말했다.  

구글은 또 "그리고 이러한 가치를 공유하는 기업, 정부, 조직이 협력하여 사람들을 보호하고, 세계적 성장을 촉진하며, 국가 안보를 지원하는 AI를 만들어야 한다고 믿습니다."라고 말한다.  

구글 딥마인드(DeepMind)의 AI 랩을 이끄는 수석 부사장 제임스 마니카(James Manyika)와 데미스 허사비스(Demis Hassabis)가 쓴 이 블로그는 2018년에 발표된 회사의 원래 AI 원칙을 기술이 발전함에 따라 업데이트해야 한다고 말했다. 

'대규모 살인'

최근 몇 년 동안 AI의 군사적 잠재력에 대한 인식이 커졌다. 1월에 의원들은 "우크라이나 전장에서 이 기술이 전장에서 심각한 군사적 이점을 제공한다는 것을 보여주었다."고 주장했다. 

최근 UK군의 AI 사용에 대한 하원 보고서 위원장을 맡은 에마 루엘-벅 의원은 "AI가 더 널리 퍼지고 정교해짐에 따라 백오피스에서 최전선까지 방위 업무 방식이 바뀔 것"이라고 썼다. 

하지만 AI 전문가들 사이에서 이 강력한 신기술을 광범위하게 어떻게 통제해야 하는지에 대한 논쟁과 더불어, 전장과 감시 기술에서 AI를 사용하는 것에 대한 논란도 있다. 자율적으로 치명적인 행동을 취할 수 있는 AI 기반 무기의 잠재력에 대한 우려가 가장 크며, 캠페인 참여자들은 통제가 시급히 필요하다고 주장한다. 

인류가 얼마나 멸망에 가까운지를 상징하는 종말 시계는 인류가 직면한 위험에 대한 최신 평가에서 이러한 우려를 언급했다. 최신 평가는 "인공지능을 군사적 타겟팅에 통합하는 시스템은 우크라이나와 중동에서 사용되었으며, 여러 국가가 군대에 인공지능을 통합하기 위해 움직이고 있습니다. 이러한 노력은 기계가 군사적 결정을 내릴 수 있는 범위에 대한 의문을 제기합니다. 심지어 대규모로 살상할 수 있는 결정도 포함됩니다."라고 말한다.  

'악하지 마라'

원래, AI 윤리에 대한 관심이 급증하기 훨씬 전에 구글의 설립자 세르게이 브린(Sergei Brin)과 래리 페이지(Larry Page)는 회사의 모토가 "악하지 마라"라고 말했다. 2015년에 회사가 앨퍼벳 주식회사(Alphabet Inc)라는 이름으로 재편되었을 때 모회사는 "옳은 일을 하라"로 전환했다.  

그 이후로 구글 직원은 때때로 임원들이 취한 접근 방식에 반발했다. 2018년에 회사는 수천 명의 직원이 서명한 사직서와 청원서에 따라 US 국방부와 AI 작업 계약을 갱신하지 않았다. 그들은 "프로젝트 메이븐"이 치명적 목적으로 인공지능을 사용하는 첫 단계라고 두려워했다. 

이 블로그는 앨퍼벳의 연말 재무 보고서 직전에 게시되었으며, 시장 예상보다 약한 결과를 보여 주가를 떨어뜨렸다. 이는 US 선거 지출로 인해 가장 큰 수익원인 디지털 광고에서 수익이 10% 증가했음에도 불구하고 발생했다. 

이 회사는 수익 보고서에서 올해 AI 프로젝트에 750억 달러(108조2,850억원)를 지출할 것이라고 밝혔는데, 이는 월가 분석가들이 예상했던 것보다 29% 더 많은 금액이다. 이 회사는 AI, AI 연구, AI 기반 검색과 같은 애플리케이션을 실행하는 인프라에 투자하고 있다. 

기사 Lucy Hooker & Chris Vallance, Business & technology reporters
원문 https://www.bbc.com/news/articles/cy081nqx2zjo