유럽의 기술 업체들이 중국의 공안 기관에 디지털 감시 기술을 판매하고 있는 사실이 확인되었다. 국제앰네스티 조사 결과, 프랑스, 스웨덴, 네덜란드에 각각 본사를 둔 3개 기업이 안면 인식 기술, 네트워크 카메라 등 디지털 감시 시스템을 중국의 주요 감시 기관에 판매하고 있는 것이 밝혀졌다. 이렇게 수출된 기술은 중국 내 대규모 감시 프로그램에 사용되고 있었다. 유럽의 디지털 기술이 광범위한 인권 침해를 부추기고 있는 상황이다.
유럽에서는 생체 정보 감시 기술 분야를 수출할 때 강력한 인권 기준을 적용해 수출 규제를 강화해야 한다는 목소리가 지속적으로 있어왔다. 네덜란드, EU의 의장국 독일은 예전부터 더 강력한 인권 보호 장치의 필요성을 주장하고 있다. 하지만 스웨덴, 프랑스 등 대부분의 EU 국가들은 이런 촉구를 거부하고 있다.
중국의 감시 카메라들
중국의 감시 기술
중국에서는 사람들을 끊임없이 감시하기 위해 “스카이넷”Skynet, “매의 눈”Sharp Eyes과 같은 대규모 감시 프로젝트가 진행되고 있다. 중국 공안은 이런 감시 체제를 확장하는 데 주요한 역할을 담당한다. 특히 생체 정보 감시는 중국 북서부 신장 위구르 자치구역에서 매우 흔하게 사용되는 기술이다. 이 지역에서는 최대 100만 명에 이르는 위구르인 및 소수민족들이 임의 체포되어 소위 “재교육 캠프”로 보내진 것으로 추정된다.
안면 인식 소프트웨어를 포함한 생체 정보 감시 도구는 디지털 감시 기술 중에서도 가장 침략적이다. 정부는 이를 이용해 공공장소에서 개인을 식별, 추적하거나 선별할 수 있다. 이러한 기술은 사생활권, 결사· 언론·종교의 자유, 차별받지 않을 권리를 위협한다.
감시에 사용되는 유럽 기업의 기술?
앰네스티 조사 결과 서로 다른 세 가지 유형의 디지털 감시 기술이 중국 공안국과 중국 내 인권을 침해하는 관련법 유지에 기여한 기관에 판매된 것으로 확인됐다.
사례 1 안면 인식 및 생체 인식 기술
프랑스 다국적기업 아이데미아Idemia의 전신인 모르포Morpho는 2015년 상하이 공안국에 얼굴인식 장비를 직접 공급한다는 내용의 계약을 체결했다. 모르포는 안면 인식 시스템 및 생체 인식 관련 제품 등 보안/신원 확인 시스템 개발 전문업체다. 국제앰네스티는 공적 및 사적 행위자 모두 신원 확인 목적으로 얼굴인식 기술을 사용, 개발, 생산, 판매, 수출하지 못하도록 금지할 것을 촉구하고 있다.
핸드폰을 하고 있는 남자
사례 2 네트워크 카메라를 통한 360도 촬영
스웨덴 기업인 액시스 커뮤니케이션Axis Communication의 경우 중국의 감시 확장에 참여했다는 내용을 자사 홈페이지에 홍보하기까지 하고 있다. 액시스는 네트워크 카메라 개발 및 판매 업체로, 보안 감시 및 원격 모니터링 분야를 전문적으로 다루고 있다. 액시스는 중국 공안국에 자사 기술을 지속적으로 공급했으며 2012년부터 2019년까지 중국의 국가 감시 입찰 서류에 “추천 업체”로 여러 차례 등재되었다.
액시스는 홈페이지를 통해 중국 남부의 인구 500만 도시 길린성에서 스카이넷 감시 프로그램 업그레이드의 일환으로 보안 카메라 네트워크를 8,000대에서 30,000대로 확대했다고 밝혔다. 이 카메라는 360도로 움직이며 300~400미터 거리까지 촬영할 수 있어, 모든 방향에서 대상을 추적할 수 있다.
모스크바 지하도의 감시카메라
사례 3 감정 인식 및 분석
네덜란드 기업 놀더스 인포메이션 테크놀러지Noldus Information Technology는 중국의 공안 및 법 집행 관련 기관에 감정 인식 시스템을 판매했다. 놀더스가 개발한 소프트웨어 “페이스리더FaceReader“는 분노, 행복, 슬픔, 놀람, 혐오를 표현하는 얼굴 표정을 자동 분석하는 데 사용된다. 이 기술은 중국의 공안 및 경찰과 연관된 대학교뿐만 아니라 중국 공안부에서도 사용되고 있는 것으로 밝혀졌다. 중국의 법제도는 여러 가지 면에서 국제기준을 만족하지 못하고 있으며, 정부가 이를 남용해 인권을 제한하는 경우도 많다.
또한 국제앰네스티 조사 결과 놀더스는 2012년부터 2018년 사이 신장 지역의 대학교 2곳 이상에 디지털 감시 기술을 판매한 것으로 확인됐다. 이 대학교 중에는 신장생산건설병단Xinjiang Production and Construction Corps, XPCC 산하의 스허쯔 대학교도 있다. XPCC는 “민족의 단결과 신장 사회의 안정을 수호하고 폭력적인 테러 범죄를 엄중 단속하는” 특별한 역할을 수행하는 것으로 알려져 있다.
유럽의 생체 측정 감시 기술 산업은 현재 통제 불능 상태다. … 인권침해 가해자들에게 기술과 상품을 판매하며 수십억 유로 규모의 산업으로 번창하고 있다. EU의 현행 수출 규제 제도는 유명무실한 상태로, 신속히 보완되어야 한다.
메럴 코닝Merel Koning 국제앰네스티 기술과인권 상임정책관
변화를 위해서는 EU가 움직여야 한다
EU 기업의 이러한 기술 수출은 인권에 심각한 위협을 가한다. 이들 기업 중 거래전 상당한 주의 의무를 다했는지에 대해 명확한 답변을 제공한 곳은 한 곳도 없었다. EU가 지금 행동에 나서야 하는 이유다.
국제앰네스티는 보고서를 통해 EU의 현행 수출 규제 제도인 이중사용 규제Dual Use Regulation에 중대한 결점이 있다고 설명했다. 국제앰네스티는 EU의 수출 규제 제도에 디지털 감시 기술 산업을 모두 포함시키고, 수출 결정 과정에서 인권 보호 장치를 더욱 강화하고, 모든 기업이 인권영향평가를 시행하게 할 것을 유럽의회에 촉구한다.
유럽연합의 감시 기술을 상징하는 일러스트
EU가 행동에 나서지 않는다면, EU가 중국 정부의 인권침해에 잠재적인 역할을 수행한 것은 아닌지 의문을 제기할 수밖에 없다.
메럴 코닝Merel Koning 국제앰네스티 기술과인권 상임정책관
“유럽의 생체 측정 감시 기술 산업은 현재 통제 불능 상태다. 중국 보안기관과 관련 연구기관에 기술을 판매한 사실이 밝혀진 것은 유럽 감시기술 산업의 빙산의 일각에 불과하다. 판매된 기술이 인권침해 용도로 사용되는 것을 막기 위한 안전 장치는 거의 없는 상태다. 이들 업체는 인권침해 가해자들에게 기술과 상품을 판매하며 수십억 유로 규모의 산업으로 번창하고 있다.”
“중국 공안국은 인권침해적인 감시 역량을 강화하기 위해 유럽 기업에서 판매하는 제품을 사용하고 있다. 중국 정부에 제품 및 기술을 판매하면 상당한 위험이 있을 것임을 잘 알고 있으면서도, 인권침해 가해자가 해당 제품 및 기술을 사용하고 연구하지 못하도록 막는 조치는 전혀 취하지 않은 것으로 보이며, 그렇게 함으로써 자신들의 인권 의무를 완전히 저버렸다. EU 의회에서 이와 유사한 인권침해적 거래를 막기 위해 행동해야 하는 이유가 바로 이것이다.”
EU에서 아무리 신장 지역의 제도적인 탄압을 비난해도, 그러한 인권침해를 가능하게 만드는 기술 자체를 유럽 기업에서 계속해서 수출하는 한 공허한 울림에 그칠 뿐이다. EU의 현행 수출 규제 제도는 유명무실한 상태로, 신속히 보완되어야 한다.”
“EU가 행동에 나서지 않는다면, EU가 중국 정부의 인권침해에 잠재적인 역할을 수행한 것은 아닌지 의문을 제기할 수밖에 없다.”
EU companies selling surveillance tools to China’s human rights abusers
European tech companies risk fuelling widespread human rights abuses by selling digital surveillance technology to China’s public security agencies, a new Amnesty International investigation reveals. The findings are published ahead of a crucial meeting in Brussels on 22 September where the European Parliament and EU member states will decide whether to strengthen lax surveillance export rules.
Amnesty International found that three companies based in France, Sweden and the Netherlands sold digital surveillance systems, such as facial recognition technology and network cameras, to key players of the Chinese mass surveillance apparatus. In some cases, the export was directly for use in China’s indiscriminate mass surveillance programmes, with the risk of being used against Uyghurs and other predominantly Muslim ethnic groups throughout the country.
Most EU governments, including France and Sweden, are resisting calls to strengthen export rules to include strong human rights safeguards in biometric surveillance technology, an area that European companies dominate. Germany, which has held the EU presidency since 1 July, and the Netherlands have both expressed the need for stronger human rights safeguards in the past but have so far failed to address this successfully at EU level.
“Europe’s biometric surveillance industry is out of control. Our revelations of sales to Chinese security agencies and research institutions that support them are just the tip of the iceberg of a multi-billion Euro industry that is flourishing by selling its wares to human rights abusers, with few safeguards against end-use abuses,” said Merel Koning, Senior Policy Officer, Technology and Human Rights at Amnesty International.
Across China, mass surveillance projects such as “Skynet” and “Sharp Eyes” are being rolled out to keep people under constant observation. China’s public security agencies are key players in developing this unprecedented expansion of surveillance. Biometric surveillance is ubiquitous in northwest China’s Xinjiang Uyghur Autonomous Region, where an estimated up to one million Uyghurs and members of other ethnic groups have been arbitrarily held captive in so-called “re-education camps”.
“EU governments’ condemnation of the systematic repression in Xinjiang rings hollow if they continue to allow companies to sell the very technology that could be enabling these abuses. The current EU export regulation system is broken and needs fixing fast,” said Merel Koning.
Biometric surveillance tools, including facial recognition software, are among the most invasive digital surveillance technologies that enable governments to identify and track individuals in public spaces or single them out based on their physiological or behavioural characteristics. These technologies pose a clear threat to the rights to privacy, freedom of assembly, speech, religion and non-discrimination.
Amnesty’s investigation identified the sale of three different types of digital surveillance technologies to Chinese state security agencies, entities that contribute to the upholding of laws that violate human rights, as well as entities in Xinjiang.
Morpho, which is now part of Idemia, a French multinational, was awarded a contract to supply facial recognition equipment directly to the Shanghai Public Security Bureau in 2015. The company specializes in security and identity systems, including facial recognition systems and other biometric identification products. Amnesty International calls for a ban on the use, development, production, sale and export of facial recognition technology for identification purposes by both state agencies and private-sector actors.
Amnesty’s research found that Axis Communications, a Swedish company, even boasts on its website of its involvement in expanding the Chinese surveillance state. Axis develops and markets network cameras, which specialize in security surveillance and remote monitoring. The company has supplied its technology to China’s public security apparatus and is repeatedly listed as a “recommended brand” in Chinese state surveillance tender documents dating from 2012 to 2019.
The company’s website states it expanded the network of security cameras from 8,000 to 30,000 in Guilin, a city in the south of China with a population of approximately 5 million people, as part of an upgrade of the city’s Skynet surveillance programme. The cameras in the network have a 360-degree angle and a range of 300 to 400 metres, making it possible to track targets from all directions.
“Chinese public security agencies are using products sold by European companies to build up their abusive surveillance capacity. These companies are profiting from of the sale of digital surveillance technologies that are linked to horrific human rights violations. The companies should have known full well that sales to China’s authorities were of significant risk but apparently took no steps to prevent their products from being used and studied by human rights abusers. In so doing, they totally failed in their human rights responsibilities. This is why the EU legislature needs to act to stop similar abusive trade,” said Merel Koning.
A Dutch company, Noldus Information Technology, sold emotion recognition systems to public security and law enforcement–related institutions in China. The company’s “FaceReader” software is used for automated analysis of facial expressions that convey anger, happiness, sadness, surprise and disgust. FaceReader was found to be used by Chinese universities with links to the public security apparatus and the police, as well as by the Ministry of Public Security. China’s legal system falls short of international standards in numerous respects and is often misused by the authorities to restrict human rights.
Amnesty International also found that Noldus sold its digital surveillance technology to at least two universities in Xinjiang between 2012 and 2018. This included supplying its “The Observer XT” software to Shihezi University in 2012. The university falls under the administration of the Xinjiang Production and Construction Corps (XPCC). XPCC fulfils a special role “in safeguarding the country’s unification and Xinjiang’s social stability and in cracking down on violent terrorist crimes”.
In 2012, it was already known that the Chinese government routinely conflates Uyghur cultural and religious practice with terrorism. In the years that followed, the technological advancement of the suppression of minorities in Xinjiang became apparent, with emotion and behavioural analysis systems of particular interest to the Chinese authorities.
The investigated exports by the EU companies pose a significant risk to human rights. None of the companies provided Amnesty International with clear answers as to what due diligence was carried out before completing these sales. This is one of the reasons why the EU must take action now.
Amnesty’s report illustrates the major shortcomings in the current export regulation framework of the EU, the Dual Use Regulation. Amnesty is calling on the EU legislature to include all digital surveillance technology under its export framework, strengthen human rights safeguards in export decisions and ensure all companies conduct a human rights impact assessment.
“In response to Amnesty International, Axis Communications said that they do not require a license for the export of cameras for use in Chinese mass surveillance programmes. This is exactly the problem of the current EU exports regulation framework. EU governments need to face up to their responsibilities and rein in this unchecked industry,” said Merel Koning.
“Until the EU does, they have serious questions to answer about their potential role in human rights violations perpetrated by the Chinese government.”
