2월 10일 파리에서 “AI Action Summit”이 개막합니다. 이 행사에는 미국과 중국 대표단을 비롯해 최소 100명의 국가 및 정부 수반과 시민사회 구성원, AI 전문 첨단 기술 기업의 경영진이 참석할 것으로 예상되었습니다. Le Monde에 따르면 주요 참석자로 Elon Musk와 Sam Altman(OpenAI), Sundar Pichai가 거론됩니다. 이 규정은 점진적으로 시행되며, 시행 방식에 관한 논의와 이의 제기가 이어질 수 있습니다.
2월 2일, 유럽연합은 일반적으로 EU AI Act라고 불리는 세계 최초의 포괄적인 국제 AI 법률을 공식 공포했습니다.
규제 당국은 이번 정상회의에서 해당 규정이 AI 개발자와 사용자 기업에 미치는 영향을 주요 의제로 다룰 가능성이 큽니다. AI 규정의 최종안은 2024년 3월 13일 유럽의회에서 찬성 523표, 반대 46표, 기권 49표로 통과되었습니다. 이 문서는 이미 2023년 12월 유럽연합 집행위원회 및 EU 회원국들과 합의된 바 있습니다. 유럽의회가 발표한 성명에 따르면, 이 규정은 혁신을 장려하고 이 분야에서 유럽의 주도권을 강화하는 동시에 “고위험 AI로부터 기본권, 민주주의, 법치주의 및 환경적 지속 가능성”을 보호하는 것을 목표로 합니다.
따라서 이는 지침이 아니라 법률입니다. 즉, 유럽연합 내에서 직접적인 효력을 갖는 법적 행위입니다. 사업 활동 분야에서 AI를 개발하거나 도입하는 모든 주체와 관련된 중요한 요소로서, Eesti Firma는 암호자산, 인공지능 및 각종 기타 디지털 자산 시장에 관한 법률 및 기업 자문 등의 서비스를 제공합니다.
AI Act: 주요 금지 사항 및 예외
일부 AI 애플리케이션은 AI Act에 따라 전면 금지됩니다. 가장 중요한 금지 사항 중 하나는 실시간 대규모 생체인식 감시의 금지입니다. 그 밖의 AI 애플리케이션은 낮음부터 높음까지 다양한 위험 범주 중 하나로 분류되며, 각 범주에 따라 서로 다른 안전성과 투명성 요건이 적용됩니다.
2월 2일부터 EU 규정은 인간의 안전과 권리에 “허용할 수 없는 위험”을 초래하는 AI 시스템을 금지합니다. 다만 국가 안보를 근거로 한 예외가 인정됩니다.
구체적으로 인간의 사회적 행동을 평가하여 “점수”를 부여하는 프로그램은 금지됩니다. 중국에서 시민의 행동에 따라 보상하거나 불이익을 주는 데 사용되는 이러한 사회적 점수 평가 시스템은 이제 EU에서 금지됩니다.
직장과 교육기관에서도 AI 기반 감정 인식 기술이 금지되었습니다. 특히 아동을 대상으로 기만적인 방법을 사용해 행동을 조종하는 AI 시스템은 금지됩니다. 예를 들어, 아동에게 안전하지 않은 행동을 하도록 권할 수 있는 말하는 장난감은 허용되지 않습니다.
취약한 개인을 악용하는 시스템에는 노인을 대상으로 사기를 저지르는 데 사용될 가능성이 있는 로보콜(Robo-Calls)이 포함됩니다.
그 밖에 공공장소에서의 안면 인식은 대체로 금지되지만, 법 집행기관은 인신매매 및 테러 등 중대 범죄 사건을 수사할 때 해당 시스템을 사용할 수 있습니다. 글로벌 인권 단체 Access Now의 EU 정책 분석가 Caterina Rodelli는 Euronews를 통해 “금지에 예외가 있다면 그것은 더 이상 금지가 아니다”라고 말하며 이 예외에 아쉬움을 나타냈습니다.
EU AI 규정에 따른 위험 평가
AI를 개발하거나 사용하는 기업은 자사 시스템의 위험 수준을 평가하고 법적 규범을 준수하는 데 필요한 조치를 취해야 합니다. 유럽연합 집행위원회는 이 규정이 혁신을 저해하기 위한 것이 아니라 AI를 안전하고 투명하게 만들기 위한 것이라고 강조합니다. 이에 따라 AI 제공자는 이러한 시스템의 개발과 운영에 관여하는 모든 사람이 충분한 “AI 역량”을 갖추도록 해야 합니다.
AI Act를 준수하지 않을 경우 구체적인 위반 행위와 기업의 사업 규모에 따라 최대 €35 million 또는 기업의 전 세계 연간 매출액의 7% 중 더 높은 금액이 과징금으로 부과됩니다. 이는 과징금 상한을 €20 million 또는 전 세계 연간 매출액의 4%로 정한 EU의 일반개인정보보호법에 따른 최대 제재를 넘어서는 수준입니다.
비판과 경고
Mozilla의 공공정책 및 EU 정부 협력 책임자인 Tasos Stampelos는 앞서 CNBC와의 인터뷰에서 이 법이 “완벽하지는 않지만” “반드시 필요하다”고 말했습니다.
Stampelos는 CNBC가 주최한 콘퍼런스에서 “AI Act가 기본적으로 제품 안전 법률이라는 점을 이해하는 것이 중요합니다”라고 말했습니다. “안전 규정에서 그랬듯이 법률이 채택되었다고 해서 절차가 끝난 것은 아닙니다. 이후 여러 후속 조치와 설명이 이어질 것입니다.”
그는 이어 “현재 법률 준수 여부는 앞으로 규정 준수가 실제로 무엇을 의미하는지 정의하게 될 표준, 지침, 2차 법률 및 전반적인 파생 도구에 달려 있습니다”라고 덧붙였습니다.
업계 협회 Bitkom에서도 비판이 나옵니다. 입법자들이 “제대로 준비하지도 않은 채” 촉박한 기한과 엄격한 요건을 설정했으며, 새로운 법률의 정의도 명확하지 않다는 것입니다. Bitkom 이사회 구성원 Susanne Demel은 기업들이 법적 위험에 관해서는 스스로 대처해야 하는 상황이라고 말했습니다. 미국이 AI에 수천억 달러를 투자하고 중국이 강력한 언어 모델을 개발하는 가운데, Demel은 “독일과 EU가 개발자들에게 장애물을 만들고 있다”고 확신합니다.
유럽연합 집행위원장 Ursula von der Leyen과 유럽중앙은행 총재 Christine Lagarde는 공동 블로그 게시물을 통해 유럽의 AI 경쟁력이 위기에 처했다고 경고하며 위기감을 더욱 고조시켰습니다. 이들은 “전 세계가 AI 혁명을 경험하는 동안 EU는 뒤처질 위험에 처해 있다”고 말했습니다.
서로 다른 접근법 – EU와 Donald Trump 집권하의 미국
한편 유럽의 규제 기조와 달리, 2025년 1월 시작된 Donald Trump의 두 번째 임기 초반 미국 정부는 매우 다른 노선을 선택했습니다. 그의 행정부는 기존에도 느슨했던 규제를 더욱 완화하고, 이전 행정명령을 철회하는 한편 기술 부문의 수십억 달러 규모 투자를 적극적으로 내세웠습니다.
백악관은 4년 동안 최대 $500 billion을 투자하는 “Stargate” 인프라 프로젝트의 출범을 발표했습니다. 자금은 데이터 센터 및 기타 AI 인프라 구성 요소 개발에 투자될 예정입니다. Donald Trump는 “이 모든 일이 바로 여기 미국에서 일어나고 있다”고 강조하며, 향후 180일 이내에 구체적인 “AI Action Plan”을 발표하겠다고 약속했습니다.
분석가들은 새로운 미국 전략의 주요 목표가 AI 분야에서 미국의 지배력을 강화하는 것이라고 지적합니다. 전문가들은 EU와 미국의 상이한 접근법이 글로벌 AI 경쟁에 장기적인 영향을 미칠 것으로 봅니다. 현재 미국은 Google, Meta, Apple, OpenAI와 같은 기술 대기업을 중심으로 연구와 투자에서 선두를 달리고 있습니다. 중국은 AI 역량을 빠르게 확대하며 2위를 차지하고 있습니다. 미국이 IT 부문의 발전과 국익에 집중하는 반면, 유럽은 엄격한 규제와 소비자 보호를 고수하고 있습니다.
따라서 글로벌 AI 거버넌스의 미래는 여전히 불확실합니다. EU가 세부적인 위험 규제와 투명성을 통해 혁신을 보호하려는 반면, 미국은 기업에 대한 장벽을 최소화하는 전략을 추진하고 있습니다. 관측통들은 안전과 혁신 사이의 균형이 향후 수년간 경제와 사회에서 AI가 담당할 역할을 결정할 것이라고 강조합니다.
