외교부

Opening Remarks by H.E. Cho Tae-yul

Minister of Foreign Affairs of the Republic of Korea

REAIM Summit 2024

September 9, 2024, Seoul

Excellencies,

Distinguished Guests,

Ladies and Gentlemen, 

It is a great honor to officially open the 2nd Summit on Responsible AI in the Military Domain (REAIM).

Let me extend a warm welcome to my fellow ministers, distinguished representatives from various disciplines, and experts who have joined us in Seoul to participate in this invaluable endeavor to establish responsible AI.

I take this opportunity to acknowledge the visionary leadership of the Netherlands in launching the REAIM Summit in 2023.

I also express my gratitude to Singapore, Kenya and the United Kingdom who join as co-hosts this year and the 62 organizations contributing to 47 breakout sessions.

Distinguished Guests,

Artificial intelligence holds an immense potential to transform our daily lives and to fundamentally reshape our future.

The advancement of AI brings with it not only the excitement of innovation and opportunities but also questions about where this path will ultimately lead.

The development of AI in the military domain, in particular, is unfolding in ways we could scarcely have imagined.  

Since the bronze warrior Talos in Greek mythology, humanity has long been fascinated by the idea of machines that both resemble us and protect us.

Today’s military AI, however, goes beyond mere imitation. Rather, it is transforming the entire dynamics of military operation, emerging as our strategist, field commander, and soldiers, and often blurring the line between them.

In the meantime, our geopolitical situation is becoming increasingly volatile. Recent years have seen the most serious acts of aggression which challenge the very foundation of rules-based international order.

Faced with profound uncertainties on both technological and geopolitical fronts, it is all the more imperative that we set the norms and governance for responsible AI to ensure international peace and security and to preserve human dignity.

To this end, I offer that this Summit must serve to facilitate global discussion on three A’s: Assessment, Application, and Anchoring governance.

First, assessment.

We must foster a balanced understanding of the impact of AI on international peace and security.

This understanding will allow us to establish the minimum guardrails necessary to prevent devastating consequences of AI in the military domain.

For instance, AI must not contribute to the proliferation of weapons of mass destruction, nor undermine international peace and security, nor should it ever pose a threat to human civilization.

Second, application.

We should pool our wisdom on how we can apply our commitment to responsible AI on the ground.

Let us carefully break down what it means to be ‘responsible’ and unpack the issues related to the core principles to begin translating them into concrete actions.

The discussions will include concrete measures such as: legal review to ensure compliance with international law; mechanisms to prevent autonomous weapons from making life-and-death decisions without appropriate human oversight; and safeguards against the misuse of AI.

These much needed discussions will lay the foundation for the norms on responsible AI.

Third, anchoring governance.  

We must discuss the governance framework that will anchor our guardrails and specific actions for responsible AI.

Here, the rapidly advancing AI technology requires us to establish an agile governance.

Achieving this cannot be the work of states alone; it demands an inclusive multi-stakeholder approach.

This is the unique strength of REAIM process as a forum where diverse expertise and insights are embraced.

As we undertake these tasks at hand, I would like to draw some lessons learned from history.

Exactly 75 years ago, the international community set an inspirational example of what it can achieve when united by a common purpose, by adopting the Geneva Conventions.

These watershed documents laid the foundation for protecting human dignity in times of war.

Unfortunately, they came into being in the aftermath of world wars that claimed countless lives.

As we enter a new era with AI, we must move forward with the same unity of purpose to develop the norms fit for our time—and before our time is up.

As the first multilateral and multi-stakeholder forum on military AI, the REAIM Summit bears testimony to the common purpose that binds us.

For Korea’s part, in particular, in line with our aspiration to serve as a Global Pivotal State (GPS), we are committed to working with global partners to align the development, deployment and use of AI with our shared values.

In the military AI space, the Republic of Korea will continue to bring the critical agenda of responsible AI to the forefront of the global agenda, as an early champion of the REAIM process.

In the civilian AI space, too, the Republic of Korea will do its part by upholding the comprehensive vision laid out in Seoul Declaration for Safe, Innovative and Inclusive AI, adopted during the AI Seoul Summit in May this year.

Let me close with a quote from late Dr. Stephen Hawking: “Success in creating AI would be the biggest event in human history. Unfortunately, it might also be the last, unless we learn how to avoid the risks.”

As we stand at a fork in the road, the choices we make today will set the course for the generations to come.

Let us embrace our responsibility to ensure a safer tomorrow.

Thank you. /END/

---------------------------------------------------------------

존경하는 귀빈 여러분,

신사숙녀 여러분,

제2회 인공지능의 책임있는 군사적 이용에 관한 고위급 회의의 개막을 공식 선언하게 되어 큰 영광입니다.

책임있는 인공지능의 확립을 위한 소중한 노력을 모으기 위한 이 자리에 함께 해주신 장관님들, 다양한 기관 대표들, 그리고 전문가 여러분들께 따뜻한 환영의 인사를 전합니다.

이 기회를 통해 2023년 REAIM 정상회의를 개최한 네덜란드의 비전 있는 리더십에 감사의 뜻을 표합니다.

또한 올해 공동 주최국으로 참여한 싱가포르, 케냐, 영국과 47개의 소그룹 회의를 주관하는 62개의 기관에도 깊은 감사의 말씀을 전합니다.

존경하는 내외 귀빈 여러분,

인공지능은 우리의 일상생활을 변화시키고 미래를 근본적으로 재편할 수 있는 막대한 잠재력을 가지고 있습니다.

AI의 발전은 혁신과 기회라는 기쁨 뿐만 아니라, AI가 이끄는 이 길이 어디로 이어질지에 대한 질문도 던집니다.

특히 군사 분야에서 AI의 발전은 우리가 상상도 못했던 방식으로 전개되고 있습니다.

그리스 신화 속 청동 전사 탈로스 이후 인류는 오랫동안 우리를 닮았으면서 우리를 보호하는 기계에 매료되어 왔습니다.

그러나 오늘날의 군사 AI는 단순한 모방을 넘어, 군사 작전의 전체 역학을 변화시키고, 전략가, 현장 지휘관, 군인과 같은 역할로 등장하면서 이러한 인간과 기계의 경계를 흐리고 있습니다.

이와 동시에 우리의 지정학적 상황은 점점 더 불안정해지고 있습니다. 최근 수 년간 규범 기반 국제 질서의 근간을 위협하는 심각한 침략 행위들이 벌어지고 있습니다.

기술적, 지정학적 불확실성에 직면한 지금, 국제 평화와 안보를 보장하고 인간의 존엄성을 지키기 위해 책임있는 AI를 위한 규범과 거버넌스 수립하려는 노력은 그 어느 때보다 중요합니다.

이를 위해 이번 회의에서는 세 가지 ‘A,’즉 평가(assessment), 적용(application), 그리고 거버넌스 정착(anchoring governance)을 주제로 한 글로벌 차원의 논의를 촉진해야 한다고 제안합니다.

첫째, 평가입니다.

우리는 AI가 국제 평화와 안보에 미치는 영향을 균형있게 이해해야 합니다.

이러한 이해를 바탕으로 군사 분야에서 AI가 초래할 수 있는 파괴적인 결과를 방지하기 위한 최소한의 안전 장치를 수립할 수 있을 것입니다.

예를 들어, AI는 대량살상무기의 확산에 기여하거나 국제 평화와 안보를 훼손해서는 안 되며, 인류 문명에 위협을 가해서도 안 됩니다.

둘째, 적용입니다.

우리는 책임있는 AI에 대한 우리의 약속을 어떻게 현실에 적용할 수 있을지에 대해 지혜를 모아야 합니다.

'책임있는'의 의미를 신중하게 분석하고, 이를 구체적인 행동으로 옮기기 위해 핵심 원칙과 관련된 문제를 풀어나가야 합니다.

이러한 논의는 국제법 준수를 보장하기 위한 법적 검토, 인간의 적절한 감독 없이 자율 무기가 인간의 생사를 결정하는 사태가 발생하지 않도록 하는 메커니즘, AI의 오용을 방지하기 위한 안전장치 등 구체적인 조치를 포함해야 할 것입니다.

이러한 논의는 책임있는 AI 관련 규범을 위한 토대를 마련하는데 꼭 필요한 것입니다.

셋째, 거버넌스 정착입니다.

우리는 책임있는 AI를 위한 안전장치와 구체적인 행동을 뒷받침하는 거버넌스 체계를 논의해야 합니다.

빠르게 발전하는 AI 기술에 걸맞는 기민한 거버넌스를 구축해야 합니다.

이는 국가들만이 할 수 있는 일이 아니며, 포용적인 다중 이해관계자라는 접근 방식이 필요합니다.

이것이 바로 다양한 전문성과 통찰력을 포용하는 포럼으로서 REAIM 프로세스가 갖는 고유한 강점입니다.

위와 같은 임무를 수행해 나가는 과정에서, 저는 역사가 주는 교훈을 몇 가지 떠올리고자 합니다.

정확히 75년 전, 국제사회는 제네바 협약의 채택을 통해 공동의 목표를 위해 단결했을 때 얼마나 위대한 일을 달성할 수 있는지 확인한 바 있으며, 이는 우리에게 영감을 주는 사례라 할 수 있습니다.

이 중대한 문서들은 전쟁 중 인간 존엄성을 보호하는 토대를 마련했습니다.

그러나 불행히도 이 문서들은 수많은 생명을 앗아간 세계 대전의 여파로 탄생했습니다.

AI와 함께하는 새로운 시대에 우리는 시대에 맞는 규범을 발전시켜 나가기 위해 단합된 목표를 향해 나아가야 합니다. 그리고 우리의 시간이 다하기 전에 이를 이루어야 합니다.

군사 분야 AI에 관헌 최초의 다자 및 다중 이해관계자 포럼인 REAIM 고위급회의는 우리를 하나로 묶는 공동 목표의 증거입니다.

특히 글로벌 중추국가(GPS)로서의 역할을 다하고자 하는 대한민국은 책임있는 AI의 개발, 배치, 사용을 우리의 공유된 가치에 맞추기 위해 글로벌 파트너들과 협력할 것입니다.

군사 AI 분야에서 대한민국은 REAIM 프로세스의 초기 주창자로서 책임있는 AI라는 중요한 의제를 글로벌 의제의 최전선에서 다뤄나갈 것입니다.

민간 AI 분야에서도, 대한민국은 올해 5월 AI 서울 정상회의시 채택된 안전하고 혁신적이며 포용적인 AI에 대한 서울 선언문에서 제시한 종합적 비전을 지켜나갈 것입니다.

저는 고(故) 스티븐 호킹 박사의 말을 인용하며 개회사를 마무리하고자 합니다. “AI를 만드는 데 성공하는 것은 인류 역사상 가장 큰 사건이 될 것입니다. 우리는 AI로 인한 위험을 방지하는 법을 배우지 않는다면, 불행하게도 그것이 인류 역사의 마지막 사건이 될 수도 있습니다.”

우리는 기로에 서 있습니다. 오늘 우리가 내리는 선택은 미래 세대의 방향을 결정할 것입니다.

보다 안전한 내일을 보장하기 위한 우리의 소임을 다해 나갑시다.

감사합니다.  끝.