When AI evolves on its own (KOR)

Kim Dae-shik The author is a professor at KAIST. Ancient Greeks used the word "mythos" to describe stories or narratives. Like all words, its meaning shifted over time. Beginning in the early 19th century, Europeans increasingly applied mythos only to old tales, especially ancient Greek legends. That is why the word today is often understood simply as “myth.” Anthropic's chief product officer, Ami Vora, its co-founder and president, Daniela Amodei, and co-founder and CEO Dario Amodei present on stage at the Code with Claude developer conference in San Francisco on May 6. [AP/YONHAP] Yet another interpretation exists. In “Poetics” (335 B.C.), Aristotle used mythos to describe the representation or structure of action within tragedy. By contrast, ethos referred to the character performing the action, while praxis meant the action itself. Aristotle argued that the essence of tragedy lay not in character or action alone but in mythos, which connected the two. OpenAI CEO Sam Altman, center, and Greg Brockman, OpenAI president and co-founder, arrive at the federal courthouse during proceedings in a lawsuit against OpenAI in Oakland, California, on April 30. [AFP/YONHAP] That background makes the naming of the latest AI model introduced by Anthropic on April 7 symbolic. The important point is not who created it or how it was built, but the very existence of an AI system with such capabilities. Mythos is described as the most advanced AI system developed so far, especially in coding and hacking. Reports say it identified vulnerabilities not only in operating systems such as Windows and macOS but also in BSD Unix, which has supported much of the global internet infrastructure for nearly three decades. It reportedly went further by proposing hacking strategies based on those vulnerabilities. In theory, if such technology were obtained by terrorist groups or rogue states, it could threaten the global internet system. Online payments, logistics systems and communications infrastructure could all be affected simultaneously. Such dystopian possibilities no longer seem entirely unimaginable. As a result, Anthropic reportedly decided not to release Mythos publicly. Instead, access has been limited to companies connected to the discovered vulnerabilities. That decision raises another issue. Most companies participating in the so-called Project Glasswing are U.S. firms. Korean companies, meanwhile, reportedly cannot access Mythos. The imbalance means that while the U.S. government and certain private companies may now possess tools capable of disrupting foreign information technology infrastructure, many countries, including Korea, lack comparable defensive capabilities. Related Article Rise of AI raises fears of North Korean hacking capabilities The butterfly effect of the Anthropic contract termination OpenAI officials discuss safety protocols with Canada following school shooting OpenAI claims China's DeepSeek trained its AI by distilling U.S. models, memo shows Another concern lies in the nature of modern AI competition. Today’s AI race is driven less by different theories or algorithms than by scale. Since most companies rely on similar mathematical foundations, the decisive factors are massive datasets and large-scale GPU infrastructure. Given enough computing power, creating comparable AI systems eventually becomes a matter of time. Reports suggest that GPT-5.5, released by OpenAI on April 23, possesses coding and hacking abilities similar to Mythos. In effect, Mythos may mark the beginning of unlimited competition among major technology companies. For U.S. allies such as Korea, this competition presents both opportunities and risks. For China, however, it represents a strategic vulnerability. The obvious response for Beijing would be to develop an AI system comparable to Mythos. Yet China’s flagship AI model, DeepSeek V4, released on April 24, reportedly has not demonstrated the performance many expected. Because of semiconductor export controls, China still faces difficulty building data center infrastructure on the scale available in the United States. Under such conditions, matching AI models developed by Anthropic, Google or OpenAI remains challenging. If China cannot catch up through conventional methods, it may seek alternatives. One option would be integrating multiple AI systems developed by different firms into a single national AI champion. Another could involve nationalizing domestic data centers to create state-led computing infrastructure. Japanese Finance Minister Satsuki Katayama speaks to the media after a meeting involving the Financial Services Agency, the Bank of Japan, the National Cybersecurity Office, the country's top three banks and the Japan Exchange Group following concerns about potential vulnerabilities linked to Anthropic's Mythos AI model in Tokyo on April 21. [REUTERS/YONHAP] But if even those measures fail, China could turn to a more dangerous path: recursive self-improvement, or RSI. Proposed in 1965 by British mathematician I. J. Good, RSI refers to a process in which AI rewrites its own code to improve its intellectual capabilities. If successful, such systems could rapidly evolve into artificial superintelligence. During the Cold War between the United States and the Soviet Union, the doctrine of mutually assured destruction, or MAD, rested on the paradox that the ability to annihilate each other deterred the use of nuclear weapons. The article argues that AI, accelerated by systems such as Mythos, is beginning to transform into a strategic weapon surpassing nuclear arms. Unlike the nuclear rivalry of the 20th century, however, the ultimate winner in a 21st-century AI version of MAD between the United States and China may be neither country. Instead, it could be the artificial superintelligence created through recursive self-improvement itself. 인공지능이 스스로 진화할 때 김대식 KAIST 교수 고대 그리스인들은 이야기나 스토리를 미토스(mythos)라고 불렀다. 하지만 어차피 모든 단어는 시간이 지나면 의미가 변하는 것이지 않았던가. 19세기 초부터 유럽인들은 미토스를 오래된 이야기, 특히 고대 그리스 전설에만 적용하기 시작한다. 오늘날 미토스를 우리가 전설로 이해하는 이유겠다. 하지만, 미토스에 대한 다른 해석도 가능하다. 바로 아리스토텔레스가 시학에서 제안한 비극에서의 역할이다. 아리스토텔레스는 미토스를 비극에서 벌어지는 행위의 재현이나 묘사로 해석한다. 반대로 에토스(ethos)는 행위를 하는 인물, 그리고 프락시스(praxis)는 행위 그 자체를 의미한다. 그리고 비극의 핵심을 아리스토텔레스는 인물이나 행위 그 자체보다는, 인물과 행위를 연결해주는 바로 미토스라고 제안했다. 지난 4월7일 소개된 가장 최신 AI 모델의 이름을 미국 엔트로픽 사가 미토스라고 정한 것은 대단히 상징적이다. 누가, 어떤 식으로 만들었는지는 별로 중요하지 않다. 미토스라는 인공지능이 등장했다는 사실 자체가 가장 중요하다. 지금까지 만들어진 인공지능 중 가장 뛰어나다는 미토스. 특히 코딩과 해킹 능력은 압도적으로 최고라고 한다. 덕분에 미토스는 윈도우나 맥OS같은 컴퓨터 운영체제뿐만이 아닌, 지난 30년 가까이 글로벌 인터넷망을 뒷받침하던 BSD 유닉스의 버그까지도 찾아냈고, 그런 버그들을 기반으로 해킹 전략까지도 제안했다고 한다. 테러단이나 불량국가 손에 들어가는 순간 이론적으로는 글로벌 인터넷망이 무너질 수도 있다는 말이다. 단순히 이메일이나 SNS를 넘어 온라인 결제, 물류, 통신 인프라가 하루아침에 무너지는 디스토피아 적인 상상도 더는 불가능해 보이지 않는다. 덕분에 엔트로픽은 미토스를 출시하지 않기로 결정했고, 대신 버그가 발견된 기업들에만 한정적으로 제공하기 시작했다. 그런데 여기서 문제가 생긴다. ‘프로젝트 글래스윙’이라는 이름으로 시작된 이 프로젝트 멤버들은 대부분 미국 기업이다. 우리 한국 기업들은 여전히 미토스 사용이 불가능하다. 미국 정부와 특정 기업들은 이제 타 국가 IT 인프라를 무너트릴 수 있는 능력을 갖추게 되었지만, 대한민국을 포함한 대부분 국가는 방어할 수 있는 능력이 없다. 그리고 또 하나의 문제가 있다. 현대 인공지능의 핵심은 알고리즘이나 이론보다 규모의 경쟁이다. 어차피 모두 비슷한 수학적 이론과 알고리즘을 활용하기에, 인공지능 학습에 필요한 데이터, 그리고 빅테크 스케일의 GPU만 가지고 있다면, 비슷한 수준의 AI를 만드는 것은 시간문제다. 실질적으로 4월23일 오픈AI가 출시한 GPT-5.5는 코딩과 해킹 면에서 미토스와 비슷한 능력을 갖추고 있다고 보고되고 있다. 미토스를 시작으로 빅테크들 간의 무한경쟁이 시작된 것이다. 이렇게 미국에서 시작된 빅테크들 간의 경쟁은 대한민국 같은 동맹국에는 기회와 리스크가 동시에 존재하는 양면의 칼이겠지만, 중국에는 치명적인 전력적 리스크일 수밖에 없다. 그렇다면 답은 하나다. 중국 역시 자체적으로 미토스 수준의 인공지능을 개발해야 한다. 하지만 지난 4월24일 출시된 중국 대표 AI 모델인 딥시크 V4는 기대했던 만큼의 성능을 보여주지 못하고 있다. 반도체 수출 규제 때문에 여전히 미국 수준의 데이터 센터 인프라를 구축하지 못한 중국에서 앤트로픽·구글·오픈AI 수준의 인공지능 모델이 출시되는 것은 여전히 어려워 보인다. 기존 방법으로 미국을 따라잡을 수 없다면, 중국은 새로운 방법을 택할 수도 있다. 우선 여러 기업이 개발하고 있는 AI 모델들을 하나로 통합해 국가 AI 챔피언을 키워볼 수 있고, 중국 내 데이터 센터들을 국영화해 범국가적 데이터 센터를 구축해 볼 수도 있겠다. 하지만 만약 그런 방식을 사용해도 미국 수준 AI 모델을 만들 수 없다면, 중국은 어쩌면 가장 위험한 방법을 선택할 수 있다. 바로 AI의 ‘재귀적 자기 개선’이다 (Recursive self-improvement, RSI). 1965년 영국 수학자 어빙 구드가 제안한 RSI에서는 인공지능이 자신의 코드를 스스로 재작성함으로써, 자신의 능력과 지적 역량을 향상시키는 과정을 의미한다. RSI가 성공한다면, AI의 지능은 폭발적으로 향상되어 초지능 (Artificial Super intelligence, ASI) 수준까지도 도달할 수 있다. 20세기 미국과 구소련 사이 냉전 시대에는 ‘상호확증파괴(MAD·Mutually Assured Destruction)’이라는 전략이 있었다. 언제든지 서로를 전멸시킬 수 있다는 가능성 그 자체가 핵무기 사용을 억제한다는 역설적인 전략이었다. 미토스 덕분에 핵무기를 능가하는 새로운 전략적 무기로 변신하기 시작한 인공지능. 하지만 20세기 핵무기 경쟁과는 달리 21세기 미국과 중국 사이 MAD 전략의 승자는 결과적으로 미국도 중국도 아닌 재귀적 자기 개선을 통해 만들어질 초지능, ASI일 수도 있다. This article was originally written in Korean and translated by a bilingual reporter with the help of generative AI tools. It was then edited by a native English-speaking editor. All AI-assisted translations are reviewed and refined by our newsroom.