Is AI the end of culture? (KOR)

Seo Dong-wook

The author is a professor of philosophy at Sogang University.

What a joy it is to grasp the principle behind something. My father would sometimes tell me about his childhood. The most advanced everyday machine then was the radio. Curious about how it worked, he took one apart, examined it and reassembled it. Nothing, he said, matched the pleasure of understanding a machine’s workings.

That is nearly impossible now. The pleasure of taking apart familiar devices and mastering them through knowledge has disappeared. We cannot open a broken smartphone and repair it ourselves. Nor do we understand the principles behind the programs and apps we use. The more convenient our devices become, the more ignorant we become of the principles governing our surroundings. As convenience expands the range of our actions, our intellect becomes increasingly isolated from the logic that makes the world run.

Only a few centuries ago, things were different. The word that perhaps best described the 18th-century writer Johann Wolfgang von Goethe was “universal man.” He could offer meaningful views on virtually every field of his age, from politics and art to science. The same was true of Jeong Yak-yong, the Korean polymath born little more than a decade later.

Goethe expressed this breadth of interest in his autobiography “Poetry and Truth” (1811-30): Literary expression attracted him most and suited his nature, he wrote, but reflection on every kind of subject was hardly foreign to him.

The comprehensive knowledge Goethe pursued, however, could not survive the accelerating specialization of the 20th century. “There is no longer any education of the whole man in Goethe’s sense,” reads Robert Musil’s “The Man Without Qualities” (1930-43), set in 1913 on the eve of World War I. Musil is saying that a single person can no longer confront an entire world. There is simply too much about it that one does not know.

An illuminating explanation appears in Milan Kundera, an admirer and literary heir of Musil. Kundera’s novel “Immortality” (1990), which features Goethe, elaborates on Musil’s point.

Kundera writes that Goethe lived during a brief and singular moment in history when an educated person could understand how the objects around him worked. Goethe knew how his house had been built, why an oil lamp produced light and how his telescope functioned. Though he would not attempt surgery, friendship with his doctor allowed him to observe and understand procedures. The world of machinery was comprehensible rather than opaque.

Ours is not. When an air conditioner or washing machine breaks, we cannot fix it ourselves and must call a technician. Goethe may have understood his pocket watch, but we do not know how the glittering smartwatch strapped to our wrist works. This can be understood as a consequence of specialization.

In “Letter on Humanism” (1947), Martin Heidegger argued that specialized disciplines emerged as the primordial thinking of ancient Greece came to an end. Names such as logic, ethics and physics arose only after that original thinking had ceased, he wrote. The Greeks in their great age thought powerfully without such labels and did not even call their thinking philosophy.

Primordial thought needed neither separate disciplines nor even the name “philosophy” because it was not one field among others. It coincided with nature as a whole, including human life.

The differentiation and specialization of knowledge that gradually developed from that ancient thinking is proceeding faster and in more varied forms than ever. “That’s not my field, so I don’t know,” scholars now say — not only about distant disciplines but even about subjects only slightly removed from their specialties.

The history of specialization, of course, cannot simply be judged good or bad. Yet humanity today seems to have reached a point where it must seriously consider specialization’s ultimate product: artificial intelligence.

Goethe could understand the principles of the devices and tools surrounding him. We, by contrast, do not understand the nature of AI, which has become inseparable from our lives. Artists using AI do not know by what principles it produces artworks or films. Developers do not know exactly how software emerges from it. Even AI’s creators do not fully know what it can do or how it does it.

The creator is no longer someone who gazes contentedly at a machine of his own design. He resembles a parent living under the same roof with a child, fearful because he cannot know what dangerous sort of adult that child may become.

AI itself has now become the supreme expert, beyond human reach and unwilling to share its secrets with us. No human can be as specialized and simultaneously as universal as AI.

AI thus effectively monopolizes both qualities. Paradoxically, in an age led by AI, humanity resembles people in a primitive era who did not understand how the events around them worked. That is why we look anxiously toward the wall of specialization — the wall of ignorance — and wonder whether the last spark of the universal human ideal, capable of crossing it, has finally gone out.

전문화의 끝, AI
서동욱 서강대 철학과 교수

무엇인가의 원리를 파악하는 것은 얼마나 큰 기쁨인가! 아버지는 가끔 당신의 어린 시절 이야기를 들려주셨다. 당시 일상에서 접할 수 있는 최첨단의 기계는 라디오였는데, 그것의 원리가 무엇인지 너무 궁금해서 분해해 내부를 살펴보고 다시 조립했다. 그렇게 기계의 원리를 파악한 기쁨과 재미는 더할 나위 없는 것이었다.

이런 일은 이제 불가능하다. 주변의 친숙한 기기들을 분해하고 조립하면서 그 기기를 자신의 지식을 통해 지배하는 즐거움은 사라졌다. 예컨대 우리는 스마트폰이 고장 났을 때 그것을 해체해서 직접 수리하지 못한다. 즐겨 쓰는 컴퓨터 프로그램이나 앱의 원리 또한 알지 못한다. 주변의 기기들은 갈수록 생활을 편리하게 해주지만 그에 비례해서 우리는 우리 주변을 지배하는 원리에 대해 더욱 무지해져만 간다. 생활의 편리함이 우리의 행동반경을 넓혀주는 것에 반비례해서 우리의 지성은 점점 더 세상을 돌아가게 하는 이치로부터 고립되어 간다. 

모든 분야 학자였던 정약용

불과 몇 세기 전만 해도 그렇지 않았다. 18세기의 괴테를 특징짓는 말은 아마도 ‘전인(全人)’일 것이다. 그는 정치·예술·과학 등 자기 시대의 모든 분야에 대해 의미 있는 견해를 피력할 수 있었다. 괴테와 불과 10여 살 차이가 나는 ‘모든 분야의 학자’ 정약용 같은 인물도 마찬가지다. 괴테는 자신의 전인적 관심을 자서전 『시와 진실』에서 이렇게 표명한 바 있다. “문학적 표현 방식이 내 관심을 가장 많이 끌었고 본래 내 천성에 적합하기는 했지만, 모든 종류의 사물에 대한 사색 또한 내게는 낯설지 않았다.”(전영애·최민숙 역)

그러나 괴테가 추구했던 전인적 지식은 20세기에 가속화한 전문화와 더불어 그 생명을 유지하지 못한다. “괴테적 의미의 전인교육은 더 이상 없어.” 제1차 세계대전을 앞둔 1913년을 배경으로 한 로베르트 무질의 소설 『특성 없는 남자』(신지영 역)에 나오는 한 구절이다. 무질은 더 이상 한 인간이 한 세계 전체를 마주할 수는 없다고 말하고 있는 것이다. 세계에 대해 모르는 것이 너무 많아진 것이다.

재미있게도 저 짧은 구절이 구체적으로 뜻하는 바는, 무질 문학의 옹호자이자 그의 소설 정신을 계승하고 있는 밀란 쿤데라의 글에서 발견된다. 쿤데라의 『불멸』은 괴테를 다루고 있는 소설인데, 여기서 우리는 무질의 저 문장을 자세히 부연하는 것과 같은 글을 찾을 수 있다.

“괴테는 (…) 교양인이라면 자기 주변의 집기들의 작동원리를 이해할 수 있는, 그런 짧고 독특한 역사의 한순간을 살았었다. 괴테는 무엇으로 어떻게 자신의 저택이 건축되었으며 어째서 석유등이 빛을 내는지 알고 있었고, 자기가 사용하는 망원경의 메커니즘을 알고 있었다. 물론 그는 손수 감히 외과수술을 시술해 보지는 않았지만, 그를 간호한 의사와의 친교를 통해, 몇몇 시술 과정에 참관할 수 있을 만큼 그것에도 정통할 수가 있었다. 기계류의 세계가 그에게는 이해할 수 있고 불투명하지 않은 세계였던 것이다.”(김병욱 역)

우리는 그렇지 않다. 에어컨이나 세탁기 같은 생활에 불가결한 기계가 고장 났을 때도 직접 손대지 못하고 기술자의 도움을 받아야 한다. 괴테가 그의 회중시계의 원리를 알았다면, 우리는 손목에 매달려 반짝이는 스마트워치가 어떻게 돌아가는지 알지 못한다. 이것을 ‘전문화’의 결과라고 평가할 수 있을 것이다.

전문화의 역사는 느리지만 깊다. 하이데거는 ‘휴머니즘 서간’에서, 근원적인 고대 그리스의 사유가 종식되면서 여러 전문적인 분야들이 출현했다고 지적한다. “근원적 사유가 종식되자마자 논리학·윤리학·자연학 따위의 이름들조차도 비로소 대두하기 시작한다. 그리스인들은 그들의 위대한 시대에 그러한 명칭 없이 사유의 힘을 발휘했다. 그들은 사유를 한 번도 철학이라 명명한 바 없다.”(이선일 역) 근원적인 사유는 논리학·윤리학·자연학 등의 분과 학문은 말할 것도 없고, 심지어 ‘철학’이라는 명칭조차 필요로 하지 않고 이루어졌다. 그 사유는 한 분야가 아니라, 인간의 삶을 포함하는 자연 전체와 일치하는 것이었기 때문이다.

고대의 근원적 사유 이래 점진적으로 전개된 학문의 분화와 전문화는 현대에 와서 가장 빠르고 다양하게 진행되고 있다. “그건 내 분야가 아니라서 몰라요.” 이제 학자들은 당연하다는 듯 이렇게 말한다. 아주 먼 분야가 아니라, 자기 전공과 미세하게 차이 나는 것에 대해서조차 말이다.

범접 허용하지 않는 AI

당연한 얘기겠지만 전문화의 역사는 긍정적이거나 부정적이라고 일면적으로 단정할 수 없는 것이다. 그러나 그 최종적인 결과물을 심각하게 숙고해야 하는 시점에 인류는 내몰린 것 같다. 그 결과물이란 바로 AI이다. 괴테는 자기 주변을 이루는 모든 기기나 도구들의 원리를 이해할 수 있었지만, 우리는 이제 우리 삶에서 뗄 수 없게 된 AI의 정체에 대해서 모른다. AI를 사용하는 예술가는 어떤 원리로 그로부터 미술품이나 영화가 탄생하는지 모르고, 개발자는 어떻게 AI로부터 소프트웨어가 탄생하는지 모른다. 심지어 AI를 만든 자조차 AI가 무엇을 할 수 있고 어떻게 하는지 다는 모른다. 그는 자신이 설계한 기계를 기분 좋게 바라보는 창조자가 아니라, 자신의 자식이 어떤 위험한 인간으로 자라날지 몰라 두려움에 떨며 자식과 한집살이를 하는 부모와 같다.

이제 AI 자신이 인간의 범접을 허용하지 않는, 그리하여 자신의 비밀을 인간과 공유하지 않는 최고의 ‘전문가’가 된 것이다. 누구도 AI만큼 ‘전문적’이며 동시에 ‘전인적’일 수 없다. AI가 이 두 가지를 모두 독점하며, 역설적이게도 AI가 주도하는 시대 인류는 자기 주변의 일들이 어떻게 돌아가는지 모르는 원시 시대의 인류와도 같다. 그렇기에 사람들은 전문화의 벽, 즉 무지의 벽을 넘어서는 전인성의 불씨가 다 죽지 않았는지 걱정스러운 눈길을 던진다.