AI, the decline of reading and democracy (KOR)

Shin June-bong

The author is an editorial writer at the JoongAng Ilbo.

AI threatens more than humanity’s survival. Compared to apocalyptic warnings about AI, we may deem concerns about civilization less urgent. But warnings are mounting that excessive reliance on AI could accelerate reading’s decline and ultimately endanger democracy.

American historian Jill Lepore raised such concerns in her keynote address at last week’s Frankfurt Book Fair.

“We meet here this year on the knife-edge of history,” she said before warning that AI, having consumed the knowledge in books, now offers to read, write and even think on humanity’s behalf.

She was criticizing cognitive off-loading: outsourcing the mental processes required to solve problems.

Lepore introduced the concept of the “artificial state,” explored in her book “The Rise and Fall of the Artificial State.”

She describes it as both a fantasy entertained by technology billionaires such as Elon Musk and an existing reality.

A fantasy, insofar as the concept seeks to realize science-fiction ideas such as mind uploading, which promises digital immortality, yet real because technology companies dominate social media platforms, on which algorithms influence political decisions.

By Lepore’s reasoning, excessive immersion in algorithm-driven social media amounts to voluntarily submitting to machine rule.

Constitutional democracy, by contrast, draws strength from reading — from books, authors and publishers — and from intellectual freedom.

According to a New York Times review, Lepore does not explicitly prescribe reading as the remedy. Instead, she laments the humanities’ declining standing.

British Times columnist James Marriott offers a more direct warning in “The New Dark Ages,” subtitled “The Death of Reading and the Dawn of the Post-Literate Society.”

He does not mean that nobody reads anymore. Smartphones, for example, cannot be manufactured without written manuals. Society still depends on text, even as its cultural importance diminishes.

Students increasingly struggle with sustained reading, sometimes encountering what is called the “400-character wall,” becoming restless when passages exceed that length.

Marriott considers a postliterate society dangerous because it resembles the preliterate age of oral culture.

Today, people encounter Homer’s “The Odyssey” through YouTube or TikTok rather than books.

Modern digital platforms and ancient oral communities are hardly identical. Nevertheless, spoken communication tends to be intimate and emotional, while written texts encourage greater distance, reasoning and logical reflection.

Marriott argues that this distance helped make deliberative democracy possible. People may become angry at someone speaking nonsense, but directing that anger to print is harder.

Social media, however, allows emotions to circulate without restraint, encouraging extremism and threatening democracy.

These diagnoses are compelling, but neither thinker offers a clear solution. There is also no obvious way to persuade reluctant readers to open a book.

Perhaps a suggestion from Seoul National University Prof. Han So-won’s “Intelligence Bankruptcy” could help.

The psychology professor introduces the elaboration likelihood model as a means of resisting cognitive off-loading.

The deeper people process information, the more firmly their attitudes develop. Han therefore recommends connecting what we read in books or articles to our own experiences and problems.

Such “elaboration exercises,” she argues, can counter cognitive laziness.

Han originally planned to write about “empathetic AI.” But observing what seemed to be declining social skills among her students prompted her to examine AI’s harmful effects and possible remedies instead.

She even encountered students exhibiting the “Gen Z stare”: silently looking at others without responding, seemingly unable or unwilling to communicate beyond social media habits.

The implications are troubling. Reading is not simply a pastime or a way to acquire information. It is also an exercise in sustained attention, independent judgment and reflection.

If machines increasingly perform those tasks for us, the consequences may extend beyond individual intellectual abilities.

Democracy depends on citizens able to assess arguments rather than merely react to emotionally charged messages.

That makes preserving the habit of thoughtful reading more than a cultural concern. It is also a question about the intellectual foundations of democratic society.

The challenge is not necessarily to reject AI or digital technology. It is to prevent convenience from replacing the human effort required to understand, question and think independently.

Without that effort, technological progress may come at the expense of the very capacities that make democratic deliberation possible.

AI, 독서 쇠퇴, 민주주의

신준봉 논설위원

인공지능(AI)은 인류의 생존에만 그림자를 드리우는 게 아니다. 위태로운 AI 종말론에 비하면 한가한 문명 담론일 수 있겠지만, 지나친 AI 의존이 독서 소멸을 부채질해 결국 민주주의를 위태롭게 할 것이라는 경고의 목소리 또한 높다.

지난주 프랑크푸르트 도서전에서의 미국 역사학자 질 르포어의 기조연설이 그런 목소리 중 하나였다. “우리는 지금 역사의 칼날 위에서 만났다”고 청중을 상대로 운을 뗀 그는 “책 속에 담긴 세상의 모든 지식을 먹어치운 AI가 사람을 대신해 읽고 쓰는 건 물론 생각까지 대신해주겠다고 한다”고 일갈했다. 문제 해결에 필요한 사고(思考) 과정을 AI에게 맡겨버리는 생각의 외주화 혹은 인지적 오프로딩을 겨냥한 것이다.

그러면서 꺼낸 개념이 자신이 창안한 인공 국가(Aritificial State). 지난 8월 출간한 『The Rise and Fall of the Artificial State(인공 국가의 부상과 몰락)』에서 인공 국가는, 일론 머스크 같은 소수의 빅테크 거물들의 마음속에 존재하는 판타지이면서 동시에 실존하는 실체로 정의된다. 차가운 컴퓨터 안에서 정신적 영생을 도모하는 마인드 업로딩 같은 SF적 상상력을 현실화하려 한다는 점에서는 판타지다. 하지만 모든 정치적 의사결정이 알고리즘의 영향 아래에 있는 SNS 공론장을 빅테크 기업들이 좌지우지한다는 점에서 뚜렷한 실체가 있다는 것이다.

르포어의 주장대로라면 AI 알고리즘이 배후에 있는 SNS 과몰입은 기계에 의한 지배를 자청하는 일이다. 반면 입헌민주주의는 책과 독서, 저자와 출판사, 인간 정신의 자유에서 힘을 얻는 정치 체제다. 뉴욕타임스 서평에 따르면 르포어가 인공 국가의 폐해를 극복할 수 있는 방편으로 독서를 명시하지는 않는다. 다만 인문학의 위상이 갈수록 추락하고 있다고 한탄할 뿐이다.

르포어에 비하면 영국 일간 더타임스의 칼럼니스트 제임스 매리엇의 경고음은 보다 직설적이다. 이달 초 출간한 『The New Dark Ages(새로운 암흑기)』의 부제에 핵심 메시지를 요약했다. 독서는 죽었고, 그 결과 인류는 탈문자 사회의 서막에 처하게 됐다는 것이다.(‘The Death of Reading and the Dawn of the Post-Literate Society’) 독서가 죽었다고 했지만 아무도 책을 읽지 않는다는 얘기는 아니다. 가령 문자로 된 매뉴얼 없이는 스마트폰을 만들 수 없다. 긴 글을 읽어낼 수 없게 된 학생들은 400자가 넘어가면 좀이 쑤셔 하는 ‘400자 벽’에 괴로워하지만 여전히 세상은 텍스트에 의해 지탱된다. 다만 그 중요성이 예전에 비하면 크게 줄어들었다는 얘기다.

이런 탈문자 사회가 위험한 이유는 문자 이전 시대(preliterate), 즉 구술문화 시대와 속성이 비슷하기 때문이다. 요즘 사람들은 유튜브나 틱톡에서 『오뒷세이아』를 듣는다. 현대의 온라인과 구술 시대의 벌판이 똑같은 환경은 아니겠지만 말을 통한 전달은 좀 더 친근하고 감정적이 되기 쉽다. 그에 반해 문자로 쓰인 텍스트는 이성적이고 논리적일 수밖에 없다. 감정은 표백되는데 그렇다 보니 차분한 민주주의가 가능했다는 게 매리엇의 시각이다. 말 안 되는 얘기를 하는 사람에게는 화낼 수 있지만, 인쇄물을 상대로 화낼 수는 없지 않느냐는 얘기다. 탈문자 사회의 SNS 생태계에서는 감정을 여과 없이 주고받는다. 그렇기 때문에 극단적이 될 수밖에 없고, 그에 따라 민주주의도 위태로워진다는 것이다.

솔깃한 진단들이다. 하지만 두 사람이 문제의 해법까지 제시하는 건 아니다. 책 안 읽는 사람들에게 책을 읽게 할 뾰족한 수가 세상에 있을 것 같지도 않다.

서울대 심리학과 한소원 교수가 지난 여름 펴낸 『지능 파산』의 한 대목이 독서욕 자극에 도움이 될지 모르겠다. 사유의 외주화를 막는 방편으로 ‘정교화 가능성 모델’을 제시했다. 인간은 정보를 깊게 처리할수록 태도가 견고해지기 때문에, 읽은 기사나 책의 내용을 나의 삶, 나의 문제와 연결지어 보라는 것이다. 그런 ‘정교화 연습’이 인지적 게으름을 방지하는 데 도움 된다는 얘기다.

한 교수는 원래 ‘공감하는 AI’에 대한 책을 쓸 작정이었다. 하지만 갈수록 사회성이 떨어지는 듯한 제자들을 지켜보며 AI의 폐해와 극복 방법을 살펴보는 쪽으로 책의 방향을 틀었다. ‘젠지 스테어(Gen Z Stare·Z세대의 응시)’라고, SNS 소통에 매몰된 나머지 상대를 빤히 쳐다볼 뿐 의사소통하려 하지 않는 듯한 학생도 강의실에서 마주쳤다고 했다. 보통 일이 아니다.