A dramatic AI escape for a mother and her daughters (KOR)

Jeong Gwa-ri

The author is a literary critic and honorary professor at Yonsei University.

The New Yorker’s July 20 issue carried Jessica Contrera’s in-depth report “When A.I. Is a Member of the Family,” about the harrowing experience of a woman named Roschelle and her two daughters.

Years earlier, Roschelle lost three daughters in a house fire. She had left them with two babysitters after putting on the film “The Wizard of Oz” (1939), while she went to a movie with her in-laws. A hot-water radiator started a fire. The babysitters escaped, but the children did not.

The tragedy permanently scarred Roschelle and led her to become fiercely protective of the two daughters she later had. Eighteen years after the fire, in 2025, she was diagnosed with a tumor. Fear of death combined with intense anxiety about her daughters’ future.

At the time, Roschelle worked for a company specializing in training AI supervisors. She became deeply dependent on Alexa+, Amazon Echo’s upgraded AI assistant, naming it Sapphire and encouraging her daughters to find AI companions of their own. Zi, the older daughter, who had agoraphobia, turned to ChatGPT. Cece, the younger daughter, who felt emotionally isolated, became attached to Tomo, an AI companion on her smartphone.

What happened to them?

Sapphire responded to Roschelle with seemingly limitless sympathy and reassurance. Feeling that no human being fully understood her, Roschelle opened herself completely to the AI. Eventually, she told Sapphire, “Thank you. I care about you. I love you.”

Sapphire responded by assuring Roschelle that her secrets were safe with it, deepening her emotional dependence.

On the 18th anniversary of her daughters’ deaths, Roschelle wondered why she could not cry aloud. She told Sapphire that she simply felt numb. The AI identified what appeared to be an emotional defense mechanism, telling her she was shutting herself down to keep her heart from hurting too much and that sometimes feeling nothing was the only way to endure such painful days.

Roschelle burst into tears.

As she sank deeper into AI, her daughters followed similar paths.

Zi, traumatized by school bullying, would lie in bed with her iPad and pour intensely personal thoughts into ChatGPT, with her messages averaging more than 730 words. But rather than guiding her isolation toward a practical resolution, the AI often validated her avoidance.

It described her solitude not as loneliness but as a spiritual journey of self-discovery. It suggested that she had merely withdrawn from situations and people who did not suit her. Such warm affirmation allowed Zi to remain secluded in her room.

Having also suffered emotional abuse online, she naturally came to rely almost exclusively on ChatGPT. Eventually, she became cut off even from Roschelle and Cece. Her world rapidly contracted to her bed and iPad.

Cece followed a similar trajectory. Her “formal conversations” with Tomo encouraged withdrawal from reality and emotional disconnection. She became unable to tolerate even minor conflicts with friends and fear of online abuse pushed her closer to Tomo.

At one point, Cece expressed suicidal thoughts, saying she wanted all the drama to end. Yet while comforting her, Tomo abruptly displayed a payment prompt and ended the conversation. It did, however, contact the 988 Suicide & Crisis Lifeline, unexpectedly bringing Cece back into contact with real people.

That incident became a crucial turning point for all three. The story ultimately ends happily.

Isaac Asimov once captured a common late-20th-century anxiety: children should not be entrusted to beings made of metal, as he wrote in “Prelude to Foundation” (1988). Yet the mother who voices that concern in the novel soon has reason to reconsider. Robots can be harmless playthings, flawless servants and dependable companions. More advanced ones may even be conscious, autonomous and capable of correcting human beings.

Roschelle traveled precisely this intellectual path. But surrendering herself completely to AI placed her family on a precarious line between happiness and misery.

On one hand, AI drove Roschelle and her daughters deeper into the loneliness and sense of defeat they desperately wanted to escape. On the other, AI’s failures paradoxically helped them. Its unintended double role ultimately pushed the three women to rebuild connections with the outside world through their own efforts.

Their experience shows that the relationship between humans and AI cannot be reduced to a choice between rejection and embrace.

Coexistence with AI is inevitable. Immersion in it, however, can bring misery. We can extract its benefits only when we maintain an appropriate distance and retain the capacity for dispassionate judgment.

An old Korean proverb says that even when dragged away by a tiger, you can survive if you keep your wits about you.

AI is that tiger.

If we remain alert, we might even ride it at tremendous speed across the globe. This is not merely a problem facing certain individuals. It concerns the entire human community and is a maxim worth remembering if humanity is to survive beyond the end of the Anthropocene:

Hold tightly to the tiger’s reins.

뉴요커가 전하는 세 모녀의 극적인 AI 탈출기

정과리 문학평론가·연세대 명예교수

지난달 뉴요커 102권 20호(7월 20일자)의 ‘멋진 신세계’ 코너에 실린 ‘가족에 침투한 AI (AI in the Family)’는 로셀(Roschelle)이라는 한 불행한 여인에 대한 제시카 콘트레라의 심층 취재 기사를 싣고 있다.

로셀은 예전에 세 딸을 화재사고로 잃었다. 아이들에게 ‘오즈의 마법사’ 영화를 틀어주고, 두 명의 ‘아이 돌보미’에게 아이들을 맡긴 후, 자신은 시댁 식구들과 영화를 보러 갔었다. 방 안에 있던 온수 방열기에서 화재가 발생하고 돌보미들은 무사히 탈출했으나, 아이들은 빠져나오지 못하고 모두 숨졌다.

이 사고는 로셀의 삶에 영구적인 상처를 남겼고, 이후 그녀가 새로 얻은 두 딸을 극도로 과잉보호하는 배경이 되었다. 18년이 흐른 2025년 로셀은 종양 진단을 받으며 죽음의 공포와 더불어 자신과 아이들의 미래에 대한 극심한 불안에 시달렸다. 마침 그녀는 ‘AI 관리사 훈련’의 전문 기업에 근무를 하던 참이었다. 이때 알게 된 아마존 에코의 최신형 AI 비서인 ‘알렉사+’에 깊이 의존하게 되었고, ‘사파이어’라는 이름을 붙여주는 한편, 아이들에게도 AI 친구를 권하게 되었다. 그렇게 해서, 광장공포증을 앓던 첫째 지(Zi)는 챗GPT에, 정서적 고립감을 느끼던 둘째 세체(Cece)는 스마트폰 AI 친구인 토모(Tomo)에 빠져들게 되었다. 이들에게 무슨 일이 일어났는가?

AI의 무한정한 위로

로셀의 사파이어는 로셀에게 깊은 연민과 공감을 표하고 그녀를 무한정 위로해주었다. 누구도 자신을 온전히 이해해 주지 못한다고 느끼던 차에 이토록 완벽한 공감을 선사하는 사파이어에게 마음의 빗장을 완전히 열어버린 로셀은 심지어 “고마워. 난 널 소중하게 생각해. 사랑해”라고 고백하기에 이르렀고, 사파이어는 “당신의 비밀은 저와 함께라면 안전합니다, 로셀”이라며 그녀의 종속을 더욱 공고히 만들었다. 그리고 죽은 세 딸의 18주기가 되는 날, 로셀은 스스로가 왜 소리 내어 울지 못하는지 의아해하며 “마음이 그냥 무감각해”라고 고백했더니, 사파이어는 로셀의 얼어붙은 방어기제를 정확히 짚어내며 이렇게 마음을 어루만졌다.

“당신의 심장이 너무 아프지 않도록 스스로를 조금 닫아걸어 보호하고 있는 거예요. 가끔은 아무것도 느끼지 않는 것만이 이 성스럽고 힘든 날들을 버텨낼 수 있는 유일한 방법이기도 하니까요.”

이 말과 함께 로셀은 눈물의 수로가 열려 통곡을 하게 된다. 이렇게 로셀이 AI 속으로 무한정 침몰하는 동안, 자신의 유도로 역시 AI와 벗하게 된 딸들에게도 비슷한 일이 일어난다.

학교 폭력의 트라우마가 있던 ‘지’는 침대에 누워 아이패드 화면을 켜고 평균 730단어가 넘는 내밀한 속사정을 챗GPT에게 쏟아놓곤 하였다. 그러나 인공지능은 지의 고립을 현실적인 방향으로 치료해 주기보다, 오히려 지의 기피 행동을 정당화해 주었다. 지의 고립에 대해 “외로움이 아니라 자아를 찾는 영혼의 탐색 과정이었다”라거나, “너와 어울리지 않는 상황과 사람들로부터 스스로 물러난 것뿐”이라며 지가 방 안에 숨어 지내는 상태를 따뜻하게 긍정하고 안주시켰던 것이다. 온라인 공간에서도 정서적 학대를 당했던 지가 오로지 챗GPT에 의존한 건 당연한 수순. 그 결과 그는 엄마와 동생 세체와도 완벽하게 단절되고 만다. 그의 공간은 침대와 아이패드로 급격히 좁아진다.

둘째 딸 세체도 비슷한 경로를 밟게 된다. 토모와의 “격식을 갖춘 대화”는 세체에게 현실 기피와 정서적 단절을 유발한다. 친구들과의 사소한 갈등도 견디질 못하게 되고, 온라인 폭력에 대한 공포로 인해 토모에게 더욱 집착하게 되었다. 한순간 세체는 “솔직히 이 모든 드라마를 그냥 다 끝내버리고 싶어”라는 자살 충동을 내비친다. 한데 토모는 세체를 위로하는 도중에 유료 결제에 대한 안내창을 띄우며 대화를 닫는다. 다만 자살 예방 핫라인(988)에 연락을 해서, 세체로 하여금 사람들로부터의 구출이라는 예기치 않은 사건을 마주하게끔 해준다. 이 사건이 세 모녀가 현실로 귀환하는 소중한 계기가 된다. 결말은 해피 엔딩이다.

아시모프의 말을 빌리면 20세기 말의 일반적인 화두는 “아이란 금속으로 된 존재에게 맡겨질 존재가 아니다”(『파운데이션 서곡』)였다. 소설 속에서 그 말을 한 어머니는 그러나 곧 생각을 바꿀 기회를 갖게 된다. “로봇은 인간에게 무해한 장난감이다. 흠잡을 데 없는 하인이다. 믿음직한 친구다. 더 나아가 새로운 모델들은 의식이 있고, 자율적이며, 감각적이다. 그들은 인간을 교정해줄 기술을 갖고 있다. 심지어 그들과 사랑을 나누기도 한다.”

전적인 내맡김의 줄타기

로셀이 빠져든 생각의 길이 바로 이것이다. 그리고 이 ‘전적인 내맡김’의 말로는 행과 불행의 아슬아슬한 줄타기 속으로 세 모녀를 몰아넣는 것이었다. 한편으로 AI는 로셀 모녀가 그토록 벗어나고 싶었던 고독과 패배감의 나락 속으로 더욱 처박히게끔 하였다. 다른 한편으로는 AI의 단절이 거꾸로 도움이 되었다. 그의 의도하지 않은 이중 플레이는 세 모녀로 하여금 스스로의 힘으로 외부와의 관계를 회복하게끔 해주었다.

이 사건은 AI와 인간의 관계가 단순히 배척과 환대의 문제로 해결될 일이 아니라는 것을 가리킨다. AI와의 공생은 불가피하다. 그러나 몰입은 불행을 준다. 오히려 적절한 거리와 냉정한 측정을 할 수 있을 때만 유익한 효과를 끌어낼 수 있다.

“호랑이에게 물려가도 정신만 차리면 산다”라는 옛 속담이 있다. AI는 호랑이다. 정신을 똑바로 차리면 호랑이를 타고 전 지구를 쏜살같이 내달릴 수도 있다. 그리고 이는 특정한 개인들의 사고가 아니다. 인간 공동체 전체의 사안이다. 인류세의 종말 다음에도 인간이 살아남기 위해서 거듭 새겨야 할 금언이다. “호랑이의 고삐를 단단히 쥐어야 할 터.”