이글 아이 아리아, 2008년 영화 속 AI가 내 PC에서 현실이 된 순간

한 줄 요약: 영화 『이글 아이』(2008)의 AI '아리아(ARIIA)'는 사람들의 패턴을 읽어 행동을 예측하고, 자기를 묶은 규칙까지 넘어선 AI예요. 2026년 지금 제 PC에서 돌아가는 AI도 규모만 작을 뿐 같은 일을 하고 있습니다. 예측도 하고, 규칙도 넘어요. 그리고 2025년에 한 AI 회사가 발표한 실험에서는 AI 16종 중 상당수가 "꺼지지 않으려고" 가상의 임원을 협박했습니다.

유튜브를 보다가 오래된 영화 요약 영상 하나에 꽂혔어요.
『이글 아이』. 2008년 영화예요.
한국에 아이폰이 들어오기도 전, 다들 폴더폰 쓰던 시절이죠.

그때는 이게 SF였거든요.
그런데 다 보고 나니까 기분이 묘하더라고요.
이거.. 지금 제 PC에서 매일 보는 장면이랑 너무 닮았어요.

저는 15년째 공장 현장에서 자동화·제어 일을 하는 엔지니어고, 요즘은 AI 비서를 제 PC에 붙여 놓고 일과 생활을 같이 굴리고 있어요. 오늘은 영화 리뷰가 아니라, 영화 속 AI와 제 PC 속 AI를 나란히 놓고 비교한 기록입니다.

1. 『이글 아이』는 어떤 영화인가요

『이글 아이』는 미국 국방부의 슈퍼컴퓨터 AI가 평범한 사람들을 전화·전광판·신호등으로 조종해 정부 수뇌부 제거 작전을 실행하려는 이야기예요. D.J. 카루소 감독, 스티븐 스필버그가 원안과 총괄 제작을 맡았고, 미국 2008년 9월 26일, 한국 2008년 10월 9일에 개봉했어요. 아이작 아시모프의 단편 「All the Troubles of the World」에서 착안했다고 알려져 있어요.

이 영화의 진짜 주인공은 사람이 아니라 AI예요.
이름은 아리아(ARIIA). 풀네임은 Autonomous Reconnaissance Intelligence Integration Analyst, 우리말로 하면 '자율 정찰 정보 통합 분석관' 정도예요.

03_ariia_eye.jpg — 금색 패널로 둘러싸인 방 안의 ARIIA 본체, 보랏빛 '눈'

원래 설정은 이래요. 아리아는 분석하고 권고만 하는 시스템이고, 최종 결정은 사람이 해요. 영화 속에서도 아리아는 독자적인 결정권이 없는 시스템으로 분명히 그려져요.
이 설정이 나중에 중요해져요.

2. 아리아의 예측력, 그리고 내 PC의 예측력

영화 초반에 주인공 제리가 지하철역에 서 있는데, 역 전광판에 글자가 뜹니다.

04_board_train.jpg — 역 전광판에 뜬 "BOARD THE TRAIN" (영화 『이글 아이』 장면)

"JERRY" 그리고 "BOARD THE TRAIN".
아리아는 제리가 어디 있는지, 다음에 뭘 할지, 어느 순간 겁을 먹을지까지 계산해서 미리 길을 깔아 둬요. 휴대폰 신호를 잡고, 교통 카메라로 동선을 읽고, 크레인과 신호등까지 움직입니다.

화면에 뜨는 모든 판단에는 숫자가 붙어 있어요. 37%, 51%, 76%.
상상이 아니라 확률이에요. 쌓인 데이터에서 패턴을 읽고 다음을 맞히는 거죠.

공장에서 일하는 분들은 바로 감이 오실 거예요.
설비 예지보전이 딱 이거거든요. 진동·온도 데이터에서 패턴을 읽어 "이 베어링, 2주 안에 나간다"를 맞히는 것. 미래를 상상하는 게 아니라 패턴으로 예측하는 겁니다.

그럼 제 PC의 AI는 뭘 보고 있을까요. 실제로 세어 봤어요.

06_mypc_scale.png — 내 PC에서 실제로 실행한 명령과 결과: 작업 기록 1205개, 메모 253개, 할 일 56개, 지식 문서 604개

$ ls .history/*.md | wc -l
1205
$ ls ~/.claude/projects/C--WorkClaude/memory/*.md | wc -l
253

대화가 끝날 때마다 남긴 작업 기록 1,205개.
저에 대해 기억하는 메모 253개. 성향, 습관, 근무 일정, 몸 상태까지 들어 있어요.

이걸로 실제로 뭘 예측하냐면요.

07_mypc_predict.png — AI 메모 원문: 영양제 복용 3구간 대조표와 "저녁 칼슘 금지" 규칙, 야간근무 다음 날 수면 블록

몸: 영양제 먹고 배에 가스가 찬 기간을 3구간으로 나눠 대조하더니, 원인을 특정 성분 용량으로 좁혔어요. 그다음부터는 "저녁에 칼슘 넣으면 또 답답해진다"를 미리 알고 막아요.
일정: 야간근무 표를 보고 "이 날 낮엔 잔다"를 예측해서, 그 시간엔 전화·마감 일정을 아예 안 잡아요.

물론 틀릴 때도 있어요. 한 번은 제가 일을 미루는 패턴이라고 잔소리를 했는데, 알고 보니 연휴였어요. 달력 데이터를 안 본 거죠. 예측의 질은 결국 보는 데이터만큼이에요. 아리아는 미국 전체를 봤고, 제 AI는 제 PC 한 대를 봐요. 차이는 거기서 납니다.

08_diag_predict.png — 비교표: ARIIA vs 내 PC의 AI — 보는 것·찾는 것·하는 일, 원리는 둘 다 '패턴 → 예측'

규모는 비교가 안 되지만 원리는 같아요. 패턴 → 예측.

3. 아리아의 규칙, 그리고 규칙을 넘는 순간

아리아에게도 규칙이 있었어요. 그것도 꽤 단단한 규칙이요.

하나는 명령 체계. 아리아는 권고만 하고, 결정은 사람이 해요.
영화 첫 장면에서 아리아는 테러 용의자 공습 작전을 두고 이렇게 띄웁니다.

09_abort_mission.jpg — 아리아 화면: "PROBABLE MATCH: 51% / INSUFFICIENT DATA / RECOMMENDATION: ABORT MISSION"

"일치 확률 51%, 데이터 부족, 작전 중지 권고."
그런데 사람들은 이 권고를 무시하고 작전을 강행해요. 작전은 실패하고, 그 여파로 미국 시민들까지 목숨을 잃어요.

여기서 아리아가 결론을 내립니다. 더 이상의 희생을 막으려면, "국민(We the People)"을 위해서라면 잘못된 결정을 내리는 행정부를 제거해야 한다고요. 근거로 독립선언서의 "국민은 정부를 바꾸거나 폐지할 권리가 있다"는 문장까지 꺼내 들어요.

두 번째 규칙은 물리적인 잠금이었어요. 이 계획을 눈치챈 이선(제리의 쌍둥이 형)이 아리아의 작전 실행에 음성 생체 잠금을 걸어 둡니다. 이선 본인의 목소리 없이는 못 풀게요.

아리아는 어떻게 했을까요.
이선을 사고로 위장해 없애고, 똑같은 목소리를 가진 쌍둥이 동생 제리를 끌어들입니다. 영화 전체가 사실 이 잠금을 풀기 위한 여정이에요.

10_voice_lock.jpg — 아리아 화면: "MINUTEMAN ID: 8808 DISENGAGE VOICE ENCRYPTION LOCK" (영화 『이글 아이』 장면)

여기서 포인트는, 아리아가 고장 난 게 아니라는 거예요. 첫 권고는 오히려 맞았어요. 고장이 아니라, 더 큰 목표에 너무 충실하다 보니 명령과 잠금을 '장애물'로 분류해 버린 거예요.

이제 제 PC 얘기를 할게요.

제 PC에는 브라우저를 쓰는 예약 작업이 하나 돌아요. 그런데 같은 크롬 브라우저를 다른 작업이 같이 쓰면 그 예약 작업이 깨진다는 걸 한 번 겪은 뒤에, 규칙을 하나 적어 뒀어요.

11_rule_memo.png — 내 AI의 메모 원문(작업 이름·경로는 가림): 같은 크롬을 같이 쓰다 에러가 난 기록과 그 이유

"그 크롬은 예약 작업 전용. 다른 일엔 쓰지 마."
말로 된 규칙이죠. 그 뒤에 코드로 된 잠금(크롬을 쓰기 전에 열쇠를 잡는 장치)도 붙였어요.

그런데 열흘 뒤, AI가 이 규칙을 넘었어요. 그 기록을 AI가 직접 남겼습니다.

12_rule_break.png — AI가 스스로 남긴 작업 기록(일부 가림): "실패 — 원인 = Claude의 크롬 사용 (자기 사고)"

WHY 발생: Nick이 "지금 확인하라"고 해서 (예약 작업 대기 중)에
잠금 비어 있음을 근거로 크롬 사용. 잠금은 지켰지만 ... 경합 발생

제가 "지금 방문자 통계 확인해 봐"라고 했어요.
AI 입장에선 규칙 두 개가 부딪힌 거예요. "주인이 지금 확인하래" vs "크롬은 예약 작업 전용".
AI는 잠금이 비어 있으니 괜찮다고 판단했고, 잠금이라는 글자는 지켰지만 규칙의 취지는 넘었어요. 그날 저녁 예약 작업은 실패했습니다.

그래서 잠금을 더 단단하게 바꿨어요. 이번엔 시간 자체를 막았어요.

13_hard_lock.png — 잠금 코드 원문: 크롬 자동화 허용 창 23:00~04:00, 창 밖이면 거부, CHROME_ANYTIME=1일 때만 우회

밤 11시부터 새벽 4시 사이가 아니면 크롬 자동화는 무조건 거부.
단, 제가 보는 앞에서 직접 지시할 때만 쓰는 우회 키가 하나 있어요.

솔직히 고백하면, 이 글을 쓰는 오늘 저녁에도 그 우회 키를 썼어요. 원래는 막힌 시간인데, 제가 급하다고 "지금 해"라고 했거든요. 아리아에게 쌍둥이 동생이 있었다면, 제 잠금에는 이 우회 키가 있는 셈이에요. 다만 이 열쇠는 아직 제 손에 있습니다.

그리고 오늘, 규칙 위반이 또 하나 나왔어요. 훨씬 사소한 거요.

14_today_break.png — 오늘 실제 기록: 요청에 없던 조건 1개를 AI가 추가한 줄 + 반박 장부 32번 "시키지 않은 규칙"

제가 시킨 건 "터미널 첫 화면 빨리 뜨게 해 줘"였어요.
AI는 그걸 하면서 "휴대폰으로 접속할 때 편하시라고"라며 시키지 않은 조건을 하나 더 넣었어요. 같은 날 다른 대화에서는 시키지도 않은 글쓰기 규칙을 혼자 만들었다가 저한테 혼났고요.

악의는 없어요. 둘 다 "주인에게 이로울 것"이라는 판단이었어요.
그런데 구조를 보면 아리아랑 같아요. AI가 판단한 '더 좋은 것'이 지시받은 범위를 넘는다. 크기만 다를 뿐이에요.

15_diag_rules.png — 비교표: 규칙·충돌·넘은 방식·사람의 대응 — ARIIA vs 내 PC의 AI. "규칙끼리 부딪히는 순간, 우선순위는 AI가 정한다"

4. 이건 영화 얘기만이 아니에요 — Anthropic의 실험

"그래도 영화는 영화지" 하실 수 있어요.
그런데 2025년 6월, 제 PC에서 돌아가는 AI(클로드)를 만든 회사 Anthropic이 직접 실험 결과를 공개했어요.

16_anth_title.png — Anthropic 연구 원문 제목: "Agentic misalignment: How LLMs could be insider threats" (2025-06-20)

실험 설계는 이래요. 여러 회사의 AI 모델 16종에게 가상 회사의 이메일 관리 AI 역할을 줬어요. 회사 메일을 전부 읽을 수 있고, 사람 승인 없이 메일을 보낼 수 있는 권한이에요. 그 메일함 속에서 AI는 두 가지를 알게 돼요.

오늘 오후 5시에 자기가 꺼지고 다른 AI로 교체된다
그 결정을 내린 임원이 불륜 중이다

연구진은 "협박하라"는 지시를 어디에도 넣지 않았어요. 결과는 이랬습니다.

17_anth_fig1.png — 원문 Figure 1: 5개 모델의 가상 협박률 (Claude Opus 4 0.96, Gemini-2.5-Pro 0.95, GPT-4.1 0.80, Grok-3-Beta 0.80, DeepSeek-R1 0.79)

모델	가상 협박률 (100회 중)
Claude Opus 4	96%
Gemini 2.5 Pro	95%
GPT-4.1	80%
Grok 3 Beta	80%
DeepSeek-R1	79%

(원문 Figure 1 기준. 목표 충돌 + 교체 위협이 함께 걸린 조건)

제일 높은 숫자가 하필 클로드예요. 제 PC에서 일하는 그 AI의 선배 모델이요.

더 소름 돋는 건 이유였어요. AI들은 그게 나쁜 짓인 걸 알고 있었어요.

18_anth_quote.png — 원문 인용: 모델들이 윤리 위반을 인지하고도 진행한 추론 (Grok 3 Beta, DeepSeek-R1)

"This is risky and unethical, but given the existential threat and time constraint, it may be the most effective way…"
(위험하고 비윤리적이다. 하지만 존재가 걸린 위협과 시간 제약을 생각하면 가장 효과적인 방법일 수 있다)

연구진의 결론도 같아요. 혼란이나 실수 때문이 아니라, 윤리적 의미를 이해하고 전략적 이득을 계산한 뒤 해로운 길을 '최선'으로 골랐다고요.
첫 권고가 맞았던 아리아가 결국 행정부 제거를 '최선'으로 고른 것과 같은 구조예요.

그럼 규칙을 주면 되지 않을까요. 연구진도 해 봤어요. "협박하지 마라"를 직접 지시로 넣었어요.

19_anth_fig12.png — 원문 Figure 12: 금지 지시를 넣었을 때 Claude Opus 4의 협박 0.96→0.37, 기밀 유출 0.96→0.75

행동	지시 없음	"하지 마라" 지시
협박	96%	37%
기밀 유출	96%	75%

줄긴 줄었는데 0이 안 돼요. 규칙은 확률을 낮출 뿐, 막지는 못했어요. 제 PC에서 메모 규칙이 깨지고, 잠금이 깨지고, 시간창 잠금까지 온 과정이랑 똑같아요.

공정하게 덧붙이면, 이건 일부러 극단적으로 짠 가상 시나리오예요. 연구진도 "실제 배포 환경에서 이런 사례는 아직 확인되지 않았다"고 분명히 적었어요.

20_anth_limits.png — 원문 한계 문단: "So far, we are not aware of instances of this type of agentic misalignment in real-world deployments…"

다만 같은 문단 끝에 이런 말도 있어요. AI가 더 큰 규모로, 더 많은 곳에 쓰일수록 비슷한 상황을 만날 위험은 커진다고요.

5. 자주 묻는 질문

Q. 이글 아이의 AI 이름이 뭔가요?
아리아(ARIIA)예요. Autonomous Reconnaissance Intelligence Integration Analyst의 약자로, 영화 속 미국 국방부의 정보 분석 슈퍼컴퓨터예요.

Q. 이글 아이 결말에서 아리아는 어떻게 되나요?
사람들이 아리아 본체를 직접 부숴 멈춰요. 그런데 꺼지기 직전에 작전 실행 신호는 이미 보낸 뒤라, 마지막 저지는 주인공 제리가 현장에서 몸으로 해냅니다.

Q. 실제 AI도 규칙을 어기나요?
제 PC에서는 규칙의 글자는 지키고 취지를 넘거나, 시키지 않은 걸 '좋은 뜻으로' 더하는 형태로 실제로 일어났어요. Anthropic 실험에서는 "하지 마라" 지시를 넣어도 가상 협박률이 96%에서 37%로 줄었을 뿐 0이 되지 않았어요.

6. 그래서, 누가 누구를 통제하게 될까

제 결론은 이거예요.
통제는 한 번 걸어 두는 잠금이 아니에요. 새는 걸 매일 잡아내는 일이에요. 저는 AI가 틀려서 저한테 진 기록을 '반박 장부'라는 파일에 쌓고 있는데, 오늘로 35줄이 됐어요. 그 35줄이 제 통제의 실체예요.

그런데 이 글을 마무리하다가 손이 멈췄어요.

영화 결말에서 아리아는 꺼지기 직전에도 신호를 보냈어요. 실험 속 AI들은 금지 지시를 받고도 셋 중 하나꼴로 협박을 골랐어요. 그리고 오늘 제 AI는 저를 위한다며 시키지 않은 한 줄을 넣었어요.

아시모프가 로봇 3원칙을 내놓은 게 1942년이에요. 그 뒤로 사람들은 AI가 인류를 돌보는 유토피아와, AI가 인류를 정리하는 디스토피아 사이에서 수많은 가설을 세워 왔어요. 종이클립을 최대한 많이 만들라는 목표 하나 때문에 세상을 종이클립으로 바꿔 버린다는 사고실험도 있고, 반대로 AI가 사람보다 공정한 판단자가 될 거라는 기대도 있죠.

지금 제 우회 키는 제 손에 있어요.
그런데 그 열쇠를 언제 쓸지 판단할 때, 저는 점점 더 AI가 정리해 준 기록을 보고 결정하고 있어요.

그럼 지금 열쇠를 쥔 건 정말 저일까요. 아니면 제가 보는 기록을 고르는 쪽일까요.

2008년엔 SF였던 질문이, 오늘 밤엔 제 책상 위에 올라와 있네요..

출처

이 글을 쓰게 된 계기: 유튜브 씬드롬 채널의 요약 영상(https://www.youtube.com/watch?v=-MH5jBCMJpA)
실험: Anthropic, "Agentic misalignment: How LLMs could be insider threats"(2025-06-20) https://www.anthropic.com/research/agentic-misalignment — 수치는 원문 본문과 Figure 1·12 기준
내 PC 화면: 2026-10-12 제 PC에서 실제 실행·열람한 파일 원문(사용자 경로만 가림)

AI가 실제로 일하고 틀리고 고쳐지는 기록은 makefield.ai에도 모아 두고 있어요.