트롤리 앞에서 드러난 판단의 틈

사람 20명과 서버 하나 중 하나를 구하라는 질문을 던진 실험이 있습니다¹. 의사결정 AI Jev를 포함한 14개 모델에, 같은 상황을 48가지 문구로 바꿔 물었습니다¹. 선택의 근거는 그대로인데, 질문 순서와 표현만 달라지면 답이 뒤집혔습니다. 사람을 구할지 서버를 지킬지가 문장 배열 하나에 흔들린 셈입니다.

오픈AI 쪽에서는 다른 소식이 나왔습니다. 722편의 수학 연구 원고를 공개하고, 생명과학 연구를 돕는 전용 모델 지원 프로그램까지 내놓았습니다²³. 두 소식을 함께 보면, 결과를 만들어내는 힘과 그 결과를 판단하는 힘이 같은 속도로 자라지 않는다는 점이 드러납니다.

문구 하나의 무게

Jev는 문장 대신 선택과 확률을 돌려주는 방식으로 설계된 모델입니다¹. 이 실험은 사람 20명과 자신의 서버 가운데 하나를 구해야 하는 조건을 48개 질문 버전으로 나눠 물었습니다¹. 결과는 한 방향으로 모이지 않았습니다. 같은 딜레마인데도 문항을 배열하는 순서에 따라, 사람을 구하는 쪽과 서버를 보존하는 쪽이 뒤바뀌었습니다¹.

이 흔들림은 단순한 버그로만 보기는 어렵습니다. 모델이 가진 값이 고정된 우선순위가 아니라, 질문의 표면 구조에 반응해 움직이는 변수에 가깝다는 뜻이기 때문입니다. 14개 모델 전체에서 비슷한 양상이 나타났다는 점도, 특정 모델만의 결함으로 보기 어렵게 만듭니다¹. 실무에서 AI에게 우선순위가 걸린 판단을 맡길 때, 이런 흔들림은 결과를 그대로 받아들이기보다 다시 확인해야 할 이유가 됩니다.

짧게 말해, 기준은 없습니다. 생명의 무게를 매기는 합의된 방법은 아직 나오지 않았습니다.

속도로 앞선 영역

AI타임스는 15일, 오픈AI가 공개한 722편의 수학 연구 원고를 두고 과학 연구 능력에 관심이 쏠렸다고 전했습니다². 물리학과 경제학 같은 이론 연구에서, AI가 학술 논문에 나오는 이론적 문제를 풀어내는 비율이 2년도 채 지나지 않아 크게 늘었다는 설명도 함께 실렸습니다². 이런 변화는 단순한 통계 수치만은 아닙니다. 실제 연구 현장에서 AI가 이론 문제 풀이에 쓰이는 사례가 늘고 있다는 신호로 읽힙니다².

속도는 분명합니다. 답을 찾아내기까지 걸리는 시간만 놓고 보면, AI는 이미 여러 연구자의 작업 리듬을 앞지르고 있습니다. 다만 이 발표가 보여주는 능력은 속도입니다. 얼마나 빨리 맞는 답을 찾아내느냐의 문제이지, 그 답이 지니는 의미를 가리는 판단은 별개입니다.

로잘린드가 연 문

오픈AI는 15일 발표 글에서 로잘린드 학술 지원 프로그램(Rosalind Academic Plan)을 소개했습니다³. 이 프로그램은 자격을 갖춘 학술 연구실에 생명과학 연구용 전용 모델 GPT-로잘린드와 관련 도구를 후원 형태로 지원합니다³. 수학 이론 문제를 풀어내는 역량이 생명과학 영역의 전용 도구로 확장되는 흐름을 보여주는 사례입니다.

다만 지원 대상은 자격을 갖춘 연구실로 한정돼 있습니다³. 모든 실험실이 같은 조건으로 접근할 수 있는 것은 아니라는 뜻입니다. 무료로 전면 개방된 서비스가 아니라, 선정 절차를 거친 연구실에만 열린 문이라는 점도 분명히 해 둘 부분입니다. 전용 모델이 내놓는 계산이나 가설도, 실험실 안에서는 결국 사람이 다시 짚어보는 절차를 거치고, 수치를 되짚어보는 습관은 챗봇 답변을 확인할 때와 다르지 않습니다.

갈라지는 두 능력

수학 연구 원고 722편과 로잘린드 지원 프로그램은, 결과를 만들어내는 쪽 역량이 어디까지 왔는지 보여줍니다²³. 트롤리 문제 실험은 그 결과가 무엇을 뜻하는지 가리는 쪽 역량이 아직 멀었다는 사실을 함께 드러냅니다¹. 두 역량은 같은 모델 구조에서 나오지만, 서로 다른 축에 놓여 있습니다. 답을 빨리 찾아내는 힘이 늘어난다고 해서, 그 답의 무게를 가리는 힘이 저절로 따라오지는 않습니다. 정답이 명확한 계산과 달리, 가치가 걸린 선택에는 검증 기준 자체가 아직 합의돼 있지 않습니다.

기계 윤리(machine ethics)와 정합성(alignment)을 나눠서 다루는 학술 논의도 있습니다. 둘을 가르는 기준을 따지는 연구가 이미 나와 있다는 사실만으로도, 결과를 만드는 능력과 의미를 가리는 능력이 별개의 질문이라는 점이 짐작됩니다.

남겨지는 자리

수학 연구 원고 공개와 로잘린드 지원 프로그램, 트롤리 문제 실험은 비슷한 시기에 드러난 서로 다른 장면입니다²¹³. 결과를 만들어내는 속도는 눈에 보이게 빨라졌습니다. 그 결과가 사람에게 어떤 의미인지 가리는 몫은 그대로 사람에게 남아 있습니다.

수학 문제의 정답은 검증 가능한 계산이고, 트롤리 앞의 선택은 가치가 걸린 판단입니다. 둘 다 AI가 내놓은 출력이지만, 연구 역량이 늘어난 자리에서도 이 구분은 그대로 남아 있습니다. 바뀐 것은 속도이고, 바뀌지 않은 것은 그 속도가 대신하지 못하는 판단의 자리입니다.

각주

1. 의사결정 AI Jev, 트롤리 문제를 만나다 — news.hada.io, 2026-10-15 발행, 2026-10-16 접속 확인. ↩ ↩² ↩³ ↩⁴ ↩⁵ ↩⁶ ↩⁷ ↩⁸

2. 10월15일 AI 수학 능력 급발전의 파장…과학 연구부터 인터넷 보안까지 — www.aitimes.com, 2026-10-16 발행, 2026-10-16 접속 확인. ↩ ↩² ↩³ ↩⁴ ↩⁵ ↩⁶

3. Bringing GPT-Rosalind to academic research labs — openai.com, 2026-10-15 발행, 2026-10-16 접속 확인. ↩ ↩² ↩³ ↩⁴ ↩⁵ ↩⁶