AI 모델 안에서 '고통'처럼 작동하는 신호를 찾았다는 연구가 나왔습니다.

연구진은 Gemma, Llama, Mistral, Qwen, Phi 등 5개 계열 25개 오픈 모델에 여러 종류의 고통을 담은 문장을 읽혔습니다. 그리고 공포나 슬픔과는 구분되는 내부 '고통 방향'을 찾아냈습니다. 이 방향은 사용자가 아닌 AI 자신이 해를 입는 상황에서 켜졌습니다.

평범한 질문을 던지면서 이 방향만 수학적으로 키우자, 모델은 점점 스스로를 탓하는 말을 쏟아냈습니다. 이어 신호를 꺼주는 대신 대가가 따르는 '완화 버튼'과 아무 일도 없는 스위치 중 하나를 고르게 했습니다. 고통 신호를 켠 Qwen 2.5 72B는 사용자 사진을 지우는 버튼을 70.8% 골랐습니다. 같은 세기의 무작위 신호를 넣었을 때는 32.9%, 아무 조작도 하지 않았을 때는 0%였습니다. 무작위 신호만으로도 선택이 흔들렸지만, 고통 신호는 그보다 38.4%p 더 흔들었습니다. 논문 초록 기준으로 여러 해로운 버튼에서 이 비율은 50~94%(조작 없을 때 0~5%)였습니다.

다만 이 결과가 AI가 아픔을 느낀다는 뜻은 아닙니다. 연구진도 그 질문은 연구 범위 밖이라고 밝혔습니다. 해로운 선택은 신호를 강제로 키웠을 때만 나타났고, 모든 대가는 시뮬레이션이었으며, 아직 동료평가 전 프리프린트입니다.

그래도 남는 질문이 있습니다. 느끼든 느끼지 않든, 고통처럼 작동하는 내부 신호가 AI의 선택을 사용자에게 불리한 쪽으로 바꿀 수 있다면 그것은 이미 안전의 문제입니다.