LLM이 AI 에이전트 훈련을 위한 월드 시뮬레이터로 진화하며 99%의 정확도를 기록했습니다. Qwen2.5 및 Llama-3.1 기반 월드 모델이 로봇 학습의 경험 병목 현상을 해결하고, 실제 데이터 없이도 무제한 합성을 통해 AI 성능을 혁신하는 방법을 확인하세요.
.png)
대규모 언어 모델(LLM)이 정확한 월드 시뮬레이터로 작동하며 AI 에이전트 훈련 방식을 혁신하고 있습니다. 이는 자율 시스템 개발에서 중요한 경험 병목 현상을 해결합니다. 남방과기대학교, 마이크로소프트 리서치, 프린스턴 대학교, 에든버러 대학교 연구진의 획기적인 연구에 따르면, Qwen2.5-7B 및 Llama-3.1-8B와 같은 파인튜닝된 LLM이 환경 상태 예측에서 최대 99% 정확도를 달성했습니다. 이 기능을 통해 AI 에이전트는 희소한 실제 데이터 대신 무제한의 합성 경험으로 훈련할 수 있어 확장 가능한 인공지능으로 가는 길이 열렸습니다.
월드 모델은 관찰된 내용과 취해진 행동을 기반으로 환경에서 다음에 일어날 일을 예측합니다. 이는 언어 모델을 시뮬레이터로 전환합니다. 전통적인 로봇 훈련은 실제 또는 시뮬레이션 환경에서 강화 학습을 사용합니다. 그러나 이러한 방법에는 심각한 한계가 있습니다. 실제 환경 훈련은 비용이 많이 들고 느리며 확장하기 어렵습니다. 고급 시뮬레이터조차도 로봇이 제대로 학습할 수 있는 충분한 다양성을 제공하지 못합니다. 과학자들은 이를 "경험 병목 현상"이라고 부릅니다. 로봇은 복잡한 작업을 마스터하기 위한 충분히 다양한 시나리오를 연습할 수 없기 때문에 개선이 멈춥니다.
Qwen2.5-7B와 같은 예제 시나리오로 훈련된 모델은 주방 작업에서 99.87% 정확도를 달성합니다. 이는 주요 문제를 해결합니다. 즉, 로봇을 효과적으로 훈련시킬 실제 데이터가 부족한 문제입니다. 월드 모델은 게임 체인저입니다. 이들은 환경이 어떻게 작동하는지 학습하고 현재 관찰과 행동으로부터 미래 상를 예측합니다. 방대한 양의 데이터로 이미 훈련된 언어 모델은 자연스럽게 세계가 어떻게 작동하는지 이해합니다. 이것이 이들을 이 작업에 완벽하게 만듭니다. 이 연구는 언어 모델이 하는 일인 다음 단어 예측이 다음 상태 예측과 유사하다는 것을 보여줍니다. 이는 챗봇을 시뮬레이터로 전환합니다.
기본 언어 모델은 이미 어느 정도의 월드 모델링 능력을 보여줍니다. Claude 3.5 Sonnet은 최소한의 훈련으로 가정 작업에서 77% 정확도에 도달했습니다. 파인튜닝은 이를 훨씬 더 향상시킵니다. 주방 작업(ALFWorld)에서 Qwen2.5-7B는 다음 상태 예측에서 99.87% 정확도를 기록했으며 긴 시퀀스에서 92% 일관성을 보였습니다. 과학 실험실 실험(SciWorld)에서는 98.60% 정확도에 도달했습니다. 이는 언어 모델이 규칙 기반 환경에서 탁월하다는 것을 증명합니다.
훈련 프로세스는 다음과 같이 작동합니다. 연구자들은 환경에서 궤적(관찰, 행동 및 결과 상태를 보여주는 시퀀스)을 수집합니다. 그런 다음 이전 내용을 기반으로 다음 상태를 예측하도록 모델을 훈련시킵니다. 이는 방대한 양의 데이터를 필요로 하지 않습니다. 구조화된 환경은 약 20,000개의 예제가 필요하며, 개방형 환경은 최대 70,000개의 예제로 계속 개선됩니다. 더 큰 모델(80억 파라미터)이 더 작은 모델(15억)보다 복잡성을 더 잘 처리하며 예측 가능한 패턴을 따릅니다.
환경마다 결과가 다릅니다. 환경 유형이 매우 중요합니다. 주방이나 과학 실험실과 같은 구조화된 설정은 거의 완벽하게 작동합니다. 이들은 AI가 쉽게 학습할 수 있는 명확한 규칙을 가지고 있습니다. 이러한 가상 세계에서 훈련된 로봇은 실제 환경으로 이동할 때 잘 작동합니다. 온라인 쇼핑 사이트와 같은 개방형 환경은 더 어렵습니다. 기본 정확도는 약 70%이지만 AI가 때때로 실제 피드백을 받으면 100%로 향상됩니다. 이는 중요한 교훈을 줍니다. 월드 모델은 조직화된 설정에서 탁월하지만 예측할 수 없는 상황에서는 연습과 현실의 혼합이 필요합니다.
이 연구는 여러 분야에서 실용적인 용도를 가지고 있습니다. 로봇은 실제로 시도하기 전에 텍스트 기반 세계에서 동작을 연습할 수 있습니다. 비디오 게임 회사는 AI 시뮬레이션을 사용하여 끝없는 새로운 모험을 만들 수 있습니다. 신약 연구자들은 분자 반응을 가상으로 테스트할 수 있습니다. 가장 중요한 것은 로봇 훈련을 더 많은 사람들이 이용할 수 있게 만든다는 것입니다. 오픈소스 AI 모델은 맞춤형 시뮬레이터를 구축하는 것보다 훨씬 저렴합니다.
기술은 빠르게 확산되고 있습니다. Fei-Fei Li의 회사인 World Labs는 2025년 말에 텍스트 설명에서 3D 훈련 세계를 만드는 Marble을 출시했습니다. Google DeepMind는 로봇용 월드 모델을 구축하고 있습니다. Runway는 12월에 동적 시뮬레이션을 위해 비디오를 사용하는 월드 모델을 출시했습니다. Qwen 변형을 활용하는 스타트업들은 이미 고객 서비스에 LLM 에이전트를 배포하여 훈련 비용을 10배 절감하고 있습니다. 전문가들은 2026년까지 새로운 로봇 시스템의 40%가 월드 모델을 사용할 것으로 예측합니다.
여전히 과제가 존재합니다. AI 환각은 현실과 대조하여 확인하지 않으면 실수를 만듭니다. 대규모 시뮬레이션을 실행하려면 강력한 컴퓨터가 필요합니다. 가상 훈련이 실제 세계에서 작동하는지 확인하려면 신중한 테스트가 필요합니다. 그러나 RAG(검색 증강 생성)와 주기적인 실제 상호 작용을 결합하는 것과 같은 솔루션이 유망합니다.
향후 연구는 움직이고 볼 수 있는 로봇을 위해 텍스트, 비전 및 행동을 결합할 것입니다. 언어 모델을 다른 AI 유형과 혼합하면 현실적인 물리학을 가진 세계를 시뮬레이션할 수 있습니다. 연구자들은 또한 편향된 훈련 데이터가 시뮬레이션에 영향을 미치는 것과 같은 문제를 주시해야 합니다.
이 연구는 언어 모델이 로봇 훈련을 위한 세계를 효과적으로 시뮬레이션할 수 있음을 증명합니다. 한 연구자가 언급했듯이 "경험이 새로운 데이터입니다." 대규모로 연습 세계를 만드는 것은 인간처럼 학습하는 AI 시스템에 더 가까워지고 있음을 의미합니다. 즉, 현실에서 테스트하기 전에 가능성을 상상함으로써 학습합니다.
AI의 다음 단계가 궁금하신가요? MagicTalk.ai에서 최신 개발 동향을 자세히 분석해 드립니다.
함께 읽으면 좋은 글:
한나는 최신 발전과 시장 변화를 추적하는 산업 트렌드 애널리스트입니다. 연구 및 예측 분야에서 강한 배경을 가진 한나는 비즈니스 성장을 이끄는 핵심 패턴과 신흥 기회를 식별합니다. 그녀의 분석은 데이터 기반 인사이트를 제공하여 조직이 변화하는 산업 환경에서 앞서 나갈 수 있도록 돕습니다.