BDH-CQ: 반복 latent reasoning으로 ARC 비용-성능 경계 갱신
BDH-CQ: In-Context Learning with Recurrent Latent Reasoning
ReasoningLatent memoryARC-AGI논문 개요
입력 예시가 추론 시점에 recurrent memory를 계속 갱신하고, 중간 사고를 언어로 풀지 않은 채 고차원 latent space에서 반복 계산하는 reasoning model이다. ARC-AGI-1 및 통제된 ARC 유사 개입으로 데모에서 무엇을 학습하는지도 분석했다.
arXiv 원문 보기 ↗연구 목표
- in-context learning과 반복 latent computation을 결합해 저비용 추론 성능을 높인다.
핵심 방법
- 입력으로 갱신되는 recurrent memory와 비언어적 중간 계산을 사용한다.
주요 결과
- 저자 보고 기준 ARC-AGI-1의 기존 비용-정확도 Pareto frontier를 넘었다.
핵심 지표
- 150M parameters에서 pass@2 29.5%, task당 계산 추론비용 US$0.0007.