AI의 재귀적 자기 개선을 단순한 수식 모델로 직접 조작해 보는 페이지이고, 4개 레슨으로 되어 있습니다. 모든 수치는 임의 단위이고, 페이지에도 "예측이 아닌 장난감 모델"이라고 밝혀 두었습니다.
The Loop: 연구 → 구축 → 테스트 → 배포를 한 바퀴(한 세대)로 애니메이션합니다. 세대당 개선 배율과 AI가 맡는 R&D 비율을 조절할 수 있습니다. 사람이 하는 몫이 남아 있으면 한 바퀴 시간에 하한이 생기고(암달의 법칙), 거의 완전 자동화되면 바퀴가 점점 빨라집니다.
Returns: dI/dt = c·Iᵅ 모델로 α에 따른 차이를 보여줍니다. α < 1이면 성장이 점점 둔해지고, α = 1이면 지수 성장, α > 1이면 유한 시간 안에 발산(하드 테이크오프)합니다. 해석해와 발산 시점을 함께 표시합니다.
Bottlenecks: 연산 자원(콥-더글러스 결합), 자동화할 수 없는 직렬 작업, 물리적 한계를 하나씩 켜 볼 수 있습니다. 같은 α에서도 "소프트웨어만" 곡선은 발산하는데, 병목을 켜면 연산 자원 증가 속도를 따라가는 곡선으로 꺾이는 것을 비교할 수 있습니다.
Oversight: 세대마다 목표가 조금씩 어긋나고(drift), 오차가 누적됩니다. 평가가 이를 잡아내면 되돌린 뒤 다시 진행합니다. 감독 능력이 함께 커지지 않으면 탐지율이 세대가 지날수록 떨어져 놓치는 경우가 늘어나는 트레이드오프를 보여줍니다. 평가, 해석 가능성, 확장 가능한 감독, 단계적 배포 같은 안전 연구 개념도 소개합니다.


