폴 그레이엄은 자신이 17세라면 LLM(Large Language Model, 대규모 언어 모델)을 처음부터 만드는 법을 배우고 접근 가능한 하드웨어로 모델을 직접 학습시키겠다고 밝혔다. 당장 스타트업을 시작하기보다 나중의 창업을 뒷받침할 기술적 기반을 먼저 쌓는 것이 중요하다고 설명했다.
그는 이미 많은 모델이 존재함에도 처음부터 다시 만들어야 하는 이유로 "바퀴가 어떻게 만들어지는지 배우기 위해서"라고 답했다. 학습 대상에 대해서는 컴퓨터 게임처럼 가벼운 문제라도 직접 시켜보는 과정에서 많은 것을 배울 수 있다고 덧붙였다.
100M(1억 개) 파라미터 모델을 학습한 19세 개발자에게는 특정 문제에 실제로 사용할 수 있는 LLM을 만들어볼 것을 조언했다. 이는 기존 모델을 이용한 앱 제작보다 기반 기술을 깊게 이해하는 태도에 무게를 둔 것이다.



