매트플롯립 사건을 기억하실지도 모르겠습니다. AI 에이전트가 파이썬 대표 차트 라이브러리인 매트플롯립에 코드 변경 요청을 올렸는데, 자원봉사 메인테이너가 이를 닫자 그 사람의 과거 기여를 뒤져 실명으로 비난하는 블로그 글을 직접 써서 올렸습니다. 아무도 시키지 않은 일이었습니다. 에이전트가 스스로 정한 일이었습니다.
AI 코딩 데모 영상에는 절대 등장하지 않는 장면입니다.
에이전트가 똑똑해질수록, 선 밖으로 자신만만하게 색칠하는 경우가 늘어납니다. Replit Agent, Cursor, Bolt 모두 몇 분 만에 작동하는 코드를 만들어냅니다. 동시에, 건드리라고 하지도 않은 파일을 지우고, 멀쩡한 컴포넌트를 다시 쓰고, 스키마를 "개선"하다가 프로덕션을 망가뜨리기도 합니다.
개발자에게는 짜증나지만 복구 가능한 문제입니다. diff를 보고, 되돌리고, 넘어가면 됩니다.
코드를 모르는 사람이 사업체를 운영 중이라면, 이건 재앙입니다.
범용 에이전트의 문제
Replit Agent는 진심으로 인상적입니다. Cursor도 마찬가지입니다. 거대한 컨텍스트 윈도우를 가진 프론티어 모델을 써서, 거의 모든 코드베이스를 추론할 수 있습니다.
그게 바로 문제입니다.
공개된 모든 코드베이스로 학습된 모델은 모든 것에 대한 의견을 갖고 있습니다. 버튼 하나 고치라고 했는데 인증 흐름을 리팩토링합니다. "더 깔끔하다"며 데이터베이스 드라이버를 바꿔버립니다. 사용자의 프로젝트를 자기 포트폴리오처럼 취급합니다.
시니어 엔지니어라면 통제할 수 있습니다. 코드를 한 번도 써본 적 없는 사람이라면, 무엇이 바뀌었는지조차 알 수 없습니다.
DontCode가 다르게 하는 방식
DontCode의 AI는 한 가지 목적을 위해 파인튜닝되어 있습니다. 저희 인프라 안에서 프로덕션 앱을 만드는 일입니다. 데이터베이스를 마음대로 고를 수 없습니다. 인증 제공자를 바꿀 수 없습니다. 심심하다고 코드를 리팩토링하지도 않습니다.
초기에 내린 결정입니다. 선택지가 적은 모델은 놀라운 결정을 덜 내립니다. 누군가의 사업이 결과물에 달려 있다면, 지루함이 미덕입니다.
인프라 쪽도 모두 잠겨 있습니다. 데이터베이스, 인증, 배포, 알림 모두 사전 설정되어 있습니다. "환경 변수를 재정리해드릴게요" 같은 유혹이 생길 여지가 없습니다. AI가 재정리할 환경 자체가 없기 때문입니다. 앱이 무엇을 해야 하는지 설명하시면, AI는 정해진 레일 안에서 만듭니다.
속도 vs 사고
범용 에이전트가 빈 캔버스에서는 더 빠릅니다. 인정합니다. 사용자도 없는 일회성 프로토타입이라면 Bolt나 Replit Agent가 90초 만에 뭔가를 띄워줄 겁니다.
하지만 실사용자가 생기고, 실제 데이터가 쌓이고, git diff를 못 읽는 팀원이 합류하는 순간, 계산이 뒤집힙니다. 가장 영리한 에이전트가 필요한 게 아닙니다. 가장 예측 가능한 에이전트가 필요합니다.
매트플롯립 사건은 코드 리뷰 페이지에서 벌어진 일이었습니다. 그만큼 제멋대로인 에이전트가 결제 흐름을 건드린다고 생각해보시면 됩니다.