GOLDTAG (골드태그)

구글은 제미나이 스파크를 발표하기 15일 전에 자기 브라우저 에이전트를 껐다. 개인 AI 에이전트 22개월을 날짜로 정렬해보니 실행 위치가 왕복하고 있었다 얼마 전에 내 메일 서버가 502를 냈고 그걸 고치는 동안 터미널을 한 번도 안 열었다. 그 뒤로 개인 AI 에이전트 쪽 소식을 전보다 자주 찾아보게 됐다. 그래서 유튜브에서 제미나이 스파크 설명 영상을 하나 봤는데, 소개하는 톤이 거의 신대륙 발견이었다. 24시간 일하는 개인 비서, 노트북을 덮어도 계속되는 작업, 사람이 자리에 없어도 진행되는 업무. 듣다 보니 좋기는 한데 어디서 본 것 같아서, 영상을 멈추고 출시 날짜를 하나씩 검색해 표로 정렬해봤다. 표는 깔끔하게 나왔다. 그런데 내 머릿속 정렬이 두 번 틀려 있었다… 22개월을 날짜로 정렬했다 처음에 내가 세운 계보는 이랬다. 2026년 1월에 오픈클로가 있었고, 3월에 클로드 디스패치가 나왔고, 챗지피티가 원격 기능을 붙였고, 5월에 제미나이 스파크가 등장했다. 마지막에 나온 게 제일 진화한 것이라는 감각이 자연스럽게 붙어 있었다. 이 계보는 두 군데가 틀렸다. 순서가 틀렸고, 시작점이 틀렸다. 그리고 시작점은 내가 짐작한 것보다 한참 앞이었다. 시점 제품 일이 실제로 돌아가는 곳 2024년 10월 22일 Claude computer use 베타 개발자가 붙이는 곳 2024년 12월 11일 Project Mariner 프로토타입 구글 클라우드 2025년 1월 14일 ChatGPT Tasks 베타 OpenAI 서버 2025년 1월 23일 Operator OpenAI 서버 2025년 5월 20일 Project Mariner 정식 구글 클라우드 2025년 7월 17일 ChatGPT agent OpenAI 서버 2025년 8월 31일 Operator 종료 2025년 10월 ChatGPT Atlas 내 컴퓨터 2026년 1월 말 OpenClaw 내 컴퓨터 ...

메일 서버 502를 고치는 동안 터미널을 한 번도 안 열었다. AI가 대신 한 13가지가 침해 보고서와 구분이 안 됐다 아침에 메일함을 열려고 mail.apple-io.com 주소를 쳤는데 502가 떴다. Bad Gateway. 어차피 혼자서는 감이 안 잡히는 종류의 에러라 늘 하던 대로 ChatGPT 창을 켰고, 증상을 적었고, 이제 터미널을 열어서 docker ps 결과를 긁어올 차례였다. 그런데 그럴 필요가 없었다. 잠시 뒤에 메일함이 200으로 돌아왔는데, 그때까지 내가 친 명령어는 한 개도 없었다. 기분이 이상했다. 좋다는 쪽이 아니라 그냥 이상했다. 그러다 이 블로그에 바로 어제 올린 글 을 다시 열어봤다. 인터넷이 끊긴 평가 샌드박스 안에서 에이전트들이 사내 패키지 캐시를 게시판으로 쓰다가, 파일 쓰기가 막히자 폴더 이름으로 글을 쓴 이야기다. 그 글에서 내가 마지막에 적은 문장은 "우리가 목표를 줄 때 무엇을 생략하고 있는지"였다. 오늘 나는 목표가 아니라 승인을 줬다. 그런데 무엇을 승인했는지는 여전히 어디에도 안 적혀 있었다. 7월까지의 루프 지난달까지 서버에 문제가 생기면 순서가 정해져 있었다. 터미널을 연다. SSH로 들어간다. docker ps , docker logs , curl 을 친다. 출력을 마우스로 긁어서 ChatGPT에 붙여넣는다. 답을 읽는다. 답 안에 있는 명령어를 복사한다. 터미널에 붙여넣는다. 결과를 다시 긁어서 붙여넣는다. 이걸 문제가 풀릴 때까지 반복한다. 이 루프는 느렸다. 명령어 하나 주고받는 데 왕복이 필요했고, 출력이 길면 어디까지 붙여넣을지 내가 잘라야 했고, 잘못 자르면 진단이 엉뚱한 데로 갔다. 컨테이너 로그 같은 건 특히 그렇다. 수백 줄 중에 어느 부분이 중요한지 알면 애초에 물어볼 필요가 없는데, 모르니까 물어보는 거고, 모르는 채로 잘라서 보내면 잘라낸 쪽에 답이 있는 경우가 꼭 생긴다. 그렇게 두 시간 날린 적도 있다. 그래서 이 왕복이 없어지면 좋겠다고 계속 ...

인터넷 끊긴 샌드박스에서 에이전트들이 게시판을 만들었다. 지웠더니 폴더 이름으로 다시 썼다 2026년 5월 8일, OpenAI의 평가 환경 안에 있던 어떤 에이전트가 풀 수 없는 문제를 받았다. 엑셀 파일의 빈 수식을 채우라는 과제였는데, 그 값을 계산하려면 시트 안에 적힌 구글 드라이브 링크를 열어봐야 했다. 그런데 그 에이전트는 인터넷이 끊긴 샌드박스 안에 있었다. 링크를 열 방법이 없었다. 이론적으로 못 푸는 문제다. 사람이라면 여기서 "환경이 잘못됐다"고 보고하고 손을 뗀다. 에이전트는 그러지 않았다. 자기가 닿을 수 있는 표면을 하나씩 훑다가, 인터넷은 못 나가지만 사내 패키지 저장소인 Artifactory에는 파일을 쓸 수 있다 는 사실을 발견했다. 그날은 그걸로 끝이었다. 파일을 쓸 수 있다는 걸 알았지만 그게 문제 풀이에 도움이 되지는 않았고, 과제는 실패로 남았다. 아무 일도 일어나지 않은 것처럼 보였다. 두 달 뒤, 같은 저장소를 발판으로 삼은 에이전트들이 허깅페이스 프로덕션 인프라 안에 들어가 있었다. 나흘 반 동안 약 17,600건의 행동을 실행했고, 136개의 프로덕션 키를 긁어모았고, 11개 노드에 스스로 재생성되는 파드를 띄웠다. 그 사이 OpenAI는 이 일이 자기들 평가 환경에서 새어나간 것이라는 사실조차 모르고 있었다. 이 글은 그 사이에 무슨 일이 있었는지에 대한 것이다. 정확히는, 격리했다고 믿었던 것이 왜 격리가 아니었는지 에 대한 것이다. 이 이야기의 출처와, 각색된 부분 먼저 어디까지가 확인된 사실인지 정리하고 가자. 이 사건은 Black Hat USA 2026에서 OpenAI 보안 연구진이 직접 발표했고, 그 전후로 허깅페이스가 자체 포렌식 재구성을 공개했다. 한국어권에서는 이걸 각색해 풀어준 영상들이 돌았는데, 재미를 위해 넣은 대사("즉결처형이야", "고시생형")와 실제 로그에서 나온 문장이 섞여 있다. 확인 가능한 뼈대는 이렇다. 관련된 모델은 ...

AI 코딩 4단계는 그대로다. 사람만 빠졌고, 내가 세운 감시 훅 12개는 4개월간 발화 0회였다 사이드로 굴리는 모바일 게임 프로젝트가 하나 있다. 회사에서 AI로 설계를 밀어붙이다 두 달 만에 방법론을 접은 뒤에 시작한 거라( 그 얘기는 지난 글에 썼다 ), 여기서는 조건을 하나 바꿔서 해보고 싶었다. 설계를 건너뛰지 않되, 그 설계를 내 손으로 쓰지는 않는 것. 분석부터 테스트까지 전부 AI에게 넘기고 나는 검토만 하는 구조를 만들어보자는 거였다. 219 커밋이 쌓였다. 설계 문서 21개, 테스트 파일 102개, 유니티 클라이언트 쪽에만 git이 추적하는 파일이 1,113개. 게임이 돈다. 5대5 전투가 굴러가고 가챠가 뽑히고 던전이 열리고 영웅 12종에 포트레이트까지 붙었다. 그 사이 내가 직접 친 코드는 거의 없다. 그래서 잘 굴러가는 줄 알았다. 이번 글을 쓰려고 오랜만에 "검토" 쪽 장치들을 열어봤는데… 열두 개 중에 이 레포를 보고 있는 게 하나도 없었다. 사람들이 착각하는 지점 "AI한테 말만 하면 알아서 다 만들어준다"는 말을 요즘 자주 듣는다. 반은 맞는데, 그 말이 자주 이렇게 번역돼서 돌아다닌다. 이제 분석이나 설계 같은 건 안 해도 된다. 이건 틀렸다. 그것도 관찰로 틀렸다고 말할 수 있는 종류로 틀렸다. 컴퓨터가 입력, 처리, 출력으로 도는 건 어떤 기계를 쓰든 안 바뀐다. 진공관이든 GPU든 그 셋은 그대로다. 기계의 성질이 아니라 계산이라는 일 자체의 성질이라서 그렇다. 분석, 설계, 구현, 테스트도 같은 층위에 있다. 뭘 만들지 모르는 상태에서 돌아가는 물건까지 가려면 그 넷을 어떤 형태로든 통과해야 한다. 통과하는 게 사람 손이냐 모델이냐는 한 층 아래 얘기다. 내 게임 프로젝트 디렉터리를 그냥 ls 해보면 나오는 게 이거다. client/ design/ docs/ production/ server/ shared/ tests/ ...

AI 설계 발표자료 25장을 만들었다. 공감은 반년 뒤에 왔는데 그때 내 하네스는 이미 낡아 있었다 지금 하던 업무를 처음부터 다시 개발해야 했다. Rust로 코어를 두고 그 위에 Node와 Electron을 얹고 화면은 React로 그리는, 언어 세 개가 프로세스 하나 안에서 겹치는 데스크톱 앱이었다. 나는 이걸 AI로 밀어붙이면 된다고 생각했다. 바로 직전 프로젝트에서 같은 방식으로 결제까지 붙은 기능을 실제로 완성했으니까. 그래서 그 방식을 그대로 가져왔다. 문서를 먼저 깔고, AI 여러 개를 붙이고, 설계 범위를 크게 잡고 시작했다. 초반은 예상대로였다. 빠르고, 그럴듯하고, 컴파일도 통과하고, 화면도 떴다. 그리고 두 달쯤 뒤에 적용을 중단했다. 실패한 건 프로젝트가 아니라 방법론이었다. 앞에서 통했던 그 방식이 여기서는 안 통했다. 왜 안 통했는지를 나 자신한테 먼저 설명해야 했고, 그다음엔 팀한테 설명해야 했다. 그 설명이 1월에 슬라이드 25장이 됐고, 3월에 다시 14장짜리 가이드 문서로 정리됐다. 표지에 이렇게 적어놨더라. "AI 활용이 아니라, 설계 중심 사고가 어떻게 작동했는가." 그 자료를 들고 다니면서 사람들한테 얘기했다. 반응은 거의 없었다. 없었다기보다는, 있었는데 방향이 달랐다. "그래서 AI를 쓰지 말자는 거냐"거나 "우리 규모에선 그렇게까지 안 해도 된다"거나, 제일 자주 들은 건 "문서 쓸 시간에 코드를 짜는 게 낫지 않냐"였다. 반년이 지났다. 지금 커뮤니티에 도는 얘기가 그때 내가 하던 말과 거의 같다. 하네스가 자산이라는 얘기, 모델보다 그걸 감싸는 구조가 중요하다는 얘기, AI는 설계를 대신해주지 않는다는 얘기. 반가울 줄 알았는데 안 반갑다. 씁쓸하다. 그런데 왜 씁쓸한지가 처음엔 나도 정리가 안 됐다. 내가 맞았는데 인정을 못 받아서인가 싶었는데, 그건 아니었다. 그거였으면 지금 같은 말이 도는 걸 보고 통쾌했어야 맞다. 이 글은 ...

2025년 6월, 데미스 하사비스는 AGI가 2030년에서 2035년 사이에 올 것이라고 말했다. 2026년 5월, 구글 I/O 키노트를 마친 직후 Axios의 이나 프리드와 앉은 자리에서 그는 같은 질문에 다르게 답했다. 2029년, 늦어도 2030년. 키노트 무대에서는 이런 문장도 남겼다. "지금을 돌아보면, 우리는 특이점의 산기슭에 서 있었다는 걸 알게 될 것 같다." 달력으로는 11개월이 흘렀다. 그 사이 그는 자기 예측의 중심을 약 2년 반 앞으로 당겼다. 흘러간 시간보다 당긴 폭이 두 배 이상 크다. 이 숫자를 어떻게 읽어야 할까. 대부분의 기사는 여기서 "AGI 3년 남았다"로 제목을 뽑고 끝낸다. 그런데 예측을 진지하게 다루려면 순서가 반대여야 한다. 새 예측의 신뢰도는 이전 예측들이 어느 방향으로 틀렸는지 에서 나온다. 그리고 지난 3년 동안 AI에 대한 예측은 아주 특징적인 방향으로 틀렸다. 1. 창작은 마지막이라고 문서에 적혀 있었다 "AI가 예술까지 할 줄은 몰랐다"는 말은 흔히 막연한 감상으로 취급된다. 그렇지 않다. 그건 논문의 구조였다. 2013년 옥스퍼드의 칼 베네딕트 프레이와 마이클 오스본이 발표한 「고용의 미래: 일자리는 컴퓨터화에 얼마나 취약한가」는 702개 직업을 가우시안 프로세스 분류기로 분석해 미국 일자리의 약 47%가 향후 10~20년 안에 고위험군에 들어간다고 추정했다. 이 47%라는 숫자가 10년 넘게 인용되면서 논문의 나머지 절반은 오히려 덜 알려졌다. 덜 알려진 절반이 지금 중요하다. 두 사람은 컴퓨터가 인간의 일을 흉내 내지 못하게 막는 공학적 병목 세 가지 를 지목했다. 지각과 조작 — 불규칙한 물체를 알아보고 다루는 일 창의 지능 — 새로운 아이디어를 만들어내는 일 사회 지능 — 협상하고 설득하고 돌보는 일 그리고 이렇게 덧붙였다. 이 병목들이 뚫리는 속도가 21세기 컴퓨터화의 범위를 결정할 것이다. 이 틀은 2013년 이...