GOLDTAG (골드태그)

오전에 당근 모임 대화방에 그림 두 장이 올라왔습니다. 저는 대화에 끼지 않고 읽기만 하고 있었습니다. 하나는 한옥 마당에서 버섯 바구니를 든 주황색 고양이였고, 다른 하나는 시장 골목에서 장바구니를 든 가지와 당근이었습니다. 둘 다 펠트로 만든 인형처럼 생겼고, 표면에 보풀이 일어난 게 폰 화면으로도 보일 정도였습니다. 바로 밑에 누가 물었습니다. 제미나이로 만든거에요? 올린 분 답은 이랬습니다. 아뇨 인스타에서 찾은거 걍 인형같던데... 대화는 "으흠 신기하네용"으로 끝났는데, 저는 "걍 인형같던데"에서 좀 오래 멈춰 있었습니다. 그 말이 딱 그 그림이 노린 반응이라서요. 진짜 인형을 찍은 사진이면 굳이 나올 말이 아닙니다. 보는 사람이 한 번은 헷갈려야 나오는 말이죠. 가지가 쓴 동그란 안경은 실로 수놓은 것처럼 보이는데, 손바닥만 한 인형에 안경테를 저렇게 고르게 수놓는 건 손으로 하기엔 꽤 성가신 일입니다. 배경이 전부 적당히 흐려져 있고 햇빛이 인형 털 끝에서만 반짝이는 것도 그렇고요. 제 눈에는 AI 쪽으로 보였습니다. 그래서 그 두 장을 뜯어보고 프롬프트로 옮겨 봤습니다. 인스타에 올린 사람이 어떤 프롬프트를 썼는지는 모릅니다. 그림에서 보이는 걸 거꾸로 적어 내려간 것이고, 그렇게 만든 프롬프트에 가지고 있던 사진 몇 장을 넣어 봤습니다. 그림 두 장을 문장으로 옮기면서 거꾸로 적어 내려간다는 게 말은 쉬운데, 해 보면 그림에서 뭘 볼지부터 정해야 합니다. 제가 먼저 본 건 얼굴이었습니다. 고양이 눈은 반쯤 감긴 선 두 줄이고, 가지 얼굴도 눈과 입이 가는 선 몇 개로 끝납니다. 펜으로 그린 선이 아니라 실로 박음질한 선처럼 보였고, 이게 눈, 눈썹, 코, 입은 프린트가 아니라 embroidery나 felt applique로 만든다는 문장이 됐습니다. 다음은 표면이었습니다. 크게 키워 보면 고양이 털 가장자리가 햇빛을 받아 하얗게 빛나는데, 매끈한 3D 렌더링과 제일 다른 부분이 여...

설정 화면에서 커넥터 목록을 내리다가 ElevenLabs 가 보였습니다. 처음 든 생각은 "드디어"였습니다. 저한테는 이게 반가운 이름이었거든요. 범용 AI 쪽에 음악 관련 도구가 들어왔다는 건, 제가 몇 달 동안 우회로만 찾고 있던 문제가 정식 경로를 얻었다는 뜻으로 읽혔습니다. 그래서 언제부터 있었던 것인지 찾아봤습니다. 어제였습니다. 어제라는 게 좀 묘했습니다. 같은 달 초에 정반대 방향의 변화가 있었거든요. 음악 생성 전용 도구 쪽은 다운로드 횟수를 제한했는데, 범용 도구 쪽은 만드는 기능을 추가했습니다. 3주 사이에 일어난 일입니다. 그리고 확인하는 과정에서 제가 한 번 틀렸습니다. 틀린 내용도 그대로 적어두려고 합니다. 어디서 어떻게 틀렸는지가 이 글에서 제일 쓸 만한 부분일 것 같아서요. 기획이랑 개발은 되는데, 두 군데서 멈췄습니다 작년부터 취미로 게임을 만들고 있습니다. 그중 하나는 아이가 만들고 싶다고 한 미연시였고, 사이드 프로젝트 네 개를 동시에 붙들고 있던 시기 에 같이 시작한 것입니다. 엔진은 Ren'Py 를 썼습니다. Python 기반 비주얼 노벨 도구인데, 대화와 선택지와 분기가 이미 다 들어 있어서 스크립트 파일 하나만 고치면 동작합니다. 여기서 AI 가 실제로 얼마나 해주는지는 꽤 명확했습니다. 기획은 됩니다. 캐릭터 설정을 주고 분기 구조를 짜달라고 하면 루트가 몇 갈래로 나뉘는 설계가 나옵니다. 개발도 됩니다. 스크립트 문법은 단순해서 대화 200줄 붙이는 건 정말 30분입니다. 테스트도 됩니다. 분기를 다 타보고 도달 불가능한 라벨을 찾아달라고 하면 찾아줍니다. 게임은 텍스트만 있으면 되는 게 아닙니다. 정확히 두 군데서 멈췄습니다. 하나는 화면에 띄울 그림입니다. 캐릭터 그림, 배경, 표정이 바뀔 때마다 갈아 끼울 변형 컷, UI 아이콘. 다른 하나는 들려줄 소리입니다. 배경음악이 있어야 장면의 분위기가 잡히고, 선택지를 누를 때 딸깍하는 소리가 있어야 조작하는 느낌이 납니다....

같은 시기에 나온 뉴스 네 개를 나란히 보게 됐습니다. 하나는 AI가 전쟁의 판도를 바꾸고 있다는 이야기였습니다. 공습 과정에서 사람이 하는 일이 어느 쪽 버튼을 누르느냐 수준으로 줄었다는 대목이 나왔고, AI가 청소년의 자살이나 범죄를 돕는 사례가 늘어 미국에서 소송이 진행 중이라는 이야기도 붙었습니다. 그 흐름에서 우리 정부가 인공지능 윤리 원칙을 새로 내놨다고 했습니다. 나머지 셋은 전부 자폐 스펙트럼 장애 이야기였습니다. 뇌 영상에서 어떤 부위가 자폐와 관련 있는지 분석하는 기술, 영유아가 영상을 보는 동안의 반응을 AI가 읽어 조기에 선별하는 기술, 그리고 말수가 적은 자폐 아동과 부모 사이의 대화를 AI가 이어 주는 시스템이었습니다. 마지막 뉴스에 어머니 인터뷰가 하나 실려 있었습니다. "저한테 엄마라고 호명을 안 했거든요. 근데 이렇게 보면서 아 엄마구나, 그리고는 저한테 엄마 아빠 이렇게." 같은 기술입니다. 한쪽에서는 사람을 죽이는 판단에 들어가 있고, 다른 쪽에서는 아이가 처음으로 엄마를 부르게 만들고 있습니다. 이걸 보고 가장 자연스럽게 나오는 결론이 있습니다. 기술 자체에는 선악이 없고, 그걸 쓰는 사람과 기관과 국가가 방향을 정한다는 것입니다. 저도 오래 그렇게 생각했습니다. 그런데 이 네 개를 같이 놓고 며칠 들여다보니 그 결론이 편한 쪽으로 반쯤 잘려 있다는 생각이 들었습니다. 가장 많이 인용되면서 가장 많이 잘리는 문장 기술사학자 멜빈 크란츠버그가 1986년에 남긴 문장이 있습니다. 기술을 이야기할 때 거의 관용구처럼 쓰입니다. "기술은 선하지도 악하지도 않다. 그러나 중립적이지도 않다." 인용될 때 대개 앞쪽 절반만 옵니다. 선하지도 악하지도 않다는 말은 듣기 좋고, 논쟁을 끝내 주고, 무엇보다 우리를 편하게 해 줍니다. 크란츠버그가 정말 하고 싶었던 말은 뒤쪽입니다. 선악이 없다는 것과 중립이라는 것은 다른 말입니다. 이게 왜 다른 말인지를 그는 이렇게 설명했습니다...

회사에서 이런 얘기가 돌았습니다. 경영진이 외부 업체 몇 군데를 둘러보고 왔는데 거기서 본 게 꽤 인상적이었던 모양입니다. 개발자가 AI와 직접 기획을 하고, 기획자가 필요한 부분을 직접 만들고, 디자이너가 개발자를 기다리지 않고 수정해서 빌드까지 올리는 식이었다고 합니다. 우리도 그 방향으로 가야 하지 않겠냐는 얘기가 위에서 나왔고, 그게 조직을 한 단계씩 타고 내려와서 결국 각 팀에 "어떻게 생각하시냐"는 질문의 형태로 도착했습니다. 저는 그 방향에 동의하는 편입니다. 제 사이드 프로젝트가 이미 그렇게 굴러가고 있거든요. 오디오북 앱 하나를 혼자 만들고 있는데, 관리자 화면과 앱과 백엔드와 배포 도구가 한 저장소 안에 같이 들어 있고, 그 사이를 오가는 일을 제가 직접 하지 않습니다. 저는 방향이 맞는지만 봅니다. 기획도 인프라 구성도 디자인도 단위 테스트도 통합 테스트도 그 안에서 돌아갑니다. 이게 되는 걸 몇 달 겪고 나면 회사 조직도가 좀 이상해 보이기 시작하는 건 자연스러운 일입니다. 그런데 그 얘기를 전해 듣고 제일 먼저 든 생각은 내용 쪽이 아니었습니다. 이 질문이 여기까지 도착한 경로 쪽이었습니다. 그 얘기는 마지막에 다시 하겠습니다. 먼저 이 흐름의 출처로 보이는 쪽을 좀 봤습니다. 위계는 정보를 나르려고 생겼다는 주장 잭 도시가 올해 초에 「From Hierarchy to Intelligence」라는 글을 냈습니다. 세쿼이아의 로엘로프 보타와 같이 썼고요. 2월 말에 블록이 만 명 넘던 인원에서 사천 명을 줄였는데, 그게 비용 절감이 아니라 영구적인 구조 변경이라는 게 이 글의 출발점입니다. 주장 자체는 꽤 깔끔합니다. 기업의 위계는 원래 문제 하나를 풀려고 생겼다는 겁니다. 한 사람이 전부 볼 수 없을 만큼 조직이 커졌을 때 정보를 어떻게 흘려보낼 것인가. 관리자는 아래에서 맥락을 모아 올리고, 위에서 온 메시지를 아래로 전달하고, 팀 사이의 정렬을 유지합니다. 로마 군대 이래로 이천 년 동안 그 역할이 필요...

제 블로그 발행 스크립트에 grep 한 줄이 들어 있었습니다. 파일을 열어서 판정: 합격 이라는 문자열이 있는지 찾는 코드였고, 두 달 반쯤 돌리다가 7월 말에 지웠습니다. 그 한 줄이 오늘 갑자기 떠올랐습니다. 앤트로픽과 오픈AI, 구글이 AI 안전 표준기구를 같이 세우는 걸 논의하고 있다는 기사를 읽던 중이었습니다. 규모가 전혀 다른 이야기를 갖다 붙이는 것처럼 보일 겁니다. 한쪽은 프런티어 모델을 만드는 회사들이고 한쪽은 혼자 굴리는 블로그 파이프라인이니까요. 그런데 제가 그 grep 을 지우면서 얻은 게 하나 있는데, 그게 하필 이번 뉴스를 읽는 데 그대로 쓰였습니다. 그래서 그 얘기를 먼저 하고 뉴스는 뒤에 붙이겠습니다. 순서가 반대면 제가 하려는 말이 안 남을 것 같습니다. 검문소와 통행증 발급처가 같았습니다 당시 이 레포에는 보안 기준선이라는 게 번호로 붙어 있었고, 그중 하나가 "게이트 불합격 글은 업로드 차단" 이었습니다. 문장만 보면 꽤 단단해 보입니다. 실제로 하는 일은 이랬습니다. 발행 스크립트가 글을 올리기 전에 _workspace/briefs/{slug}-ai-check.md 라는 파일을 엽니다. 그 안에 판정: 합격 이라는 문자열이 있으면 발행하고, 없으면 멈춥니다. 딱 그겁니다. 문제는 그 파일을 누가 쓰느냐입니다. AI 문체 검사를 맡은 에이전트가 씁니다. 자기가 쓴 글을 자기가 읽고, 검사 결과를 자기가 파일에 적고, 코드는 그 파일에서 문자열을 찾습니다. 검사받는 쪽이 통행증을 발급하고, 검문소가 그 통행증을 확인하는 구조였습니다. 처음 이걸 걸었을 때는 기분이 좋았습니다. 파이프라인에 단단한 게 하나 생긴 느낌이었거든요. 문서에도 자신 있게 적어뒀습니다. 불합격이면 못 나간다고요. 그 느낌이 깨진 건 발행이 한 번 막혔을 때입니다. 원인을 찾으려고 브리프 파일을 열어봤는데, 거기 적혀 있는 문장이 제가 봐도 근거가 없었습니다. 무엇을 보고 그렇게 판정했는지가 파일 어디에도 없었습니다....

이 시리즈를 시작할 때 지인이 물었던 걸 그대로 적어뒀습니다. "내가 지금 쌓고 있는 숙련이 3년 뒤에도 값이 있을까?" 30년 넘게 코딩한 사람이 한 질문이었습니다. 그때 저는 제대로 답을 못 했고, 얼버무리고 넘어갔습니다. 네 편을 쓰고 난 지금도 사실 거기서 크게 움직이지 못했습니다. 그래서 마지막 글은 답을 정리하는 대신, 제가 앞에서 쓴 것들이 어디가 약한지를 짚어보는 쪽으로 가려고 합니다. 저는 계속 "남는다"고 썼습니다 앞의 네 편을 다시 읽어보면 결론이 거의 같은 방향입니다. AI가 못 보는 게 있다 , 거기에 회사의 규칙이 있다 , 책임은 사람에게 고정돼 있다 , 그러니까 도구를 다룰 줄 아는 사람의 값이 올라간다 . 다 제가 실제로 그렇게 보고 있는 것들입니다. 그런데 이 글들을 쓰면서 계속 걸리는 게 있었습니다. 이게 관찰인가, 아니면 제가 그러길 바라는 건가. 저는 개발자입니다. 20년 넘게 이 일을 했고 지금도 이 일로 먹고삽니다. 그런 사람이 "개발자의 위치는 남는다"는 결론에 도달했을 때, 그 결론이 순수하게 데이터에서 나왔다고 자신하기가 어렵습니다. 저는 남길 바라니까요. 이건 그냥 넘길 수 있는 편향이 아닙니다. 어떤 직군이 위험해질 때 그 직군 안에서 나오는 글은 거의 항상 "우리는 대체되지 않는다"로 끝납니다. 사진이 나왔을 때 회화 쪽에서 나온 반응이 그랬고, 조판이나 타이핑처럼 기계가 먼저 들어간 일들에서도 비슷한 얘기가 나왔습니다. 그중 일부는 결국 맞았고 일부는 완전히 틀렸는데, 쓸 당시에는 둘이 똑같이 설득력 있게 읽혔습니다. 그러니까 제 글도 그 목록에 들어갈 수 있습니다. 이걸 인정하지 않고 시작하면 뒤에 뭘 써도 자기 위안이 됩니다. 그런데 반대쪽도 사정이 같습니다. AI를 만드는 회사들은 이게 세상을 바꾼다고 말할 유인이 아주 큽니다. 투자를 받아야 하고 쓰게 만들어야 하니까요. "곧 대부분의 일을 대신하게 됩니...