말구링의 잡동사니

AI 자동화 도입 전에 챙겨야 할 보안 이슈들AI 자동화를 업무에 도입할 때 기능과 편의성에 집중하다 보면 보안은 나중에 생각하게 되는 경우가 많습니다. 그런데 AI와 자동화가 결합되면 데이터가 이동하는 경로가 늘어나고 외부 서비스와의 연결 지점이 많아집니다. 작은 실수가 생각보다 큰 문제로 이어질 수 있습니다. 도입 전에 한 번은 짚고 넘어가야 할 보안 이슈들을 정리했습니다.API 키 관리가 가장 기본입니다API 키는 외부 서비스에 접근하는 비밀번호와 같습니다. 노출되면 다른 사람이 내 계정으로 API를 호출할 수 있고 그 비용은 내가 부담합니다. 실제로 GitHub에 코드를 올리다가 API 키가 노출돼서 수백만 원의 청구서를 받은 사례가 종종 있습니다.코드에 API 키를 직접 넣으면 안 됩니다. 환경..

API 비용 생각보다 많이 나올 때 줄이는 방법Claude API를 쓰다 보면 처음에는 비용이 얼마 안 나오다가 자동화 워크플로우를 늘리거나 사용자가 많아지면 어느 순간 청구서가 예상보다 많이 나옵니다. 토큰 기반 과금 구조라 사용량이 늘수록 선형으로 비용이 올라갑니다. 실제로 비용을 줄이면서 쓸 수 있는 방법들을 정리했습니다.비용 구조부터 이해하면Claude API 비용은 입력 토큰과 출력 토큰으로 나뉩니다. 입력 토큰은 Claude에 보내는 텍스트의 양이고 출력 토큰은 Claude가 생성하는 응답의 양입니다. 모델마다 가격이 다르고 입력보다 출력 토큰이 더 비쌉니다.현재 기준으로 Claude Sonnet이 Opus보다 훨씬 저렴하고 Haiku는 Sonnet보다 훨씬 저렴합니다. 같은 작업을 어떤 모델..

벡터 DB — AI가 긴 문서를 어떻게 기억하는지 원리 (Pinecone·Chroma)Claude나 ChatGPT에 긴 문서를 넣으면 잘 처리하는데, 문서가 수백 개, 수천 개가 되면 한 번에 다 넣을 수가 없습니다. 컨텍스트 윈도우에 한계가 있기 때문입니다. 그렇다고 매번 관련 문서를 사람이 골라서 넣는 것도 현실적이지 않습니다. 벡터 데이터베이스가 이 문제를 해결합니다. RAG 글에서 잠깐 언급했는데, 이번에는 원리부터 실제 사용법까지 깊게 들어가보겠습니다.벡터가 뭔지부터 짚으면벡터는 숫자의 배열입니다. 텍스트를 벡터로 변환한다는 건 문장이나 단어를 수백 개에서 수천 개의 숫자로 표현한다는 뜻입니다. 이 변환 과정을 임베딩(Embedding)이라고 합니다.임베딩의 핵심은 의미가 비슷한 텍스트는 비슷한..

AI 앱 개발을 시작하면 Langchain과 LlamaIndex 이름이 계속 나옵니다. 둘 다 LLM 기반 애플리케이션을 만들 때 쓰는 프레임워크인데, 처음에는 뭐가 다른지 명확하게 구분이 안 됩니다. 직접 써보면서 헷갈렸던 부분을 중심으로 정리해봤습니다.한 줄로 정리하면Langchain은 LLM을 활용한 워크플로우와 에이전트를 만드는 프레임워크입니다. LlamaIndex는 데이터를 LLM이 쓸 수 있는 형태로 연결하고 검색하는 데 특화된 프레임워크입니다.같은 카테고리처럼 보이지만 핵심 강점이 다릅니다. Langchain은 여러 컴포넌트를 연결해서 복잡한 흐름을 만드는 데 강하고, LlamaIndex는 문서나 데이터를 LLM에 연결해서 질의응답하는 데 강합니다.Langchain이 잘하는 것Langchai..

시스템 프롬프트 설계법 — AI의 성격과 역할을 고정하는 법Claude API를 쓰다 보면 같은 질문에도 매번 응답 스타일이 조금씩 달라지는 걸 느끼게 됩니다. 어떤 때는 너무 길게 답하고, 어떤 때는 원하는 형식이 아닌 방식으로 나옵니다. 시스템 프롬프트를 잘 설계하면 이 문제가 해결됩니다. Claude가 어떤 역할을 맡고, 어떤 톤으로 말하고, 어떤 형식으로 답할지를 고정하는 방법입니다.시스템 프롬프트가 뭔지 짚으면API 요청 구조에서 system 파라미터에 넣는 텍스트입니다. 대화가 시작되기 전에 Claude에게 주는 지침입니다. 사용자 메시지와 달리 대화 흐름에 포함되지 않고 백그라운드에서 Claude의 행동 방식을 규정합니다.웹사이트의 고객 지원 봇을 만든다고 하면, 시스템 프롬프트에서 "당신은..

Claude를 웹사이트나 앱에 직접 연결하거나, 자동화 워크플로우에 넣거나, 나만의 도구를 만들려면 API를 써야 합니다. Claude.ai 웹사이트에서 대화하는 것과 달리 API는 코드로 Claude를 호출하는 방식입니다. 처음 접하면 낯설게 느껴질 수 있는데, 기본 흐름은 생각보다 단순합니다. 키 발급부터 첫 호출까지 순서대로 정리해봤습니다.API 키 발급받기console.anthropic.com에 접속합니다. 계정이 없으면 이메일로 가입합니다.로그인 후 왼쪽 메뉴에서 API Keys를 클릭합니다. Create Key 버튼을 누르고 키 이름을 입력합니다. 용도를 알 수 있는 이름으로 짓는 게 좋습니다. 테스트용이면 test, 프로젝트명으로 지어도 됩니다.생성된 키는 sk-ant-로 시작하는 긴 문자열..

뉴스 크롤링 + AI 요약으로 매일 아침 브리핑 만들기매일 아침 업계 동향을 파악하는 게 중요하다는 걸 알면서도 꾸준히 하기가 어렵습니다. 여러 사이트를 돌아다니며 읽다 보면 시간이 금방 지나가고, 바쁜 날은 그냥 넘어가게 됩니다. 원하는 주제의 뉴스를 자동으로 수집하고 AI가 요약해서 매일 아침 정해진 시간에 보내주는 브리핑을 만들면 이 문제가 해결됩니다.전체 흐름브리핑 자동화의 구조는 단순합니다.뉴스 수집 → AI 요약 → 브리핑 전송수집은 RSS 피드나 웹 크롤링으로 합니다. AI가 수집된 내용을 읽고 핵심만 추려서 요약합니다. 요약된 브리핑을 슬랙, 이메일, 텔레그램 중 원하는 채널로 보냅니다.RSS 피드 기반 브리핑크롤링보다 RSS 피드를 쓰는 게 훨씬 간단하고 안정적입니다. 대부분의 주요 뉴스..

Slack에 AI 봇 붙여서 팀 업무 알림 자동화하기슬랙을 팀 커뮤니케이션 도구로 쓰는 곳이 많습니다. 그런데 알림이 너무 많거나, 중요한 내용이 채널에 묻히거나, 반복적으로 같은 질문이 올라오는 문제가 생깁니다. AI 봇을 붙이면 이 문제들을 일부 해결할 수 있습니다. 단순 알림 전달에서 내용을 판단하고 적절하게 응답하는 수준까지 만들 수 있습니다.어떤 걸 만들 수 있나Slack AI 봇으로 구현할 수 있는 것들입니다.특정 채널에 올라온 메시지를 AI가 읽고 요약해서 다른 채널로 전달하는 요약 봇입니다. 모든 채널을 다 읽기 어려운 환경에서 핵심 내용만 추려서 받아볼 수 있습니다.외부 이벤트가 발생했을 때 상황에 맞는 설명을 붙여서 알림을 보내는 컨텍스트 알림 봇입니다. 단순히 "에러 발생"이 아니라 ..

Google Sheets는 많은 팀에서 데이터를 모아두는 공간으로 씁니다. 그런데 데이터가 쌓일수록 정리하고 분석하는 데 시간이 걸립니다. 형식이 제각각인 데이터를 통일하거나, 쌓인 데이터에서 인사이트를 뽑거나, 특정 조건의 행을 분류하는 작업이 반복됩니다. AI를 연결하면 이 과정을 상당 부분 자동화할 수 있습니다.어떤 자동화가 가능한가Google Sheets와 AI를 연결해서 만들 수 있는 자동화는 크게 네 가지입니다.데이터 분류 자동화입니다. 새로 입력된 데이터를 AI가 읽고 카테고리를 판단해서 옆 셀에 자동으로 채워줍니다. 고객 문의 내용을 유형별로 분류하거나 피드백을 긍정, 부정, 중립으로 나누는 작업입니다.데이터 정제 자동화입니다. 형식이 불일치한 데이터를 AI가 통일된 형식으로 변환합니다. ..

Gmail + AI 자동화 — 이메일 분류와 답장 초안 자동 생성이메일은 여전히 업무에서 가장 많은 시간을 잡아먹는 것 중 하나입니다. 받은 편지함을 확인하고, 분류하고, 답장을 쓰는 과정이 하루에도 몇 번씩 반복됩니다. AI와 자동화를 연결하면 이 흐름의 상당 부분을 줄일 수 있습니다. 직접 구성해보면서 실용적으로 쓸 수 있는 방식을 정리했습니다.어떤 자동화가 가능한가Gmail과 AI를 연결해서 만들 수 있는 자동화는 크게 세 가지입니다.이메일 분류 자동화입니다. 받은 이메일 내용을 AI가 읽고 카테고리를 판단해서 라벨을 붙이거나 특정 폴더로 이동시킵니다. 문의, 계약, 광고, 내부 공유처럼 카테고리를 정해두면 받은 편지함이 자동으로 정리됩니다.답장 초안 자동 생성입니다. 이메일 내용을 AI가 읽고 적..