ChatGPT나 Claude는 인터넷이 연결된 상태에서 회사 서버에 요청을 보내는 방식으로 작동합니다. 편리하지만 민감한 데이터를 넣기 꺼려지고, 비용이 누적되고, 인터넷 없이는 쓸 수 없다는 한계가 있습니다. 이런 이유로 AI를 내 PC에서 직접 돌리는 방식에 관심을 갖는 사람들이 늘고 있습니다. 로컬 LLM입니다.로컬 LLM이 뭔지 먼저 짚으면로컬 LLM은 클라우드 서버가 아닌 내 컴퓨터에서 직접 실행하는 언어 모델입니다. 데이터가 외부로 나가지 않고, 인터넷 연결이 없어도 작동하고, 사용량에 따른 추가 비용이 없습니다. 오픈소스 모델이 많아지면서 선택지도 다양해졌습니다. Meta의 Llama, Mistral, Google의 Gemma 등 성능이 검증된 모델들을 무료로 쓸 수 있습니다.단점도 있습니다..