AI 코딩58 [로컬AI] AI모델 Q4 양자화의 의미와 원리 이해하기 로컬AI를 구축할 때 초기의 파일럿 프로젝트는 많은 비용을 사용할 수 없습니다. 소프트웨어 개발이야 어차피 투입되는 인력부분이고, 하드웨어는 투자의 개념이 많이 들어갑니다. 양자화는 조금은 더 가벼운 컴퓨터에서 좀 더 무거운 모델을 시험해보고 싶은 욕망에서 시작됩니다. 양자화는 기본적으로 저장되는 학습 데이터에 대한 압축기술입니다. 이러한 압출기술을 이용해서 VRAM등의 메모리 사용량을 줄이며, 처리속도 또한 개선하기 위한 접근입니다.양자화는 기본적으로 저장되는 학습데이터에 대한 압축기술입니다. [ 차례 ]1. 양자화(Quantization)의 기본 개념2. Q4 양자화의 구체적 의미3. 성능적 측면의 영향4. 실제 모델에서의 적용 과정5. 제조업 환경에서의 Q4 양자화 최적 활용마무리 1. .. 2025. 7. 30. CNC 제조업 특화 AI 모델 선정 가이드 제조업의 로컬AI 구축시 제조 특성에 맞는 특화된 모델이 선정하는것이 좋습니다. 중소기업의 로컬AI를 구축할 때는 제조업종에 따라 특화된 모델이나 학습 패턴이 달라져야 해당 제조 데이터에 최적화된 인공지능 서비스를 구축할 수 있습니다.MCT, CNC등의 가공설비를 이용하여 부품을 가공하는 대부분의 자동차 관련 제조업체는 잦은 공구 마모 및 수명과 관련된 불량문제를 겪게되며, 불량을 사전에 예측하지 못하면 잘못된 공구사용으로 인한 대량의 불량 제품이 생산될 문제점을 가지고 있습니다. 이러한 가공설비 기반의 중소기업은 공구 설비로 부터 수집된 가공 데이터를 활용한 로컬AI 구축을 통하여 예방점검 또는 공구 마모 예측 시스템 구축에 대한 꾸준한 현장 요구사항이 나타나고 있습니다.1. 모델 선정 기준 및 평가.. 2025. 7. 29. 로컬AI 구축의 핵심 : LLM과 임베딩 모델의 협업 AI가 어떻게 똑똑해지는 걸까요?많은 개발자들이 "AI를 만들려면 ChatGPT 같은 모델 하나만 있으면 되는 거 아닌가?"라고 생각합니다.하지만 실제로 업무에 활용할 수 있는 똑똑한 AI를 만들려면 두 개의 서로 다른 AI 모델이 팀워크를 이뤄야 합니다. 이는 마치 사람이 뇌에서 기억을 저장하는 부분(해마)과 생각하고 판단하는 부분(전두엽)이 따로 있는 것과 같습니다. AI도 마찬가지로 정보를 저장하고 찾는 역할을 하는 임베딩 모델과 그 정보를 바탕으로 똑똑한 답변을 만드는 LLM(대형 언어 모델)이 각각의 전문 역할을 담당합니다. 이 두 모델이 협력하는 이유는 각각이 서로 다른 강점을 가지고 있기 때문입니다.임베딩 모델은 마치 도서관 사서처럼 수많은 문서 중에서 질문과 관련된 정보를 빠르게 찾아내는 .. 2025. 7. 28. 제조업 특화 로컬 LLM 도구 TOP 5 제조업에 특화된 로컬 LLM모델을 선정하기 위해 선행 적용 모델들을 분석할 필요가 있습니다. 저는 아직도 중소 제조기업에 가장 적합한 로컬AI용 LLM모델이 어떤것일까? 를 계속 시험하고 있고, 아직도 정답을 모르겠습니다. 다양한 형태의 중소기업과 중소기업이 보유한 복잡하고 난해하고, 표준화 되지 않은 생산데이터를 어떻게 하면 가장 적은 비용과 시간안에 AI를 구축하고, 비 전문가인 현장에서 사용될 수 있을 정도의 로컬AI 구축용 LLM모델을 찾는것은 성공으로 가장 빠르게 접근 할 수 있는 방법입니다. 저는 Ollama 플랫폼 기반의 로컬LLM 모델을 이용한 학습과 시험을 진행하는 것을 선호합니다. 그래도 결과가 잘 나오지 않을 때는 다른 LLM도구들에 눈을 돌려 사용해보고 비교해 보기도 합니다. 그래서.. 2025. 7. 26. Claude Desktop + MCP 연결 및 활용 MCP는 다른 프로그램과의 협업 매커니즘입니다ChatGPT가 한 참이나 일반인들에게 까지 확장되어 사용하고 있을 때, 갑자기 AI 코딩에 특화된(?) Cursor 개발 환경 플랫폼 및 Claud 생성형 AI서비스를 접하게 됩니다. AI코딩에 특화되어 있다보니, 다른 어플리케이션과의 연계성도 고려할 수 밖에 없고 MCP라는 프로토콜을 활용한 개발도 지원하게 됩니다.쉽게 말해서 MCP는 나 혼자만 일 잘하는게 아니라 다른 프로그램에 일을 시키는 일을 잘하게 되는거죠.특히나 프로젝트 기획 및 디자인에 전문적인 Figma와의 연결은 IT프로젝트의 팀원간 협업에 극적인 생산성과 협업 매커니즘을 만들기 시작했습니다. 1. Claude Desktop 개요 : 브라우저 버전과의 차이점Claude Desktop은 .. 2025. 7. 24. [AI코딩.11] AI 코딩 미래 전망과 마무리 - AI 코딩의 다음 단계 AI코딩 활용을 위한 개발자 가이드안녕하세요! 드디어 "AI코딩 활용을 위한 개발자 가이드" 연재의 마지막 편에 도달했습니다.지난 10편에 걸쳐 AI 코딩 도구의 기본 사용법부터 실전 프로젝트 적용까지 다양한 내용을 다뤄왔습니다. 이번 11편에서는 AI 코딩의 미래를 전망하고, 앞으로 개발자들이 어떻게 준비해야 할지에 대해 알아보겠습니다. 또한 연재 전체를 정리하며 AI코딩과 관련된 궁금증을 해결하는 시간을 가져보겠습니다. 변화하는 기술 환경 속에서 개발자로서 어떤 방향으로 성장해야 할지, 그리고 AI와 함께 일하는 새로운 패러다임에 대해 깊이 있게 살펴보겠습니다.1. 2025년 AI 코딩 도구 전망2025년 현재, AI 코딩 도구 시장은 급속도로 발전하고 있으며, 앞으로 몇 년간 더욱 혁신적인 변화가.. 2025. 7. 22. [AI코딩.10] Augmented 코딩과 Vibe 코딩에 대한 개발자 가이드 1. 들어가며: 두 가지 코딩 패러다임의 만남개발자로서 10년 넘게 코드를 작성해오면서, 나는 AI를 활용한 코딩스타일에서 두 가지 극명하게 다른 코딩 스타일을 목격해왔습니다. 한쪽에는 "일단 돌아가게 만들고 나중에 생각하자"는 Vibe 코딩이 있고, 다른 한쪽에는 AI와 도구의 힘을 빌려 체계적이고 전략적으로 접근하는 Augmented 코딩이 있다. 현재는 바이브 코딩도 나름의 매력이 있었지만, 2025년 현재 시점에서 보면 설계형 증강 코딩이야말로 진정한 게임 체인저라고 확신합니다. 특히 복잡한 비즈니스 로직을 다뤄야 하는 현대 개발 환경에서는 더욱 그렇습니다. 오늘은 왜 모든 개발자가 augmented 코딩으로 전환해야 하는지, 그리고 어떻게 실천할 수 있는지에 대해 실제 사례와 함께 상세히 이야기.. 2025. 7. 21. [git] Synology Drive에서 .git 폴더 동기화 설정 방법 시놀로지 드라이브를 이용해 프로젝트를 동기화해서 사용하면, 사무실과 집 또는 다른 장소에서 손쉽게 프로젝트를 다양한 곳에서 동기화된 프로젝트 소스를 공유해서 사용할 수 있어서 매우 편리합니다.그런데, 프로젝트의 소스는 synology drive client로 동기화 되어있고 .git도 공유될 수 밖에 없는데, 이는 프로젝트 동기화중 .git내의 cache등으로 동기화 문제가 발생되곤 합니다. 동기화에 문제가 생긴다는 것은 해당 동기화 오류로 더이상 시놀로지 동기화를 사용할 수 없다는 의미와 같습니다. 그래서 오늘은 어떻게 하면 .git관련 디렉토리를 동기화에서 제외하고 현명하게 프로젝트 디렉토리를 동기화 할 수 있는지를 알아보려 합니다.1. Synology Drive Client를 활용한 데이터 동기화시.. 2025. 7. 19. [AI코딩.09] AI 코딩 워크플로우 최적화 - 실전 활용 전략 AI코딩 활용을 위한 개발자 가이드들어가며개발자로서 AI 도구들을 개별적으로 사용해보는 것과 실제 프로젝트에서 체계적으로 활용하는 것은 완전히 다른 차원의 문제입니다. 단순히 ChatGPT나 GitHub Copilot을 써보는 것을 넘어서, 실무에서 지속 가능하고 효율적인 개발 워크플로우를 구축하려면 전략적인 접근이 필요합니다.이번 글에서는 AI 코딩 도구들을 실제 개발 프로세스에 체계적으로 통합하여 생산성을 극대화하는 방법을 다룹니다. 프로젝트 기획부터 배포까지 각 단계별로 어떤 AI 도구를 언제, 어떻게 활용해야 하는지 구체적인 가이드를 제시하겠습니다. 또한 개인 개발자뿐만 아니라 팀 환경에서의 도입 전략과 성과 측정 방법까지 포괄적으로 살펴보겠습니다.1. 효과적인 AI 코딩 워크플로우 설계워크플로.. 2025. 7. 18. 이전 1 2 3 4 5 6 7 다음
