AI 코딩60 [로컬AI] 중소 제조기업의 로컬AI를 위한 하드웨어 구축 가이드 현재 제조업계는 디지털 전환의 물결 속에서 생존을 위한 변화를 요구받고 있습니다.특히 중소 제조기업들은 대기업과의 경쟁에서 살아남기 위해 스마트 팩토리와 AI 기술 도입이 필수가 되었습니다. 정부에서는 스마트 제조혁실 지원사업을 수 년간 지속하면서, 중소기업의 디지털 트랜스포메이션을 지원하고 있지만, 뜻 하는 대로 쉽게 실질적인 성공적인 구축이라고 말하기 어려운 경우가 많습니다.클라우드 기반 AI 서비스는 비용 부담과 데이터 보안 문제로 인해 중소기업에게는 부담스러운 선택지입니다. 이러한 상황에서 로컬 AI 시스템 구축은 중소 제조기업이 자체적으로 AI의 혜택을 누릴 수 있는 현실적인 대안이 됩니다.로컬 AI 시스템의 핵심 장점로컬 AI 시스템은 중소 제조기업에게 여러 가지 중요한 이점을 제공합니다.첫째.. 2025. 8. 2. [로컬AI] Ollama모델의 Q4 양자화 모델 설치 및 실행 홈 > AI활용 > 로컬AI > Q4양자화 > Ollama모델의 Q4 양자화 실행하기관련글 먼저 읽어보기 : 2025.07.22 - [AI 활용] - [로컬AI] AI모델 Q4 양자화의 의미와 원리 이해하기 로컬AI를 구축하기 위해 제일 먼저 GPU서버의 마련과 관련된 부담감을 안고 시작하게 됩니다. 우리가 사용하는 일반적인 PC를 사용해서 간단하게 구축하는 일반적인 프로젝트와는 부담감의 차이가 있을 수 밖에 없습니다. 글로벌 AI전문 기업이면서 일반인들이 쉽게 접할 수 잇는 생성형 AI인 ChatGPT, Gemini, Claude등은 GPU가 수백만장씩 사용되고 여기서 발생되는 전기료, 발열과 관련된 이슈를 기사로 접하다 보면 저걸 우리가 할 수 있나 하면서 조기에 포기하는 현상들이 있을 수 밖에 없습.. 2025. 7. 31. [로컬AI] AI모델 Q4 양자화의 의미와 원리 이해하기 로컬AI를 구축할 때 초기의 파일럿 프로젝트는 많은 비용을 사용할 수 없습니다. 소프트웨어 개발이야 어차피 투입되는 인력부분이고, 하드웨어는 투자의 개념이 많이 들어갑니다. 양자화는 조금은 더 가벼운 컴퓨터에서 좀 더 무거운 모델을 시험해보고 싶은 욕망에서 시작됩니다. 양자화는 기본적으로 저장되는 학습 데이터에 대한 압축기술입니다. 이러한 압출기술을 이용해서 VRAM등의 메모리 사용량을 줄이며, 처리속도 또한 개선하기 위한 접근입니다.양자화는 기본적으로 저장되는 학습데이터에 대한 압축기술입니다. [ 차례 ]1. 양자화(Quantization)의 기본 개념2. Q4 양자화의 구체적 의미3. 성능적 측면의 영향4. 실제 모델에서의 적용 과정5. 제조업 환경에서의 Q4 양자화 최적 활용마무리 1. .. 2025. 7. 30. CNC 제조업 특화 AI 모델 선정 가이드 제조업의 로컬AI 구축시 제조 특성에 맞는 특화된 모델이 선정하는것이 좋습니다. 중소기업의 로컬AI를 구축할 때는 제조업종에 따라 특화된 모델이나 학습 패턴이 달라져야 해당 제조 데이터에 최적화된 인공지능 서비스를 구축할 수 있습니다.MCT, CNC등의 가공설비를 이용하여 부품을 가공하는 대부분의 자동차 관련 제조업체는 잦은 공구 마모 및 수명과 관련된 불량문제를 겪게되며, 불량을 사전에 예측하지 못하면 잘못된 공구사용으로 인한 대량의 불량 제품이 생산될 문제점을 가지고 있습니다. 이러한 가공설비 기반의 중소기업은 공구 설비로 부터 수집된 가공 데이터를 활용한 로컬AI 구축을 통하여 예방점검 또는 공구 마모 예측 시스템 구축에 대한 꾸준한 현장 요구사항이 나타나고 있습니다.1. 모델 선정 기준 및 평가.. 2025. 7. 29. 로컬AI 구축의 핵심 : LLM과 임베딩 모델의 협업 AI가 어떻게 똑똑해지는 걸까요?많은 개발자들이 "AI를 만들려면 ChatGPT 같은 모델 하나만 있으면 되는 거 아닌가?"라고 생각합니다.하지만 실제로 업무에 활용할 수 있는 똑똑한 AI를 만들려면 두 개의 서로 다른 AI 모델이 팀워크를 이뤄야 합니다. 이는 마치 사람이 뇌에서 기억을 저장하는 부분(해마)과 생각하고 판단하는 부분(전두엽)이 따로 있는 것과 같습니다. AI도 마찬가지로 정보를 저장하고 찾는 역할을 하는 임베딩 모델과 그 정보를 바탕으로 똑똑한 답변을 만드는 LLM(대형 언어 모델)이 각각의 전문 역할을 담당합니다. 이 두 모델이 협력하는 이유는 각각이 서로 다른 강점을 가지고 있기 때문입니다.임베딩 모델은 마치 도서관 사서처럼 수많은 문서 중에서 질문과 관련된 정보를 빠르게 찾아내는 .. 2025. 7. 28. 제조업 특화 로컬 LLM 도구 TOP 5 제조업에 특화된 로컬 LLM모델을 선정하기 위해 선행 적용 모델들을 분석할 필요가 있습니다. 저는 아직도 중소 제조기업에 가장 적합한 로컬AI용 LLM모델이 어떤것일까? 를 계속 시험하고 있고, 아직도 정답을 모르겠습니다. 다양한 형태의 중소기업과 중소기업이 보유한 복잡하고 난해하고, 표준화 되지 않은 생산데이터를 어떻게 하면 가장 적은 비용과 시간안에 AI를 구축하고, 비 전문가인 현장에서 사용될 수 있을 정도의 로컬AI 구축용 LLM모델을 찾는것은 성공으로 가장 빠르게 접근 할 수 있는 방법입니다. 저는 Ollama 플랫폼 기반의 로컬LLM 모델을 이용한 학습과 시험을 진행하는 것을 선호합니다. 그래도 결과가 잘 나오지 않을 때는 다른 LLM도구들에 눈을 돌려 사용해보고 비교해 보기도 합니다. 그래서.. 2025. 7. 26. Claude Desktop + MCP 연결 및 활용 MCP는 다른 프로그램과의 협업 매커니즘입니다ChatGPT가 한 참이나 일반인들에게 까지 확장되어 사용하고 있을 때, 갑자기 AI 코딩에 특화된(?) Cursor 개발 환경 플랫폼 및 Claud 생성형 AI서비스를 접하게 됩니다. AI코딩에 특화되어 있다보니, 다른 어플리케이션과의 연계성도 고려할 수 밖에 없고 MCP라는 프로토콜을 활용한 개발도 지원하게 됩니다.쉽게 말해서 MCP는 나 혼자만 일 잘하는게 아니라 다른 프로그램에 일을 시키는 일을 잘하게 되는거죠.특히나 프로젝트 기획 및 디자인에 전문적인 Figma와의 연결은 IT프로젝트의 팀원간 협업에 극적인 생산성과 협업 매커니즘을 만들기 시작했습니다. 1. Claude Desktop 개요 : 브라우저 버전과의 차이점Claude Desktop은 .. 2025. 7. 24. [AI코딩.11] AI 코딩 미래 전망과 마무리 - AI 코딩의 다음 단계 AI코딩 활용을 위한 개발자 가이드안녕하세요! 드디어 "AI코딩 활용을 위한 개발자 가이드" 연재의 마지막 편에 도달했습니다.지난 10편에 걸쳐 AI 코딩 도구의 기본 사용법부터 실전 프로젝트 적용까지 다양한 내용을 다뤄왔습니다. 이번 11편에서는 AI 코딩의 미래를 전망하고, 앞으로 개발자들이 어떻게 준비해야 할지에 대해 알아보겠습니다. 또한 연재 전체를 정리하며 AI코딩과 관련된 궁금증을 해결하는 시간을 가져보겠습니다. 변화하는 기술 환경 속에서 개발자로서 어떤 방향으로 성장해야 할지, 그리고 AI와 함께 일하는 새로운 패러다임에 대해 깊이 있게 살펴보겠습니다.1. 2025년 AI 코딩 도구 전망2025년 현재, AI 코딩 도구 시장은 급속도로 발전하고 있으며, 앞으로 몇 년간 더욱 혁신적인 변화가.. 2025. 7. 22. [AI코딩.10] Augmented 코딩과 Vibe 코딩에 대한 개발자 가이드 1. 들어가며: 두 가지 코딩 패러다임의 만남개발자로서 10년 넘게 코드를 작성해오면서, 나는 AI를 활용한 코딩스타일에서 두 가지 극명하게 다른 코딩 스타일을 목격해왔습니다. 한쪽에는 "일단 돌아가게 만들고 나중에 생각하자"는 Vibe 코딩이 있고, 다른 한쪽에는 AI와 도구의 힘을 빌려 체계적이고 전략적으로 접근하는 Augmented 코딩이 있다. 현재는 바이브 코딩도 나름의 매력이 있었지만, 2025년 현재 시점에서 보면 설계형 증강 코딩이야말로 진정한 게임 체인저라고 확신합니다. 특히 복잡한 비즈니스 로직을 다뤄야 하는 현대 개발 환경에서는 더욱 그렇습니다. 오늘은 왜 모든 개발자가 augmented 코딩으로 전환해야 하는지, 그리고 어떻게 실천할 수 있는지에 대해 실제 사례와 함께 상세히 이야기.. 2025. 7. 21. 이전 1 2 3 4 5 6 7 다음
