본문 바로가기
  • AI 시대에 적응하는 현대인을 위한 지식 공간
  • AI를 위한 데이터를 과학으로 역어본다

로컬ai19

Hermes Agent를 Mac Mini에서 효율적으로 운영하기 Mac Mini 48GB + Docker + Ollama 로컬 AI 환경 구축 가이드Mac Mini M4 Pro 48GB는 2026년 현재 로컬 AI 인프라를 구성하기 위한 가장 현실적이고 강력한 소비자용 하드웨어 중 하나입니다. 애플 실리콘의 통합 메모리(Unified Memory) 아키텍처 덕분에 CPU와 GPU가 동일한 48GB 메모리 풀을 공유하기 때문에, 별도의 GPU 없이도 300억 파라미터급 대형 언어 모델을 로컬에서 구동할 수 있습니다. 여기에 Nous Research가 개발한 자기학습 AI 에이전트 Hermes Agent와 Docker 기반 격리 실행 환경을 결합하면, 클라우드 API 비용 없이 24시간 항상 켜진(always-on) AI 에이전트 인프라를 자택 또는 사무실에 구축할 수 .. 2026. 5. 1.
인공지능 제조 플랫폼 KAMP 데이터셋 활용 중소기업을 위한 제조 AI 혁신의 시작, 제조 데이터셋의 활용현대 제조업에서 데이터는 새로운 석유라고 불립니다.특히 중소 제조기업들이 디지털 전환과 스마트 팩토리 구축을 추진하는 과정에서, 제조 데이터의 수집과 활용은 기업의 경쟁력을 좌우하는 핵심 요소가 되었습니다. 하지만 대부분의 중소기업들은 데이터를 체계적으로 수집하고 분석할 수 있는 전문 인력과 인프라 부족으로 어려움을 겪고 있습니다. 인공지능 기술의 발전과 함께 제조 데이터는 단순한 정보 저장소를 넘어서 품질 향상, 공정 최적화, 예지보전 등 다양한 영역에서 실질적인 가치를 창출하는 자산이 되었습니다. 특히 머신러닝과 딥러닝 기술을 활용한 제조 AI 솔루션들은 기존에 경험과 직감에 의존했던 제조 공정을 과학적이고 정량적인 방식으로 개선할 수 있는.. 2025. 10. 27.
[제조 AI] 2-2) 로컬 AI 인프라 구축 - (실습)제조업 AI 실제 개발환경 구축 AI 개발환경 완전 구축 실습 가이드 - 개발용 하드웨어 기준 실제 설치부터 검증까지 앞서 '2-1) 로컬 AI 인프라 구축 - 하드웨어에서 개발환경 구축까지' 편에서 다룬 하드웨어 구성 이론을 바탕으로, 이제 실제 개발용 시스템에서 AI 개발환경을 구축해보겠습니다. 우리가 선택한 개발용 구성은 RTX 4090 24GB 듀얼 GPU, AMD Threadripper PRO 5975WX CPU, 128GB ECC 메모리로 구성된 시스템입니다. 이 하드웨어는 GPT-2 규모의 모델 훈련이 가능하고, 실시간 추론 서비스에서 100명 이상의 동시 사용자를 지원할 수 있는 성능을 제공합니다. 단순히 이론만 아는 것과 실제로 설치하고 설정하는 것은 완전히 다른 경험입니다. 이번 실습을 통해 여러분은 실무에서 바로 사.. 2025. 8. 18.
[제조 AI] 2-1) 로컬 AI 인프라 구축 - 하드웨어부터 개발환경까지 AI 모델 개발과 운영에서 가장 중요한 기반이 되는 것은 바로 인프라입니다. 클라우드 서비스가 편리하다고 하지만, 지속적인 AI 개발을 위해서는 자체 인프라 구축이 필수적입니다.특히 데이터 보안이 중요한 기업 환경이나 장기적인 비용 절감을 고려한다면 로컬 AI 인프라는 선택이 아닌 필수가 되었습니다. 클라우드 AI 서비스는 초기 진입 장벽은 낮지만, 지속적으로 사용할 경우 월 수백만원의 비용이 발생할 수 있으며, 데이터 전송 비용과 보안 제약도 무시할 수 없는 요소입니다.이번 글에서는 AI 워크로드의 특성을 이해하고, 하드웨어 선정부터 완전한 개발환경 구축까지의 전 과정을 단계별로 살펴보겠습니다. [ 차례 ]1. AI 워크로드 특성과 하드웨어 요구사항 분석2. 예산별, 용도별 최적 하드웨어 구성3. 운영.. 2025. 8. 15.
제조업 로컬AI에서 Gemma 모델을 추천하지 않는 이유 - 제조업 특화 관점 자연어 처리와 추론작업은 뛰어나지만, 산업 특화 지식에는 약하다.Google의 Gemma 모델은 Gemini 기술을 기반으로 한 오픈소스 언어모델로, 일반적인 자연어 처리와 추론 작업에서 뛰어난 성능을 보여주며 로컬 환경에서의 실행이 가능한 경량화된 구조를 자랑합니다.특히 코딩, 텍스트 생성, 일반 지식 기반 질의응답 등의 범용 AI 작업에서는 상당한 경쟁력을 갖추고 있어 개발자들 사이에서 주목받고 있습니다.하지만 제조업 환경에서 요구되는 전문성을 살펴보면 한계점이 드러나는데, 제조 공정의 복잡한 변수 관리, 품질 관리 프로토콜, 설비 최적화 등 산업 특화 지식에서는 아쉬운 모습을 보입니다. 제조업 데이터의 특성상 수치 데이터 분석, 시계열 예측, 이상 감지 등이 핵심인데, Gemma는 이러한 도메인별 .. 2025. 8. 14.
Hugging Face 플랫폼 완벽 가이드 - AI모델 공유의 허브 Hugging Face는 전 세계 AI 개발자들이 모델, 데이터셋, 애플리케이션을 공유하고 협업할 수 있는 오픈소스 플랫폼입니다. 현대 제조업에서 AI 기술의 도입은 선택이 아닌 필수가 되었습니다. 예방정비 시스템을 통한 설비 고장 예측, 공급망 최적화를 통한 비용 절감, 품질 관리 자동화 등 다양한 영역에서 AI가 혁신적인 변화를 만들어내고 있습니다. 이러한 변화의 중심에는 Hugging Face라는 강력한 플랫폼이 있으며, 초급 개발자도 쉽게 접근할 수 있는 도구들을 제공하고 있습니다. 이번 글에서는 Ollama 툴을 기반으로 하여 Hugging Face를 활용한 실제 제조업 환경에서 활용 가능한 AI 솔루션을 개발하는 방법을 단계별로 설명합니다.Hugging Face는 AI를 경험하고 구축하는 모든.. 2025. 8. 13.
로컬 AI 도입계획 가이드 - 5) 위험관리계획서 로컬 AI 도입 위험관리계획서 작성 가이드일반적인 사업기획자, 특히 IT관련 프로젝트를 추진하는 경우 누구나 모두 위험관리를 해야한다라고 조언하지만, 위험관리는 하나의 보조수단으로 '하면좋쿠, 안하면 보통이구'라는 인식이 많아서 도입계획서에 포함하지 않는 경우가 많습니다. 위험관리계획서를 작성하다 보면 프로젝트를 추진하면서 정말 고려해야할 위험 요소가 밖으로 드러나는 경우가 많습니다. "로컬 AI 도입계획 가이드 - 5) 위험관리계획서"는 아래의 블로그 글에 대한 구체적인 실행계획을 담고 있습니다.[제조업 로컬AI 구축.01] 제조업을 위한 로컬 AI 도입계획 [ 차례 ]1. 위험 관리 개요2. 위험 요소 식별 및 분석3. 위험 대응 전략4. 위험 모니터링 체계5. 위험 대응 조직 및 역할6. 비.. 2025. 8. 9.
로컬 AI 도입계획 가이드 - 4) ROI분석서 로컬 AI 도입 ROI 분석서 작성 가이드로컬 AI 도입을 위한 ROI분석서는 투자계획서의 일부이긴 하지만 경영진과 임원들을 설득하기 위한 핵심 문서라고 할 수 있습니다. 경영진이야말로 투자대비 효과만 명확하다면 투자하지 않을 이유가 없기때문입니다."로컬 AI 도입계획 가이드 - 4) ROI분석서"는 아래의 블로그 글에 대한 구체적인 실행계획을 담고 있습니다.[제조업 로컬AI 구축.01] 제조업을 위한 로컬 AI 도입계획 [ 차례 ]1. ROI 분석 개요2. 투자 비용 분석3. 효익 분석4. 시나리오별 ROI 분석5. 민감도 분석6. 비교 분석7. 재무적 영향 분석8. 결론 및 권고사항 로컬 AI도입을 위한 ROI분석서는 아래의 기준에 의해 작성하시면 됩니다.정확한 투자대비 효과 분석 : 현재가.. 2025. 8. 8.
로컬 AI 도입계획 가이드 - 2) 3개년 추진 로드맵 로컬 AI 도입 3개년 추진 로드맵 작성 가이드제조업을 위한 로컬 AI 도입을 위한 3개년 추진 로드맵은 "현황분석서"를 기반으로 실질적인 로컬 AI를 도입하기 위한 단계적 접근에 의한 마스터플랜을 수립하는 일입니다. 무엇보다 도입계획을 수립하는 일 중에서 가장 중요한 일이라 할 수 있습니다."로컬 AI 도입계획 가이드 - 2) 3개년 추진 로드맵"은 아래의 블로그 글에 대한 구체적인 실행계획을 담고 있습니다.[제조업 로컬AI 구축.01] 제조업을 위한 로컬 AI 도입계획 [ 차례 ]1. 로드맵 개요2. 1 차 년도 : 기반 구축 단계3. 2 차 년도 : 본격 도입 단계4. 3 차년도 : 전사 통합 단계5. 리스크 관리 계획6. 기대 효과# 작성 시 주의사항단계별 로드맵 구성에는 아래의 구성요소별 .. 2025. 8. 6.