라즈베리파이5 [라즈베리파이] 4대 클러스터로 Qwen3-30B 구동하기 라즈베리 파이 클러스터로 Distributed Llama 완전 가이드 - 엣지 AI의 새로운 가능성이전 글에서는 ByteShape의 ShapeLearn을 활용하여 단일 라즈베리 파이 5 (16GB)에서 고급 양자화 기술을 통해 Qwen3-30B를 구동하는 방법을 살펴보았습니다. 이번 글에서는 완전히 다른 접근 방식인 분산 클러스터 방식을 소개해 드립니다. 4대의 라즈베리 파이 5를 네트워크로 연결하여 하나의 강력한 AI 추론 시스템을 구축하는 방법을 상세히 알아보겠습니다. 흥미롭게도 이 두 가지 접근 방식은 동일한 Qwen3-30B 모델을 실행하면서도 전혀 다른 철학과 기술 스택을 사용합니다. 단일 노드 방식은 하드웨어 효율성을 극대화하는 반면, 분산 클러스터 방식은 여러 장치의 연산 능력을 결합하여.. 2026. 2. 2. [라즈베리파이] 30B 파라미터 LLM 실시간 구동 라즈베리 파이에서 300억 파라미터 LLM 실시간 구동 - 엣지 AI의 새로운 지평"6만원짜리 싱글보드 컴퓨터에서 300억 파라미터 AI 모델이 실시간으로 대화한다" 2025년을 지나 2026년, AI 기술의 민주화가 새로운 국면에 접어들었습니다. ByteShape 팀이 발표한 ShapeLearn 기술을 통해 Qwen3-30B-A3B 모델이 라즈베리 파이 5(16GB)에서 초당 8.03개의 토큰을 생성하며 실시간 대화가 가능해졌습니다. 이는 단순한 기술적 성취를 넘어, 클라우드 의존성에서 벗어난 진정한 엣지 AI 시대의 도래를 알리는 신호탄입니다. 본 글에서는 이 기술의 원리부터 실제 구축 방법, 그리고 활용 가능성까지 상세히 살펴보겠습니다.목 차1. 개요 및 배경2. Qwen3-30B-A3B 모델 아.. 2026. 2. 1. [라즈베리파이] Bookworm에서 Chrome 한글 입력 문제 해결하기 한글입력기 IBus에서 Fcitx5로 전환 완벽 가이드라즈베리파이를 한글 환경으로 설정하는 과정에서 많은 사용자들이 예상치 못한 난관에 부딪히게 됩니다.특히 최신 라즈베리파이 OS인 Bookworm 버전에서는 Wayland 디스플레이 서버가 기본으로 채택되면서, 기존에 널리 사용되던 IBus 입력기가 Chrome 브라우저에서 정상적으로 작동하지 않는 현상이 빈번하게 발생합니다. 본 가이드에서는 IBus를 완전히 제거하고 Fcitx5 입력기로 교체하여 Chrome을 포함한 모든 애플리케이션에서 한글 입력이 원활하게 작동하도록 설정하는 방법을 단계별로 상세하게 안내합니다. 이 글을 따라하시면 라즈베리파이에서 한글 입력 문제로 고생하던 시간을 획기적으로 줄일 수 있습니다.목 차1. 문제 상황 이해하기 | .. 2026. 2. 1. [라즈베리파이] 4K모니터에서 CLI폰트 키우기 Raspberry Pi OS Bookworm : 4K 모니터에서 CLI 폰트가 작게 나오는 문제 해결 완전 가이드라즈베리 파이(Raspberry Pi)에 4K 모니터를 연결하면 화려한 고해상도 화면을 얻는 대신, CLI(Command Line Interface, 명령줄 인터페이스) 환경에서의 폰트가 눈에 띄게 작아져서 작업이 불편해지는 경우가 많습니다. 특히 Bookworm(라즈베리 파이 OS의 최신 주요 버전) 이상에서는 그래픽 드라이버 체계가 Wayland로 전환되면서, 과거에 raspi-config나 config.txt를 통해 해상도를 고정하던 방식이 더 이상 동일하게 작동하지 않습니다. 이 글에서는 이러한 문제의 근본 원인을 먼저 설명하고, 실제로 적용할 수 있는 세 가지 방법을 단계별로 안내하겠.. 2026. 2. 1. [제조 AI] 7-1) 임베디드 AI 모델의 이해와 최적화 중소 제조기업을 위한 엣지 AI 이해하기현대 제조업에서는 실시간 품질 검사, 예측 유지보수, 자동화 시스템 등 다양한 영역에서 AI 기술의 도입이 가속화되고 있습니다. 특히 중소 제조기업에서는 클라우드 의존성을 줄이고 데이터 보안을 강화하며 실시간 처리 성능을 확보하기 위해 임베디드 AI 시스템에 대한 관심이 높아지고 있습니다. 임베디드 AI는 제한된 하드웨어 자원 내에서 AI 모델을 효율적으로 실행할 수 있는 기술로, 제조 현장의 다양한 요구사항을 충족시킬 수 있는 핵심 기술입니다. 본 편에서는 임베디드 AI의 핵심 개념부터 실제 구현까지의 전 과정을 중소기업 담당자와 초보 개발자도 쉽게 이해할 수 있도록 상세히 다룰 예정입니다.오가닉AI, 온디바이스AI, 피지컬AI 및 임베디드AI 처럼 대형언어모델이.. 2025. 9. 17. 이전 1 다음
