Hacker News 의견

• Rust TinyML 컴파일러 개발

  • 마스터 논문 프로젝트로 Rust 기반 TinyML 컴파일러를 개발함.
  • Rust 프로시저 매크로를 사용하여 컴파일 시간에 모델을 평가하고, 주어진 모델에 대한 추론을 수행하는 predict() 함수를 생성함.
  • TensorFlow Lite for Microcontrollers 및 기타 엔진보다 훨씬 더 작은 바이너리 크기를 달성함.
  • 8비트 ATmega328 (Arduino Uno)에서 음성 명령 인식기(TinyConv)를 실행하는 데 성공함.

• TinyML 분야의 매력

  • TinyML은 매우 작은 하드웨어에서도 많은 것을 할 수 있는 멋진 분야임.
  • 예를 들어, esp32-s3를 사용하여 실시간 컴퓨터 비전 시스템을 구축할 수 있음(가격은 약 2달러).
  • AutoML과 같은 솔루션을 통해 TinyML 분야에 쉽게 접근할 수 있음.
  • 하드웨어 회사들이 소비 전력을 최소화하기 위해 NPU를 탑재한 MCU를 제공하기 시작함.
  • TinyML은 앞으로 더 많은 주목을 받을 가능성이 높음.

• LLM을 이용한 인프라 타겟 바이러스

  • LLM(Large Language Models)을 사용하여 인프라를 대상으로 하는 바이러스를 상상함.
  • 소형 장치를 전력망에 숨겨 네트워크 트래픽을 수집하고 시스템을 파괴하려고 시도할 수 있음.
  • 이러한 장치는 네트워크 장비에 숨겨져 외부 트래픽을 필요로 하지 않으므로 탐지하기 어려움.

• Edge Impulse의 TinyML / Edge ML 설명

  • Edge Impulse는 ML 모델을 구축하고 에지 디바이스에 배포할 수 있는 플랫폼을 구축함.
  • 사용자는 계정을 만들고 키워드 스팟팅 모델을 구축한 후 WASM에서 직접 실행할 수 있음.
  • 임베디드 가속기 ASICs/NPUs의 등장이 Edge ML의 채택을 주도하고 있음.

• Hacker Box의 ESP32 및 Tensor Flow Lite와 Edge Impulse 사용 예

  • 최근 Hacker Box에서 ESP32와 Tensor Flow Lite, Edge Impulse를 사용한 자세한 예제를 제공함.

• TinyML의 현재와 미래

  • TinyML은 저전력 임베디드 디바이스에서 머신 러닝을 실행하는 것을 의미함.
  • 모든 휴대폰에는 "Hey Google" 또는 "Hey Siri"와 같은 키워드를 감지하는 저전력 DSP 칩이 탑재되어 있음.
  • TinyML은 에지 AI의 하위 집합으로, 네트워크 가장자리에 위치한 모든 유형의 장치를 포함함.
  • 이 분야는 매우 흥미롭고, 다양한 문제를 해결하고, 거의 모든 공간에 적용될 수 있는 기술임.

• TinyML에 대한 다양한 의견

  • TinyML 분야는 제약이 있는 솔루션을 만드는 것이 중요한 영향을 미칠 것이라는 의견이 있음.
  • TinyML은 IoT와 유사하게, 미래의 중요한 기술로 간주되지만, 실제로는 느리게 발전하고 있음.
  • TinyML 분야의 추가 콘텐츠를 찾는 이들을 위해 아시아 2023 컨퍼런스의 비디오들이 제공됨.