ANGEWORKのnoteに、Raspberry Pi 3を使った生成AI・小型LLMの技術検証記事を2本公開しました。
使用したのは、約10年前の**Raspberry Pi 3 Model B(RAM 1GB)**です。
1本目では、ESP32向けの小型AIをRaspberry Pi 3へ移植し、推論処理を最適化。生成速度を31.22 tok/sから195.81 tok/sへ約6.3倍高速化しました。
■ ESP32でLLMが動くならラズパイでも?n年前の旧型でもこいつ、動くぞ?
https://note.com/angework/n/nfc3d712f9709
2本目ではさらに、SmolLM2、Qwen2.5、LFM2など複数の小型LLMを実機で比較。限られたCPU・メモリ環境でも、日本語で会話できるところまで検証しています。
■ ラズパイ3はレベルアップした!会話を覚えた!賢さが1上がった!
https://note.com/angework/n/na4c019ec9c62
高性能なGPUや最新ハードを用意するだけでなく、限られた環境に合わせたモデル選定・実装・処理最適化によってAIを動かす技術検証です。







