10年前のRaspberry Pi 3で生成AIを動かす！小型LLMの実装・高速化・会話を検証

 ANGEWORKのnoteに、Raspberry Pi 3を使った生成AI・小型LLMの技術検証記事を2本公開しました。

使用したのは、約10年前の**Raspberry Pi 3 Model B（RAM 1GB）**です。

1本目では、ESP32向けの小型AIをRaspberry Pi 3へ移植し、推論処理を最適化。生成速度を31.22 tok/sから195.81 tok/sへ約6.3倍高速化しました。

■ ESP32でLLMが動くならラズパイでも？n年前の旧型でもこいつ、動くぞ？
https://note.com/angework/n/nfc3d712f9709

2本目ではさらに、SmolLM2、Qwen2.5、LFM2など複数の小型LLMを実機で比較。限られたCPU・メモリ環境でも、日本語で会話できるところまで検証しています。

■ ラズパイ３はレベルアップした！会話を覚えた！賢さが１上がった！
https://note.com/angework/n/na4c019ec9c62

高性能なGPUや最新ハードを用意するだけでなく、限られた環境に合わせたモデル選定・実装・処理最適化によってAIを動かす技術検証です。

既存機器へのAI組み込み、IoT、ローカルAIなどをご検討の方も、ぜひご覧ください。