La Fondation Raspberry Pi a publié une nouvelle carte d'extension d'IA, AI HAT+ 2, qui offre la possibilité d'exécuter des modèles d'IA génératifs localement sur Raspberry Pi 5, en se concentrant sur l'exécution de tâches telles que le texte et le raisonnement multimodal sur les appareils de pointe. Cette carte d'extension à 130 $ est entièrement mise à niveau sur la base de la génération précédente. Il dispose de 8 Go de mémoire intégrée et est équipé de la puce Hailo 10H, qui est censée fournir 40 TOPS de performances informatiques en matière d'IA.

En se connectant au Raspberry Pi 5, l'AI HAT+ 2 « décharge » la majeure partie de la charge d'inférence liée à l'IA du processeur Arm de la carte mère et est complétée indépendamment par la carte d'extension, permettant à l'hôte d'être davantage utilisé pour d'autres tâches informatiques. Différente de la précédente AI HAT+ qui se concentrait davantage sur le traitement d'image, la nouvelle génération de produits peut exécuter directement localement des modèles d'IA génératifs plus petits, tels que Llama 3.2, DeepSeek-R1-Distill et plusieurs modèles de la série Qwen grâce à l'ajout de mémoire intégrée, et prend en charge la formation et le réglage fin des modèles côté appareil.

Les cas de démonstration présentés par Raspberry Pi incluent : l'utilisation du modèle de pilote AI ​​HAT+ 2 pour générer des descriptions textuelles des images de la caméra et répondre à des questions telles que la présence de personnes dans les images, reflétant son potentiel d'application dans la compréhension des scènes. Une autre démonstration montre l'utilisation du modèle Qwen2 pour réaliser la traduction de texte du français vers l'anglais, mettant en évidence ses capacités de traitement multilingue local.

Cependant, à en juger par les tests effectués par des tiers, le positionnement de cette carte d'extension en termes de performances et de rentabilité n'est pas sans controverse. Les résultats de mesure réels du blogueur technologique Jeff Geerling montrent que sur une variété de modèles pris en charge, les performances globales d'un Raspberry Pi 5 indépendant équipé de 8 Go de mémoire sont souvent meilleures que celles d'une combinaison connectée à AI HAT+ 2. Il attribue cette différence aux limitations de consommation d'énergie : le corps du Pi 5 peut fonctionner à une puissance maximale d'environ 10 watts, tandis que l'AI ​​HAT+ 2 est limité à une plage de consommation d'énergie d'environ 3 watts.

En termes de sélection réelle, Geerling a souligné que les 8 Go de mémoire supplémentaires fournis par AI HAT+ 2 ne suffisent pas pour surpasser l'expérience globale de l'achat direct de la version haut de gamme du Pi 5 avec 16 Go de mémoire. Ce dernier peut présenter plus d'avantages en termes de flexibilité et de vitesse d'exécution du modèle, donc AI HAT+ 2 est plus adapté en tant que solution dédiée à des scénarios spécifiques plutôt qu'en tant que chemin de mise à niveau universel pour tous les utilisateurs.