@flock_ioのCEO、@0x7SUN氏によると、推論によって家庭やその他の小規模な場所でもAIコンピューティングを行えるようになる可能性がある。YZi LabsがXに投稿した。

同氏は、大規模な学習には依然として、1カ所に集約された相互接続性の高いGPUが必要だが、推論は実行場所への依存度が低いと述べた。例として@せgmcbhutanとその水力発電による電力供給を挙げ、電力が利用できるときに推論を実行し、電力が不足する時期にはコンピューティングの稼働時間を減らせると説明した。

「稼働できる時期と、電力が不足する時期があります。でも推論なら、実際のところそれでも問題ありません」と同氏は語った。また、家庭を含め、これまでAIデータセンターには適さないと見なされていた場所も活用できるようになる可能性があると付け加えた。課題はもはや、次の大規模データセンターをどこに建設するかだけではなく、AIコンピューティングをどれほど小規模かつ分散型にできるかだという。