hakkadaikon on Nostr: ...

ローカルLLMはMSとかAmazonのLLMに比べたらオモチャかもしれないけど、そもそも情報を外部に出せない会社も沢山あるので
ビジネスチャンスはむしろローカルLLMの方があるのではと思ってはいる

copilot pcみたいなのが流行りそうな気もする
あれは推論とか得意なチップが載ってて、ローカルLLMが動いてるはず
あれのサーバー版とか出来たら
各社でセルフホスティングしてAIぶん回してそう