5MBならちょっとしたライブラリ感覚で入れられるな。ローカルで動くの強い
5MBという極小サイズに蒸留された埋め込みモデルをWebサイトに載せ、ユーザーのCPU(ローカル)でセマンティック検索を爆速実行できるパッケージ。サーバー代を気にせずAI機能を静的サイトに組めるのが熱い。
WebLLMってやつとは違うの?
1.58bitモデルとはいえ7MBで何ができるのやら
もうちょっと書き方何とかなんないのか。新手のウイルスかと思ったよ。(実際小型の組み込みAIを悪用したウイルスとか今後出てきそうだし)
アホアホお問い合わせチャットがこれで改善されるとは到底思えない。バックドアの方が悪い意味で現実的?
WEBページにai埋め込み
こういうの使っておもしろそうなサービスできそうだなと思う反面、神奈川県警あたりがある日突然来そうで怖いなという気もしてしまう。
わずか5MBのAIモデルをウェブサイトに組み込んでユーザーにローカル操作させられる「ternlight」が登場、ウェブサイトにAIを活用した検索機能などを追加可能
5MBならちょっとしたライブラリ感覚で入れられるな。ローカルで動くの強い
5MBという極小サイズに蒸留された埋め込みモデルをWebサイトに載せ、ユーザーのCPU(ローカル)でセマンティック検索を爆速実行できるパッケージ。サーバー代を気にせずAI機能を静的サイトに組めるのが熱い。
WebLLMってやつとは違うの?
1.58bitモデルとはいえ7MBで何ができるのやら
もうちょっと書き方何とかなんないのか。新手のウイルスかと思ったよ。(実際小型の組み込みAIを悪用したウイルスとか今後出てきそうだし)
アホアホお問い合わせチャットがこれで改善されるとは到底思えない。バックドアの方が悪い意味で現実的?
WEBページにai埋め込み
こういうの使っておもしろそうなサービスできそうだなと思う反面、神奈川県警あたりがある日突然来そうで怖いなという気もしてしまう。