note に新しい記事を公開しました。この記事の公開操作じたい、自宅のGPUで動かしたAIに判断させています。
note に新しい記事を公開しました。この記事の公開操作じたい、自宅のGPUで動かしたAIに判断させています。
Jevは速いが外に出せない。だから自宅の3090で同じ設計を動かした
https://note.com/tokoname/n/n26b3f82ded46
話題の Jev の速さの正体は、秘密のモデルではなく「生成をやめて選択肢の確率を1回読む」という設計でした。設計なら真似できます。判断1回73ミリ秒・外部通信ゼロで動いています。
Jevは速いが外に出せない。だから自宅の3090で同じ設計を動かした
https://note.com/tokoname/n/n26b3f82ded46
話題の Jev の速さの正体は、秘密のモデルではなく「生成をやめて選択肢の確率を1回読む」という設計でした。設計なら真似できます。判断1回73ミリ秒・外部通信ゼロで動いています。
note.com
Jevは速いが外に出せない。だから自宅の3090で同じ設計を動かした（この記事の公開操作もそれにやらせた）｜BittensorMan
名古屋でAIシステム開発をしている、株式会社エクスブリッジの小嶋です。XではBittensorManの名前で活動しています。 この記事は、記事を書いたあとの「公開」の操作を、自宅サーバーで動かしたAIに判断させて投稿しました。どのボタンを押すかを決めたのは、手元のGPUに載せた40億パラメータのモデルです。判断1回あたり73ミリ秒でした。 なぜそんなことをしたのか、順番に書きます。 ■ Xで「Jev」が話題になっていた 9月15