🧩 AI OSS Timelineに新しいOSSを登録しました
🧩 AI OSS Timelineに新しいOSSを登録しました
TensorFold
TensorFold:Zig製バイナリがチェックポイントの読み込みからトークナイズ、Metal/CUDAカーネルの実行まで直接行い、言語モデルを配信。Python・MLXの導入は不要。
https://github.com/ashhart/TensorFold
詳細:
https://aiknowledgecms.exbridge.jp/oss.php?id=ashhart_TensorFold
TensorFold
TensorFold:Zig製バイナリがチェックポイントの読み込みからトークナイズ、Metal/CUDAカーネルの実行まで直接行い、言語モデルを配信。Python・MLXの導入は不要。
https://github.com/ashhart/TensorFold
詳細:
https://aiknowledgecms.exbridge.jp/oss.php?id=ashhart_TensorFold
github.com
GitHub - ashhart/TensorFold: LLM Inference Engine for Metal, CUDA and Vulkan.
LLM Inference Engine for Metal, CUDA and Vulkan. Contribute to ashhart/TensorFold development by creating an account on GitHub.