Simon Willison、LLMツールv0.37をリリース
Simon Willison が OSS の LLM CLI ツールおよび Python ライブラリ v0.37 をリリース。gpt-6.1 モデルのサポートと OpenAI 互換エンドポイント設定コマンドを追加。デフォルトモデルをコスト削減とエンベッド対応向上のため gpt-6-luna に変更した。
1 社の報道をもとに AI が要約
出典
- Simon Willison元記事を読む ↗
最新
- オープンソース
Buoyant がオープンソース推論制御プレーン「Kinference」をリリース
Buoyant が Apache 2.0 ライセンスのオープンソース推論制御プレーン「Kinference」をリリースした。Kubernetes と vLLM 向けで、宣言型ルーティング、KVキャッシュ対応のロードバランシング、および中位 TTFT の 95% 削減を特徴とする。
- オープンソース
RicursiveがオープンモデルRipple-65Bを公開
Ricursive Intelligenceは、650億パラメータのオープンウェイトモデルRipple-65B Previewを発表した。Apache 2.0ライセンスのもと、TerminalBench 2.1コーディングベンチマークで米国オープンソースモデルとしてトップスコアを記録したと報告されている。
- オープンソース
Zyphra、AMD MI355X向けZYFAをリリース
Zyphra が AMD MI355X 向けオープンソースの FP8/BF16 プリーフィル注意カーネル「ZYFA」をリリースした。FP8 カーネルは AMD の AITER より 1.16～1.76 倍速く、誤差も低い。
すべてのニュース → · 著作権は各作者に帰属します