Bitfusion4.5.4

4月にBitfusionのEoAが発表されてから新規リリースもないと思っていたのですが、5月に4.5.4がリリースされていたみたいです。

ただ、4.5.4はCasandraで発生する不具合回避のためのアップデートだけでやはり機能追加はなしですね。

1つ前の4.5.3までは多くの機能追加とハードウェアサポートが追加されていますね。全然追っていませんでした、、、

リリースノートに記載されているアップデートは次のとおりです。

What is New in 4.5.3

• vSphere Bitfusion is supported by VMware vSphere 8.0.

• Expiration date of vSphere Bitfusion clients can be extended by using the vSphere Bitfusion user interface.

• Added support for Red Hat Enterprise Linux 9.0 and later minor versions.

• Added support for Rocky Linux 8.

• Added support for Rocky Linux 9.

• Added support for NVIDIA Driver 525.85.12.

• Added support for NVIDIA CUDA 11.5 and 11.5.2.

• Added framework support for Pytorch 1.9 and 1.10

• Added hardware support for NVIDIA A40 48GB PCIE.

• Added hardware support for NVIDIA L40 48GB PCIE.

• Added hardware support for NVIDIA A30 24GB PCIE.

• Added hardware support for NVIDIA A10 24GB PCIE.

• Added hardware support for NVIDIA A2 16GB PCIE.

一応、vSphere8.0で動くのは確認していたのですが、サポートされているようなので、とりあえずはまだまだ使って行こうと思います。とても便利なので。

VMware Private AI foundation ③

Tech zoneとかでPrivate AIの情報が出てきたので見ていると、ソフトウェアのサポートと組み合わせだけじゃなくて、各コンポーネントがちゃんと連携するみたいで、VMwareユーザーがAI始めるにはとても使いやすいだろうと感じてきました。

kubeflowやRayは独立してて個別に利用するだけかと思ったらちゃんと連携してて、kubeflowのダッシュボードにRayのダッシュボードが組み込まれていているようです。

また、kubeflowのダッシュボードでGPUのスケーリング設定もできたりようなので、Rayとも連携しているということなのだと思います。

RayもVCFと連携していて、RayのワークロードがDRSやHAでワークロードのHAとリソースの最適な割当がされるようです。

冒頭で書いたように、ただソフトウェアを組み合わせただけとだと思っていましたが、使い勝手がちゃんと考えられていて流石だなとおもいました。

また使いやすさだけではなくてVector DBでデータの扱い、vSAN Fast Pathでシビアなパフォーマンスを求める使い方も考慮されていて、どのレベルのAIワークロードもカバーできるように組み上げられている印象です。

類似した生成AIインフラソリューションはいくつかの会社から発表されていますが、各社NVIDIAのAI Enterpriseがほぼ利用されていてよく似ていて同じようなものに見えますが、よくみると各々特徴があって使いやすさや、管理性など違いが見えてきます。

今後、もっと情報が公開されていくと思うのでチェックしていきたいと思います。