ラベル DeepLearning の投稿を表示しています。 すべての投稿を表示
ラベル DeepLearning の投稿を表示しています。 すべての投稿を表示

2022年12月13日火曜日

Windows(Docker)+Bitfusion

Bitfusionの話しは聞かなくなってきたけど、自宅で使うにはBitfusionってすごい便利なんで私はまだまだBitfusion使っています。


今回はWindow11のDocker Desktopでコンテナ動かして、Bitfusionを使ってみました。

vCenterで管理されているホストではないのでvCenterでTokenを作る必要がありますが、動かすことができました。


とりあえず認識だけですが、bitfusion smiも、Bitfusion list_gpusも問題なく動いています。 しかも自宅のWifi環境経由で。



もう少しいじってみてからパフォーマンス系のツールも動かしてみようかと思います。

2021年10月21日木曜日

VMware Project Radium

 VMworldでセッションがあったのは気づかなったんですが、VMwareのブログで見つけました Project Radium!!!!!

 

Project Radium 

 

 簡単にいうと、これまでBitfusionで利用できていたのはNVIDIAのGPUだけでしたが、 AMDのGPU, GraphcoreのIPU、IntelのHabana、FPGA(?)などなどのNVIDIA GPU以外のアクセラレータをプール化してネットワーク経由で利用できるようになるそうです。

まだProject段階なようですが、早く製品化されることを願っています。



2021年3月24日水曜日

Bitfusion 3.0 Release

2020年12月3日にBitfusion 2.5.1がリリースされてからおよそ3か月間アップデートがなかったのですが、 3月1日にBitfusionの3.0がリリースされました。

2.0が2020年7月にリリースされてから、12月3日の2.5.1まではメンテナンス含めて毎月のようにアップデートされていたのですが、ちょっと空いてからの3.0のリリースとなりました。


3.0では大きな機能追加はなさそうですが、リリースノート には以下の新機能が追加されたようです。

  • 後続の vSphere Bitfusion サーバでの新しいインストール環境
  • 複数のネットワークにおける vSphere Bitfusion サーバのサポートの向上
  • vSphere Bitfusion クライアントでの nvidia-smi アプリケーションの透過的インストール
  • NVIDIA ドライバ 460
  • NVIDIA CUDA 11.1
  • TensorFlow 2.4 のサポート
  • PyTorch 1.6 のサポート
  • TensorRT 7.1.3 のサポート
  • PaddlePaddle 2.0 のサポート

1つ目の "後続の vSphere Bitfusion サーバでの新しいインストール環境"はBitfusionサーバのインストール要件が若干変わっていることのようです。
2.5.1まではBitufusionサーバのメモリ要件は次のように記載されています。
  • vSphere Bitfusion サーバの最小メモリ要件は、サーバにインストールされている GPU メモリの合計の 150% 以上である必要があります。

3.0からは次のように変更されています。
  • vSphere Bitfusion サーバの最小メモリ要件は、32 GB と、サーバにインストールされている GPU メモリの合計の 150% のいずれか大きい方です。

検証環境などであればT4を1枚だけということもあるかと思うので32GBでいいのでしょうが、本番環境は複数のGPUを搭載することがほとんどだと思うので、合計GPUメモリの150%を指定することになると思います。


3つ目の "vSphere Bitfusion クライアントでの nvidia-smi アプリケーションの透過的インストール"は、2.5.1まではnvidia-smiを直接実行することはできず、実行するには次のようにbitfusionコマンドを利用する必要がありました。

    $ bitfusion run -n 1 -- nvidia-smi

まだ実機では確認していませんが、透過的にということなのでbitfusion run コマンドが不要になったのだと思われます。
以前は上記のbitfusion run コマンドはGPUを明示的にアサインしてGPU情報を取得していたので、別のワークロードでGPUをアサイン&利用中の場合は、nvidia-smiコマンドがGPUが解放されるのを待ってしまっていたので実質利用できなかったので、改善されて利便性が向上しそうです。


それ以外だとTensorflowやCudaなど新しいバージョンのサポートと、新しくPaddlePaddleが追加されているようです。


もう一つリリースノートで注意すべきはこちらです。

vSphere Bitfusion サーバで使用されている GPU のメモリの合計が 128 GB より大きい場合、GPU パススルーを使用できない

デフォルトでは、GPU パススルーの高度な仮想マシン プロパティ pciPassthru.64bitMMIOSizeGB は 256 に設定されています。1 台の vSphere Bitfusion サーバ上で、128 GB よりも大きいメモリを搭載した GPU を使用している場合、この構成によってパススルーの障害が発生する可能性があります。

 

最近ではGPUのメモリサイズも大きくなり、サーバへのGPU搭載数も増えているので引っかかる場合がありそうなので注意が必要です。
回避策はリリースノートにも記載されているので確認してみてください。













2020年11月11日水曜日

Bitfusion2.5 Release!

 11月5日にBitfusion2.5がリリースされました!

Bitfusion2.5.0 Release Note


2.5での新機能は次の8項目です。

vSphere Bitfusion 2.5.0 の新機能

    • ベアメタル クライアントのサポート
    • 健全性チェックの拡張と操作性の向上
    • バージョン 2.0.0 以降の vSphere Bitfusion クライアントのサポート
    • NVIDIA ドライバ 450
    • NVIDIA CUDA 11
    • TensorFlow 2.3 のサポート
    • PyTorch 1.5 のサポート
    • TensorRT 7.1.3 のサポート

    この中で注目はベアメタルクライアントのサポートです!
    これまでのBitfusionクライアントはvSphere上の仮想マシンだけでしたが、ベアメタルのサーバもサポートされるようになりました。これは、データセンター内の物理LinuxマシンからもGPUをネットワーク経由で利用できるということなので、もっとGPUが活用される環境が整ってきました。

    その他にもCUDAの11やTensorflowの2.3もサポートなど、開発側でも動作確認を進めているんでしょうね。 今後のアップデートが楽しみです!

    2019年8月2日金曜日

    VMware + Bitfusion

    VMware社から立て続けに買収ニュースが発表されています。

    5/15 Bitnami

    6/13 Avi Networks

    7/18 Bitfusion

    7/25 Uhana

    個人的にはGPUやFPGAなどのアクセラレータをプール化するBitfusionの買収が
    今後面白くなりそうで注目しています。

     BitfusionはVMworld 2018でもセッションを持っていて、VMwareとの親和性も高いようです。  ※セッション動画はこちら

     VMwareもAI/ML関連の対応進めていますね。