MetaのPyTorchコアエンジニアがCUDAカーネル作成を13分でスポーツに変えた——1500ドルのGPUプログラミングブートキャンプより優れている。カーネルをプロファイル→ボトルネ...
MetaのPyTorchコアエンジニアがCUDAカーネル作成を13分でスポーツに変えた——1500ドルのGPUプログラミングブートキャンプより優れている。カーネルをプロファイル→ボトルネックを特定→書き直し→ベンチマーク→勝者コードをPyTorchにマージ。このループがオープンコミュニティの現在の働き方だ。