Q: 高速コンピューティングインスタンス (Accelerated Computing インスタンス) とは何ですか?

Accelerated Computing インスタンスファミリーは、ハードウェアアクセラレーター (コプロセッサ) を使用して、浮動小數點計算やグラフィック処理などの機能を、CPU で実行中のソフトウェアよりもより効率的に実行するインスタンスファミリーです。Amazon EC2 は、3 つのタイプの Accelerated Computing インスタンスを提供します。汎用コンピューティング向けの GPU Compute インスタンス、グラフィック集中型アプリケーション向けの GPU グラフィックインスタンス、高度な科學関連ワークロード向けの FPGA プログラム可能ハードウェアコンピューティングインスタンスです。

Q.GPU Graphics インスタンスや GPU Compute インスタンスを使用するとよいのはどのような場合ですか?

GPU インスタンスは、數千のスレッドを使用するワークロードなど、大量の並列処理を行うアプリケーションに最適です。グラフィック処理は、大量の計算が必要な処理の例です。グラフィック処理では、個々のタスクはそれほど大きくありませんが、実行される操作のセットはパイプラインを形成し、個別の操作のレイテンシーより、このパイプラインのスループットの方が重要です。このレベルの並列処理を利用するアプリケーションを構築するには、さまざまなグラフィック API (DirectX、OpenGL) または GPU コンピューティングプログラミングモデル (CUDA、OpenCL) でのプログラム方法を理解することによる、GPU デバイス固有の知識が必要です。

Q: P3 インスタンスと G3 インスタンスの違いは何ですか?

P3 インスタンスは次世代の EC2 汎用 GPU コンピューティングインスタンスで、最大 8 つの最新世代 NVIDIA Tesla V100 GPU が搭載されています。これらの新しいインスタンスによってパフォーマンスとスケーラビリティが大幅に向上し、多數の新機能が追加されています。それには、機械學習 (ML) や深層學習 (DL) のパフォーマンス最適化のための新しい Streaming Multiprocessor (SM) アーキテクチャ、第二世代 NVIDIA NVLink 高速 GPU インターコネクト、効率向上に高度に調整された HBM2 メモリが含まれます。

G3 インスタンスは NVIDIA Tesla M60 GPU を使用して、DirectX または OpenGL を使用するグラフィックアプリケーション向けのハイパフォーマンスプラットフォームを提供します。NVIDIA Tesla M60 GPU では NVIDIA GRID Virtual Workstation 機能、および H.265 (HEVC) ハードウェアエンコーディングがサポートされています。G3 インスタンス內の M60 GPU では、それぞれ最大解像度 4096x2160 のモニタ 4 臺がサポートされ、同時接続ユーザー 1 人が NVIDIA GRID Virtual Workstation を使用できるライセンスが付與されています。G3 インスタンスを利用するアプリケーションとして、3D ビジュアライゼーション、グラフィック集約型リモートワークステーション、3D レンダリング、アプリケーションストリーミング、動畫エンコーディング、およびその他のサーバー側グラフィックワークロードなどが考えられます。

Q: NVIDIA Volta GV100 GPU にはどのようなメリットがありますか?

新しい NVIDIA Tesla V100 アクセラレーターには、新しい強力な Volta GV100 GPU が統合されています。GV100 は先行モデル Pascal GP100 GPU の利點を基に構築されているだけでなく、パフォーマンスとスケーラビリティが大幅に向上しており、プログラマビリティを高める多數の新機能が追加されています。これらの利點により、HPC、データセンター、スーパーコンピュータ、深層學習のシステムやアプリケーションが強化されます。

Q: P3 インスタンスのメリットを受けるのは誰ですか?

高度なコンピュータパフォーマンスを備えた P3 インスタンスのメリットを受けるのは、人工知能 (AI)、機械學習 (ML)、深層學習 (DL)、ハイパフォーマンスコンピューティング (HPC) のアプリケーションを使用するユーザーです。これらのユーザーには、データサイエンティスト、データアーキテクト、データアナリスト、科學研究者、ML エンジニア、IT マネージャー、ソフトウェア開発者が含まれます。主な業界は、運輸、エネルギー/石油およびガス、金融サービス (銀行、生保)、醫療、製薬、科學、IT、小売、製造、ハイテク、行政機関、教育機関などです。

Q: P3 インスタンスの主なユースケースはどのようなものですか?

P3 インスタンスでは、GPU を使用して多數の深層學習のシステムやアプリケーションを高速化します。それには、自動運転車プラットフォーム、音聲、畫像、テキスト認識システム、インテリジェント動畫分析、分子シミュレーション、創薬、病気診斷、天気予報、ビッグデータ分析、財務モデリング、ロボット工學、ファクトリーオートメーション、リアルタイム言語翻訳、オンライン検索最適化、パーソナライズされたユーザー推薦などが含まれますが、これらはほんの一部にすぎません。

Q: ユーザーが AI/ML や HPC で GPU 搭載の Amazon P3 インスタンスを使用することが推奨されるのはなぜですか?

GPU ベースのコンピューティングインスタンスは優れたスループットとパフォーマンスを提供します。それはこのインスタンスが GPU ごとに何千もの特殊コアを使用して超並列処理を行うように設計されているためです。それに対して、CPU では少數のコアで順次処理を行います。さらに、開発者によってすでに、量子化學、分子力學、気象學などの、GPU に最適化された科學関連 HPC アプリケーションが何百も構築されています。よく使用される大半の HPC アプリケーションの 70% 以上で GPU の組み込みサポートが提供されていることが、調査により明らかです。

Q: P3 インスタンスでは今後、EC2 Classic ネットワーキングと Amazon VPC がサポートされますか?

P3 インスタンスでは今後 VPC のみがサポートされる予定です。

Q.G3 インスタンスと P2 インスタンスの違いは何ですか?

G3 インスタンスは NVIDIA Tesla M60 GPU を使用して、DirectX または OpenGL を使用するグラフィックアプリケーション向けのハイパフォーマンスプラットフォームを提供します。NVIDIA Tesla M60 GPU では NVIDIA GRID Virtual Workstation 機能、および H.265 (HEVC) ハードウェアエンコーディングがサポートされています。G3 インスタンス內の M60 GPU では、それぞれ最大解像度 4096x2160 のモニタ 4 臺がサポートされ、同時接続ユーザー 1 人が NVIDIA GRID Virtual Workstation を使用できるライセンスが付與されています。G3 インスタンスを利用するアプリケーションとして、3D ビジュアライゼーション、グラフィック集約型リモートワークステーション、3D レンダリング、アプリケーションストリーミング、動畫エンコーディング、およびその他のサーバー側グラフィックワークロードなどが考えられます。

P2 インスタンスは NVIDIA Tesla K80 GPU を使用しており、CUDA または OpenCL のプログラミングモデルを使用する汎用 GPU コンピューティング用に設計されています。P2 インスタンスでは、25 Gbps の高帯域幅ネットワーキング、強力な単精度浮動小數點機能や倍精度浮動小數點機能、エラー修正コード (ECC) メモリを利用できるため、深層學習、高效能データベース、計算流體力學、金融工學、耐震解析、分子モデル、ゲノミクス、レンダリング、およびその他のサーバー側 GPU コンピューティングワークロードに最適です。

Q: P3 インスタンスと G2 インスタンスの違いは何ですか?

P3 インスタンスは次世代の EC2 汎用 GPU コンピューティングインスタンスで、最大 8 つの最新世代 NVIDIA Volta GV100 が搭載されています。これらの新しいインスタンスによってパフォーマンスとスケーラビリティが大幅に向上し、多數の新機能が追加されています。それには、機械學習 (ML) や深層學習 (DL) のパフォーマンスに最適化された新しい Streaming Multiprocessor (SM) アーキテクチャ、第二世代 NVIDIA NVLink 高速 GPU インターコネクト、効率向上に高度に調整された HBM2 メモリが含まれます。

P2 インスタンスは NVIDIA Tesla K80 GPU を使用しており、CUDA または OpenCL のプログラミングモデルを使用する汎用 GPU コンピューティング用に設計されています。P2 インスタンスは、高帯域幅 25 Gbps ネットワーキング、単精度および倍精度の強力な浮動小數點機能、エラー訂正コード (ECC) メモリを提供します。

Q.GPU Graphics インスタンスと GPU Compute インスタンスでは、どのような API とプログラミングモデルがサポートされていますか?

P3 インスタンスでは CUDA 9 と OpenCL、P2 インスタンスでは CUDA 8 と OpenCL 1.2、G3 インスタンスでは DirectX 12、OpenGL 4.5、CUDA 8、および OpenCL 1.2 がサポートされています。

Q.P3 インスタンスと G3 インスタンス向けの NVIDIA ドライバーはどこで入手できますか?

NVIDIA ドライバーの入手方法は 2 つあります。AWS Marketplace では、NVIDIA ドライバーが事前インストールされた Amazon Linux AMI や Windows Server AMI を入手できます。64 ビットの HVM AMI を起動して、ご自身でドライバーをインストールすることもできます。NVIDIA ドライバーのウェブサイトにアクセスして、P3 の場合は NVIDIA Tesla V100 、P2 の場合は NVIDIA Tesla K80、および G3 の場合は NVIDIA Tesla M60 を検索してください。

Q.P3 インスタンス、P2 インスタンス、G3 インスタンスではどの AMI を使用できますか?

現在、P2 インスタンスと G3 インスタンスでは Windows Server、SUSE Enterprise Linux、Ubuntu、および Amazon Linux AMI を使用できます。P3 インスタンスでは HVM AMI のみがサポートされています。これ以外のオペレーティングシステムで AMI を起動する場合は、AWS カスタマーサポートに問い合わせるか、EC2 フォーラムにアクセスしてください。

Q.G2 および G3 インスタンスを使用するにはサードパーティーのライセンスが必要ですか?

NVIDIA ドライバーおよび GRID SDK を除き、G2 および G3 インスタンスの使用にサードパーティーのライセンスは必ずしも必要ありません。ただし、G2 および G3 インスタンスで使用されているコンテンツまたはテクノロジーに追加ライセンスが必要かどうかを判斷するのは、お客様の責任になります。たとえば、コンテンツをストリーミングしている場合、そのストリーミングの一部または全部についてライセンスが必要な場合があります。Microsoft、Thomson、Fraunhofer IIS、Sisvel S.p.A.、MPEG-LA、Coding Technologies のオペレーティングシステム、オーディオ/ビデオエンコーダやデコーダなどのサードパーティーテクノロジーを使用している場合は、これらのプロバイダーに問い合わせて、ライセンスが必要かどうかを確認してください。たとえば、オンボード h.264 ビデオエンコーダを NVIDIA GRID GPU で使用している場合は MPEG-LA に、mp3 テクノロジーを使用している場合は Thomson に問い合わせる必要があります。

Q.NVIDIA のウェブサイトからダウンロードしたドライバーを使用しても、G3 インスタンスで NVIDIA GRID 機能を利用できないのはなぜですか?

G3 インスタンスで使用されている NVIDIA Tesla M60 GPU では、すべての高度なグラフィック機能、および最大解像度 4096x2160 のモニタ 4 臺のサポートを有効化するために、特別な NVIDIA GRID ドライバーが必要になります。NVIDIA GRID ドライバーが事前にインストールされた AMI を使用するか、AWS のドキュメントに従って NVIDIA GRID ドライバーをダウンロードし、インストールすることが必要です。

Q.Microsoft Remote Desktop を使用すると GPU が表示されないのはなぜですか?

Remote Desktop を使用すると、WDDM ドライバーモデルを使用している GPU は、高速化されていない Remote Desktop ディスプレイドライバーに置き換えられます。GPU ハードウェアにアクセスするには、VNC などの異なるリモートアクセスツールを使用する必要があります。

Q.Amazon EC2 F1 とは何ですか?

Amazon EC2 F1 は、アプリケーションの高速化に利用できる、プログラミング可能なハードウェアによるコンピューティングインスタンスです。新しい F1 インスタンスタイプは高いパフォーマンスが得られ、FPGA にアクセスしてカスタムハードウェア高速化の開発とデプロイが容易に行えます。

Q.FPGA とは何ですか? なぜ必要ですか?

FPGA はソフトウェアで設定できる、プログラム可能な集積迴路です。FPGA を使用することで、CPU のみを使用するサーバーと比較してアプリケーション速度を最大 30 倍に加速できます。FPGA は再プログラミングが可能なため、ハードウェアを再設計することなく、ハードウェアアクセラレーションを更新し、最適化可能な柔軟性が得られます。

Q.F1 は従來の FPGA ソリューションとどのように異なるのですか?

F1 はアプリケーションアクセラレーション向けにプログラム可能なハードウェアを使用した AWS インスタンスです。F1 を使用することで、FPGA ハードウェアに數クリックで簡単にアクセスでき、フルサイクルの FPGA 開発と大規模デプロイに必要な時間とコストを月単位、年単位から日數単位まで削減できます。FPGA テクノロジーは利用できるようになってから數十年が経過していますが、アクセラレーターの開発と従來のエンタープライズ向けカスタムハードウェア販売のビジネスモデルの両面で、開発インフラストラクチャにかかる時間と費用、ハードウェア設計、デプロイ規模の大きさなどのため、アプリケーション高速化への実応用に苦戦してきました。今回のサービス提供により、お客様にはオンプレミスデータセンター用 FPGA 開発に関係する手間のかかる作業が不要になります。

Q: Amazon FPGA Image (AFI) とは何ですか?

FPGA をプログラムするために作成する設計を、Amazon FPGA Image (AFI) と呼びます。AWS では、AFI を登録、管理、コピー、クエリ、および削除するためのサービスを提供しています。AFI を登録すると、実行中の F1 インスタンスに AFI をロードできます。複數の AFI を単一の F1 インスタンスにロードすることができるため、実行時に再起動なしで AFI を切り替えることができます。これにより、複數のハードウェアアクセラレーションをすばやくテストし、実行できるようになります。カスタムソフトウェアや AFI ドライバーを使用して、AWS Marketplace の他のお客様に FPGA アクセラレーションと AMI の組み合わせを提供することもできます。

Q.AWS Marketplace でハードウェアアクセラレーションを出品するにはどうすればよいですか?

AFI と、この AFI を使用するためのソフトウェアドライバー/ツールを開発します。次に、これらのソフトウェアツール/ドライバーを Amazon Machine Image (AMI) に暗號化形式でパッケージします。AWS は、コードのセキュリティを保持するためにお客様が提供した暗號化形式ですべての AFI を管理します。AWS Marketplace で製品を販売するには、お客様またはお客様の會社が AWS Marketplace のリセラーとしてサインアップし、1 つの製品にパッケージされることを意図している AMI ID および AFI ID を送信する必要があります。AWS Marketplace は製品を作成するための AMI および AFI のクローン作成を行い、製品コードをこれらのアーティファクトに関連付けて、この製品コードへのエンドユーザー登録にこの AMI と AFI へのアクセスが付與されるようにします。

Q.F1 インスタンスでは何が利用できますか?

開発者向けに、AWS では開発サイクルの高速化に役立つハードウェア開発キット (HDK)、クラウドでの開発に対応した FPGA 開発者 AMI、F1 インスタンスを実行する AMI 用 SDK、AFI の登録、管理、コピー、クエリ、削除を行うための API のセットを提供します。開発者と顧客の両方が AWS Marketplace にアクセスし、アプリケーション高速化に使用する AFI の販売や購入を行えます。

Q.F1 インスタンスを使用するには FPGA についての詳細な知識が必要ですか?

AWS のお客様が F1 向けに最適化された AMI を AWS Marketplace でサブスクライブする場合、FPGA についての知識がまったくなかったとしても、AWS Marketplace と F1 インスタンスによって提供されるアクセラレーションのメリットを享受できます。自分のワークロードに適した高速化機能を持つ、F1 向けに最適化された AMI に AWS Marketplace で加入すればよいのです。AMI には FPGA アクセラレーションの利用に必要なすべてのソフトウェアが含まれています。お客様側で必要となるのは、アクセラレーター用の API を使ってソフトウェアを作成し、アクセラレーターの使用を開始することのみです。

Q.FPGA の開発者です。F1 インスタンスの使用はどのように開始できますか?

開発者による F1 インスタンスの利用は、AWS アカウントを作成し、AWS ハードウェア開発キット (HDK) をダウンロードすることで開始できます。HDK には、F1 に関するドキュメント、內蔵 FPGA インターフェイス、AFI 生成用コンパイラスクリプトが含まれます。開発者は、HDK に含まれている、文書化されたインターフェイスへの FPGA コードを作成して高速化機能の作成を開始できます。開発者は、FPGA 開発者 AMI を使って AWS インスタンスを作成できます。この AMI には、FPGA コードのコンパイルとシミュレーションの実行に必要な開発ツールが含まれています。開発者 AMI は、最新の C5、M5、または R5 のインスタンスで実行することが最も適切です。開発者は、FPGA コードの作成に使用されるプログラミング言語 (Verilog または VHDL) における経験と、高速化させるオペレーションに関する知識を有している必要があります。

Q.FPGA の開発者ではありません。F1 インスタンスの使用はどのように開始できますか?

お客様は AWS Marketplace でセラーの提供するアクセラレーターを選択し、その AMI で F1 インスタンスを起動することで、F1 インスタンスの使用を開始できます。AMI にはそのアクセラレーター向けのソフトウェアと API がすべて含まれています。そのアクセラレーターの AFI を使用した FPGA のプログラミングは AWS によって管理されます。このようなアクセラレーターを使用するお客様に、FPGA についての知識や経験は不要です。そのアクセラレーター用のソフトウェア API レベルで作業することができます。

Q.AWS による開発者キットは用意されていますか?

はい。ハードウェア開発キット (HDK) には、シミュレーションツールとシミュレーションモデルが含まれ、開発者は作成した高速化コードのシミュレーション、デバッグ、ビルド、登録を行うことができます。HDK にはコードのサンプル、コンパイルスクリプト、デバッグインターフェイス、および F1 インスタンス用 FPGA コードの開発に必要な他の多くのツールが含まれています。HDK は、AWS の提供する AMI か、自分のオンプレミス開発環境で使用できます。これらのモデルやスクリプトは、公開されているものを AWS アカウントを使用して入手できます。

Q.オンプレミスの開発環境で HDK を使用できますか?

はい。ハードウェア開発キット (HDK) は AWS が提供する AMI、またはお客様のオンプレミスの開発環境で使用できます。

Q.FPGA はどの EC2 インスタンスタイプにでも追加できますか?

いいえ。F1 インスタンスのインスタンスサイズは f1.2xlarge、f1.4xlarge と f1.16 xlarge の 3 つです。