Databricks と AWS の VPC ピアリング接続設定
はじめに
今回は異なる AWS アカウント上に立てた RDS と Databricks を、ピアリング接続する方法について紹介したいと思います。
Databricks の下記のドキュメントを参考にしておりますので、詳細については下記リンク先を参照。
■リンク
・VPC peering
前提条件
ピアリング接続を実施するにあたり、確認すべき項目があります。
少なくとも下記の2つは満たしていないと、VPC の構築からやり直す必要があるので気をつけましょう。
■ピアリング接続の条件
・接続する VPC は互いに異なる CIDR 範囲であること
・接続する VPC は同じリージョンにあること
今回ピアリング接続を実施する環境の情報は以下となります。
| AWSアカウント情報 | Databricks | RDS | CIDR範囲 | リージョン |
|---|---|---|---|---|
| AWSアカウントA | あり | なし | AWSアカウントBと異なる | 東京リージョン |
| AWSアカウントB | なし | あり（Oracle RDS） | AWSアカウントAと異なる | 東京リージョン |
手順1
AWSアカウントA
①Databricks 側のVPCコンソール画面で、左にある「ピアリング接続」をクリック
②「ピアリング接続の作成」をクリック
③必要情報を入力して作成。無事に作成できたら、「ピアリング接続の承認待ち」というステータスになるので、AWSアカウントB側で承認されるのを待つ
AWSアカウントB
①VPCコンソールの「ピアリング接続」タブを確認
②AWSアカウントAよりピアリング接続の承認依頼が来ているので（直ぐに表示されない場合があるので、まだ表示されてなかったら更新などして待つ）、表示されているピアリング接続をクリックし、「アクション」→「承認」と選択
③AWSアカウントAよりピアリング接続の承認依頼が来たのを確認したら、表示されているピアリング接続をクリックし「アクション」→「承認」と選択
手順2
AWSアカウントA
①VPCダッシュボードの「ピアリング接続」を選択
②承認されたピアリング接続を選択したら、「アクション」→「DNS編集」を選択
③「DNS解決を有効」にして保存
AWSアカウントB
①VPC ダッシュボードの「ピアリング接続」を選択
②承認したピアリング接続を選択したら、「アクション」→「DNS編集」を選択
③「DNS 解決を有効」にして保存
手順3
AWSアカウントA
①VPC ダッシュボードにある「ルートテーブル」を選択し、該当 VPC のルートテーブルを検索
②ルートテーブルの「編集」を選択し、ピアリング接続している AWS アカウントB の VPC の CIDR 範囲を「送信先」に入力し、「ターゲット」に作成したピアリングを選択して保存
AWSアカウントB
①VPC ダッシュボードにある「ルートテーブル」を選択し、該当 VPC のルートテーブルを検索
②ルートテーブルの「編集」を選択し、ピアリング接続している AWS アカウントA の VPC の CIDR 範囲を「送信先」に入力し、「ターゲット」に作成したピアリングを選択して保存
手順4
AWSアカウントA
①VPCダッシュボードで「セキュリティグループ」を選択し、Databricks と連携している VPC の ID で検索をかける
②検索をかけた際、セキュリティグループの説明の部分に「Unmanaged security group 」と記載があるセキュリティグループのIDをコピーして、アカウントB側に情報を提供する
AWSアカウントB
①VPCダッシュボードで「セキュリティグループ」を選択し、RDSを構築している VPC の ID で検索をかける
②検索して出てきたセキュリティグループを選択し、「編集」を選択し、「ルールの追加」を選択
③「タイプ」には「Oracle-RDS」 を選択し、AWSアカウントA側で提供された「Unmanaged security group」の ID を「ソース」に入れて保存
手順5
AWSアカウントA
①Databricks 側でクラスターを用意
②notebook で下記のコマンドを入力して、疎通を確認
・hostname：RDS のエンドポイント
・port：ポート番号（Oracle の場合は1521）
おわりに
これで、異なる AWS アカウントにある Databricks と RDS ピアリング接続することが可能となりました。
Amazon Lookout for Visionで異常検出 その２（Python3.6）
はじめに
Amazon AI by ナレコム アドベントカレンダー 2020の20日目の記事です。
前回のAmazon Lookout for Visionで異常検出 その１では、AWSコンソール上でAmazon Lookout for Visionの異常検出プロジェクトを作成し、学習とトライアル検出を行いました。
今回は、boto3を用いて作成したモデルをホスティングし、推論を行ってみましょう。
開発環境
- AWS CLI 2.1.13
- boto3 1.16.40
- Python 3.6
- Windows PC
導入
IAMユーザーの作成、AWS CLI & SDKs の設定、AmazonLookoutVisionFullAccessのアクセス権限を与えます。AmazonLookoutVisionFullAccessポリシーが見つからなかったので、作成しました。
AWS CLIとboto3を更新しておきましょう。
Windows での AWS CLI バージョン 2 のインストール、更新、アンインストール
Start
作成したモデルを開始します。プロジェクト名（test）とモデルのバージョン（1）を指定します。
状態が「STARTING_HOSTING」となります。
Describe
モデルを開始したら、状態を確認しましょう。
状態が「STARTING_HOSTING」となっています。
「HOSTED」になれば使用可能です。
もしモデルが停止していた場合は、「TRAINED」となっています。
Detect
モデルの状態が「HOSTED」になったら、推論してみましょう。これらの画像をテストしました。
| 異常（capsule/test/squeeze/001.png） | 正常（capsule/test/good/022.png） |
|---|---|
 |
 |
正しい予測結果が出ています。
モデルが「STARTING_HOSTING」の状態のときに推論した場合、以下のようなエラーが出ます。
また、AWSコンソールのLookout for Visionのダッシュボードで検出結果を見ることができます。
最初に異常画像を推論した結果です。
次に正常画像を推論した結果です。ダッシュボードはすぐに更新されます。
Stop
モデルを停止します。停止するまで料金かかるので注意しましょう。
まとめ
前回作ったモデルをboto3を用いてホスティングし、推論してみました。これで運用できそうです。
参考
Amazon Lookout for Visionで異常検出 その１
はじめに
Amazon AI by ナレコム アドベントカレンダー 2020の13日目の記事です。
Amazon Lookout for Visionは、画像から欠陥のある製品を検出する新しいMLサービスになります。
早速使ってみましょう！
導入
1．MVTEC ANOMALY DETECTION DATASETを用います。Capsule (385 MB)をダウンロードしてください。
2．AWS Consoleを開き、「Amazon Lookout for Vision」を検索し、開始方法をクリックします。
3．初回セットアップでは、S3にバケットを作成します。
4．ダッシュボードを開いたら、プロジェクトを作成します。
5．プロジェクト名を適当に入力し、プロジェクトを作成します。
6．まずは、データセットを作成しましょう。
7．「1つのデータセットを作成する」を選択、
8．「コンピュータからイメージをアップロードする」を選択し、データセットを作成します。
9．イメージを追加します。最低でも10枚の異常イメージと、20枚の正常イメージが必要みたいです。
10．30個まで一度にアップロードできます。
11．画像を確認したらアップロードしましょう。capsule\train\goodから欠陥のない画像を30枚アップロードしました。
12．アップロードしたら、ラベルを追加します。
13．画像を選んで、Normal（正常）かAnomaly（異常）に分類します。30枚はすべて正常に分類します。
14．右上のアクションからトレーニングデータセットにイメージを追加していきます。
15．capsule\test\scratchフォルダから欠陥のある画像を11枚アップロードしました。
16．11枚を異常に分類します。
17．30枚の正常な画像と11枚の異常な画像のトレーニングデータが集まったので、モデルをトレーニングします。
18．モデルをトレーニングします。
19．確認事項が表示されますが、モデルをトレーニングします。
20．トレーニングが進行しています。
21．40分ほどでトレーニングが完了しました。スコアは90.9%となっています。
22．約半数（21枚）テストされ、11枚正常と予測したもののうち1枚が不正解、10枚異常として予測したもののうち1枚が不正解となりました。
 |
 |
 |
 |
23．トライアル検出では、作ったモデルのテストを行うことができます。
24．タスク名を入力し、「モデル１」を選択、「コンピュータからイメージをアップロードする」を選択、
25．「異常を検出」をクリックします。
26．確認事項が表示されるので、「トライアル検出を実行」をクリックします。
27．30個まで画像をアップロードします。capsule\test\crackから10枚アップロードしました。すべて異常となる必要があります。（crackは学習していないため期待はできません。）
28．8割異常と予測されました。なかなか優秀ではないでしょうか。
 |
 |
 |
 |
29．「マシン予測を検証」から結果が正しいか誤りかを教えてあげましょう。今回はすべて異常でないといけません。
30．検証済みイメージをデータセットに追加します。
31．データセットに移動したら、検証済みイメージが追加されているので、再学習することができます。
まとめ
Amazon Lookout for Visionを用いて、カプセルの欠陥検出を行いました。このサービスを利用することで、簡単に学習・評価・改善のサイクルをまわせますね。
作ったモデルは、AWS SDKまたはCLIから使えるようです。これはまた次回ご紹介したいと思います。
お疲れ様でした。
参考
【導入事例を大紹介！】ナレッジコミュニケーションのdatabricks導入支援について
はじめに
ナレッジコミュニケーションではdatabricksのソリューションパートナーとして、
これまで数多くのお客様に導入支援を実施させていただきました。
今回は代表的な導入事例や導入に伴う費用感についてご紹介させていただきます。
databricksとは？
databricks とはdatabricks社が開発したApache Spark をベースにした統合データ分析プラットフォームです。
米国ではデータ活用のプラットフォームとして databricks が第一の選択肢に上がるようになっており、Gartner社が選ぶデータサイエンスおよび機械学習プラットフォームの2020マジッククアドラントでリーダーに位置しています。
主な特徴として以下が挙げられます。
・クイックにデータ統合・分析環境の立ち上げが可能
・自動スケール、自動停止が可能
・複数のデータサイエンティストの生産性向上が見込める
トヨタ情報システム愛知様との事例
テラバイト級のデータに対する処理機構としてdatabricksをご採用いただき、
30倍の処理速度向上と8割以上の運用コスト圧縮を実現しました。
【参考URL】
https://prtimes.jp/main/html/rd/p/000000011.000004474.html
電通デジタル様との事例
データサイエンティストチームの分析環境の統合基盤として databricks を採用していただきました。
分析の知見を社内で共有することが可能となり、顧客からの分析オーダーに対して導入前の2倍以上の速度でアウトプットが出来るようになりました。
【参考URL】
https://prtimes.jp/main/html/rd/p/000000023.000004474.html
某教育業界のお客様との事例
取り扱いに注意が必要なデータを扱う分析環境の導入をパブリッククラウドのアーキテクチャ設計も含めてご支援しました。
AWS、Azure といったクラウドと同様の第三者認証セキュリティを持つ databricks を採用することで、セキュアでありながらビッグデータ分析にも対応した分析環境を実装しました。
ナレッジコミュニケーションでの導入支援プラン
ナレッジコミュニケーションではdatabricks の導入から、その後の運用までご支援可能です。
以下のホームページからお問い合わせが可能でございますので、ぜひご検討くださいませ。
【お問い合わせHP】
https://www.knowledgecommunication.jp/product/databricks.html
参考ランニングコスト
databricks のランニングコストは状況によってまちまちですが、
参考までに過去の利用ケースを基に、月額費用例を算出させていただきます。
■稼働状況
・データサイエンティスト4人が業務時間中フル稼働で利用
・1人あたり1ヶ月約230時間分の仮想マシンを稼働
■分析対象データ
・60GB (契約データ、WEBマーケデータ、契約情報などのCRMデータ)
終わりに
近年データ分析を実施する際に
データの増大による処理時間の遅延や
エンジニア同士の共同作業の難しさから発生するタイムロス
が発生するケースが増えてきております。
もしお客様が上記のような問題を抱えているなら、
databricks の導入はその高性能処理能力や複数人での使いやすさから非常に有効なソリューションとなりうるのではないでしょうか。
ぜひ導入をご検討くださいませ。
Amazon Monitronがすごいので紹介してみる
はじめに
製造業で働いていると、機器トラブルで休みの日にも関わらず仕事に呼びだされる、、、
そんなことがこれまであったのではないでしょうか？
Amazon Monitronは機械学習（ML）を使用して産業機械の異常な動作を検出するサービスで、予知保全によって計画外のダウンタイムを削減することができます。
※異常検知時の画面サンプル
活用フロー
1.モーター、ギアボックス、ファン、ポンプなどの回転機器にワイヤレスAmazon Monitron Sensorsを取り付け、振動と温度を測定
2.センサーデータは、Amazon MonitronGatewayを使用して自動的かつ安全にAWSに転送
3.センサーデータは、機械学習（ML）を使用して自動的に分析され、メンテナンスが必要な可能性のある異常な機器を検出
4.異常が検出されたときにモバイルアプリから端末にプッシュ通知を送信
利点
- 従来のセンサーに比べてハードウェアへの先行投資額が少ない
- 取得データから自動で分析できるため開発作業やMLの知識が必要ない
- 故障前に異常を検知できる
- 保存中および転送中のセンサーデータを暗号化することでセキュリティ強化できる
- モバイルアプリを操作することで継続的なモデル改善ができる
センサーの取り付け対象機器
上記の機器などからセンサーデータを入手できます。
センサーの取り付けについて
- 温度と振動を効果的に測定できる全ての場所に取り付けてください（1機器あたり最大20個取り付け可能）
- センサーを機器のハウジングに直接取り付けてください
- センサーは3年周期で取り替えてください
- 板金カバーなど、固有振動数により振動する可能性のある場所にセンサーを取り付けないでください
- センサーを取り付けるには、工業用接着剤をご使用ください
- 接触領域が少なくとも30 x 25mmである必要があります
初期費用
サービス利用開始にあたりAmazon Monitron SensorsとAmazon Monitron Gatewayを購入していただく必要があります。
| 項目 | 価格 |
|---|---|
| Amazon Monitron Sensors（5個入り） | 575USD |
| Amazon Monitron Gateway（単品） | 140USD |
それぞれの料金は上記の通りです。
| 項目 | 価格 |
|---|---|
| Amazon Monitronスターターキット | 715USD |
またお得なAmazon Monitronスターターキットもご用意されています。
（取り付けキット、5 個のセンサー、ゲートウェイのセット）
運用費用
Amazon Monitronはセンサー1つあたり年間50USDのランニングコストがかかります。
費用例
■要件
5つのモーターを監視する必要がある。
上記を実現するためにAmazon Monitronスターターキットを購入し、
モーターごとに1つのセンサーを取り付け3年間使用した。
■試算結果
スターターキット購入費用（715USD）＋ センサー年間利用費用×5（250USD）×3年分 ＝ 1465USD（3年間利用費用）
おわりに
これまで製造現場でIoTによる異常検知を導入する際には以下のボトルネックがあったかと思います。
- センサーの取り付け費用が高く、費用対効果が見込めない
- センサーからどんなデータが実際に取得できるかわからない
- データからAIモデルを作成するノウハウがない
- 頻繁に故障するわけではないので異常値のデータが少ない
Amazon Monitronは安価に導入ができ、分析も自動でしてくれるので、上記のような問題の有効な解決策になりそうです。
ぜひ導入をご検討ください！
※現状Amazon Monitronはバージニアリージョンにしか対応していません。
【AI入門】Amazon SageMaker Data Wranglerを使ってみた
はじめに
今回は、Amazon SageMaker Studio の追加機能の一つの可視化サービス、SageMaker Data Wrangler を触ってみようと思います。
- データのインポート
- データフローの作成
- データの可視化、前処理、追加、結合などを行う
- 作成したデータフローのエクスポート
の流れで SageMaker Data Wrangler を使っていきます。
SageMaker Data Wrangler を使いこなして、Amazon Sagemaker Studio をもっと便利に使えるようにしてみましょう！
SageMaker Data Wrangler の概要
AWS の各種サービスからデータをインポートし、データの可視化（リアルタイムで！）や変換の処理を GUI 上で行えるサービスです。
実際に行った処理をノートブックとしてエクスポートすることもできるので手元で処理して可視化して、処理して可視化して、、、という縦長ノートブックとのにらめっこからオサラバできそうですね。
名前が似ている AWS Data Wrangler というオープンソースの Python ライブラリがありますが、こちらとは別物のようです。
今回紹介されている Amazon SageMaker Data Wrangler はあくまでも SageMaker Studio の追加機能、という位置づけのようです。
SageMaker Data Wrangler の機能
SageMaker Data Wrangler は SageMaker Studio の追加機能であり、
- ETL 処理をグラフィカルに記述する flow ファイルの作成
- インポートするデータの選択
- データの変換および分析の記述
- 記述した処理をエクスポート
という流れで ETL 処理をサポートする機能であるといえます。
実際に触ってみる
今回は kaggle にある COVID-19 Dataset を用いて実際に Data Wrangler を使ってみました。
まずは Amazon SageMaker Studio に入ります。
データのインポート
Data Wrangler を使うには最初に flow ファイルを作成します。最初のランチャー画面にある「New data flow」の＋ボタンをクリックするか、画面上部の「File」→「New」→「Flow」としてファイルを作成します。
flow ファイルを作成すると「untitled.flow」というデータが生成されます。（名前の変更もできます。）インポートできるデータソースとしては Amazon S3 と Amazon Athena が選択できます。「Add data source」をクリックしてみると Redshift が選択できるようになっていました。
flow ファイルには4種類のタブがあり、それぞれ
- Import → データのインポート設定を行う
- Prepare → グラフィカルにデータ変換・分析のフローを記述する
- Analyze → 分析結果の表示
- Export → エクスポートするコンポーネントを選択し、エクスポートする
ということが行えます。
S3 に事前にアップロードしておいたファイルをインポートしていきます。「Amazon S3」を選択すると、バケット選択画面になります。
バケットを選択して、アップロードするファイルを選択します。S3 からのアップロードは CSV または Parquet が対応しています。
ファイルを選択すると画面下部にプレビュー画面が表示されます。拡張子がついていないファイルは画面右の「File Type」から CSV か Parquet を選択する必要があります。「Enable sampling」が有効になっている場合、インポートされるファイルが最大100MBに制限されます。設定が終わったら「Import dataset」をクリックします。
データフローの作成
インポートが完了すると、Prepare タブに遷移し、今回作成するデータフローがグラフィカルに表示されます。
Data Wrangler はインポートされたデータのデータ型を自動で推測し、データフレームを作成します。表示されている「Data types」というコンポーネントが自動生成されるデータフレームになります。
生成されるコンポーネントはドラッグすることで動かすこともできます。
「Data types」の横にある＋ボタンをクリックすると後続の処理を追加できます。
後続処理として追加できるコンポーネントには次のものがあります。
edit-data-types
データインポート時に自動生成されたデータフレームの各カラムのデータ型の変更が行えます。「Type」のプルダウンから選択できます。
変更する型を指定したら「Preview」で変更後のデータフレームが表示され、よければ「Apply」します。
add-transform
読み込み時にデータフレームの変換処理を記述します。
変換できる処理は次のようになっています。
- Custom Transform
Python(Pandas, Pyspark)または SQL(Spark SQL) で変換処理を記述します。
- Custom formula
新しいカラムを Spark SQL でクエリ書いて追加します。
- Encode categorical
カテゴリのカラムをプルダウンで指定して One-hot encode または Ordinal encode します。欠損値の処理も Skip, Error, Keep, Replace with NaN から選択することができます。
- Featurize date/time
date/time の型のデータを数値やベクトル表現に変換できます。
- Featurize text
自然言語のカラムを Character statistics, vector に変換できます。Character statistics には単語数や文字数などがあり、新しい出力カラムが生成されます。
- Format string
文字列のフォーマット（大文字、小文字、右寄せ、左寄せなど）を指定して変換してくれます。
- Handle missing
欠損値の処理を指定します。変換の方法を impute, drop missing などから指定してそれぞれの方法に対して詳細な設定ができます。（impute ならカラムの型がなんであり、中央値か平均を代入する、など）
- Handle outliers
外れ値の処理をかけます。標準偏差や quantile などを指定してどのように処理するか設定します。
- Manage columns
カラムの移動、削除、複製、リネームなどを行います。
- Manage rows
ソートやシャッフルをすることができます。
- Manage vectors
数値データ列とベクトル列を Assemble や Flatten で処理できます。
- Parse column as type
データ型を指定してキャストします。
- Process numeric
標準化を行ったりロバストスケーラーや最大値最小値の範囲でスケーリングします。処理には Spark が使われているようです。
- Search and edit
データの検索と、検索した値の編集ができます。置換や区切り文字で分割もできます。
- Validate string
カラムに対して条件を指定して True または False で表現されるカラムを生成します。
追加した変換処理を Apply するとコンポーネントが追加されます。
add-analysis
変換処理などを行ったデータを可視化できます。「Configure」タブではヒストグラムや散布図などを指定して表示させることができます。「Code」タブでは Pandas で記述できます。「Create」ボタンで描画した図を保存することができます。
保存された図は flow ファイルの「Analyze」タブに保存されています。この画面からも「Create new analysis」から新しい図を描画できます。
join
２つのデータセットの結合が行えます。データセットが複数必要になるには「Import」タブから最初にデータをインポートした時と同じ手順で実施します。
「Join」をクリックしたデータフレームが左側として指定されます。
右側にのデータフレームを指定すると結合後のフローが現れるので「Configure」すると、
プレビュー画面が表示され、どのように結合を行うのかを指定します。設定したら「Apply」して「Add」します。
生成したデータフレームがコンポーネントとして追加されました。
concatenate
データの連結を行えます。手順としては Join の操作に準じています。
指定したら「Apply」して「Add」します。
データフローのエクスポート
作成したデータフローをエクスポートします。まず「Export」タブに移動します。エクスポートしたいコンポーネントをクリックして「Export step」をクリックします。
エクスポートの方法は現在４種類用意されています。
- Data Wrangler Job
- Pipeline
- Python Code
- Feature Store
Python Code では.py の拡張子を持つファイルとして生成されます。他の３つは SageMaker に統合されたノーブック形式でエクスポートします。
違いとしては、
- Data Wrangler Job
作成したデータフローを丸ごとコード化
- Pipeline
作成したデータフローのコード + Pipeline という機能への統合するためのコードが追記
- Feature Store
作成したデータフローのコード + Feature Store という機能へ統合するためのコードが追記されます。とりあえず Data Wrangler Job としてエクスポートしてみます。
無事エクスポートできました！
おわりに
データの様々な前処理が GUI 上でできるのは本当に便利だと思います。今後はこの機能を使い倒していきたいと思います。他にも機械学習が便利になるサービスがあったら紹介していきたいと思います！
12/04（金）デジタル活用で経営革新を目指す！～事例から紐解く、人工知能(AI)と機械学習（ML）との向き合い方～
セミナー内容
各業界においてデジタル変革(DX)がビジネス構造や競争の原理を変える時代となりました。
しかしながら、多くの企業では、実証実験までは進めているものの、実際にビジネス変革につながっていないというのが現状です。
本ウェビナーでは、機械学習やクラウドを活用したDXの成功例を事例を交えてご紹介します。
対象となるお客様
経営企画、経営戦略、イノベーション、情報システム（IT）やデジタル変革・推進部門を中心とした各事業部門の管理職の方。
日時/場所/費用
開催日時：12 月 4 日（金）15:00 ～ 17:15
開催場所：オンライン
参加費用：無料
参加方法
https://www.knowledgecommunication.jp/news/219.html
上記URLよりご参加登録をお願いいたします。
申し込み後にウェビナーのプラットフォーム「Gotowebinar」のシステムより、お申し込み完了メールが届きますのでご確認くださいませ。
アジェンダ
当日のアジェンダは以下の予定です。
オープニングセッション
アマゾン ウェブ サービス ジャパン株式会社
パートナーアライアンス統括本部
テクノロジーパートナー本部
セグメントリード（機械学習・IoT）小澤 剛様
事例セッション１
株式会社ABEJA
代表取締役社長CEO 岡田 陽介様
【タイトル】
ABEJAのデジタルトランスフォーメーション ～ AI+HIが実現するプロセス革命 ～
【セッション内容】
COVID-19の影響から、あらゆる企業でDXの必要性が叫ばれ、業務のデジタル化が急速に進んでいます。
DXを単なるデジタル化で終わらせないために鍵となるのがAIですが、肝心なAI活用については多くの企業がPoC止まりなのが実情です。
私達ABEJAは顧客のAIの本番運用、AI活用の内製化を前提とした支援を行っています。
そのために鍵となるのは、人とAIを融合させたオペレーション構築だと考えています。
この講演では、これからのDXのあり方とともに、人とAIを融合したAIの運用方法について解説します。
事例セッション2
ブレインズテクノロジー株式会社
取締役/業務執行責任者 榎並 利晃様
【タイトル】
ここまできている！現場のDXを加速させる最新AI/ML活用事例
【セッション内容】
本セッションでは、製造業・建設業・ITのお客様を中心に、100社、12,000を超える機械学習モデル運用を支える「Impulse」を介して見えてきた、お客さまのAI／MLに対するニーズの変化及び活用事例と自社でデータ分析から機械学習の運用（MLOps）まで実施する上での課題とソリューションについてご紹介いたします。
事例セッション3
合同会社 dotData Japan
主席データサイエンティスト 博士（工学）
山本 康高様
【タイトル】
BI&AIの融合でデータドリブン型DXを実現するdotDataのテクノロジー
【セッション内容】
dotDataは、独自のAI技術を活用し、機械学習にとどまらずその前段となる特徴量設計をも自動化する、データサイエンス自動化プラットフォームを世界で初めて開発しました。
dotDataがもたらす過去のデータからの洞察、未来への予見といったインテリジェンスは、AIがデータドリブンで与えてくれる意思決定の材料となります。
デジタルトランスフォーメーションにおいても、AIによるデータドリブン型の業務／経営判断は核となる一方、AIの業務適用を成功させるためのプロセスが確立されておらず、現在の業務からの急激な切り替えが難しいという意見が多くあります。
本セッションでは、現在の業務で使われている「BIによる可視化」をdotDataによるインテリジェンスで拡張・拡大し、DXの第一歩を踏み出すためのステップを事例やデモを交えてご説明します。
事例セッション4
株式会社ナレッジコミュニケーション
代表取締役 奥沢 明
【タイトル】
デジタルトランスフォーメーションを推進する企業のAI活用方法とは？
【セッション内容】
民間企業においてもDXによる合理化や新たな価値の創造は、企業が存続するために避けられない課題となりつつあります。
PoC、単発で終わらせないデジタル変革を推進するための環境づくりからデータ活用法まで、変化が大きい世の中でビジネスで使うAI/MLのススメ方についてご紹介します。
株式会社ナレッジコミュニケーションについてのご紹介
ナレッジコミュニケーションではAmazon Web Services、Microsoft Azure等のクラウドサービスを企業に導入する事業を行っております。
お客様の課題に対してクラウドを使って課題解決のご支援をさせていただいております。
実績掲載
1.ブックリスタ様 事例
https://aws.amazon.com/jp/solutions/case-studies/booklista-knowledgecommunication/
2.全国保証様 事例
https://prtimes.jp/main/html/rd/p/000000014.000004474.html
11/12（木）ビジネスパーソンにAI活用を。ナレコムAI使い方セミナー
セミナー内容
withコロナでDXの推進が急務になっている中、データをうまく使った新しい価値提供や、生産性向上のための取り組みを多くの企業が課題としております。
その中でも成功している企業では、「できることから小さくはじめる」、「トライ&エラー、PoCを繰り返し実施」、「体制、プロジェクト人選」等の工夫を行っております。
今回のセミナーでは上記の背景があるなか、専門スキルを必要とせずに数クリックで機械学習のモデルを自動的に構築/予測分析でき、クイックにビジネスに活用できるプラットフォーム「ナレコムAI」についてご紹介致します。
ナレコムAIが必要となる背景やユースケースについての解説のみならず、実際の画面を見ながらのデモンストレーションも実施させていただきます。
※ナレコムAIのWEBサイト: https://narekomu-ai.com/
対象となるお客様
- 機械学習を自業務の活用を検討している方
- データをお持ちで業務の効率化を模索している方
- AIツールの導入を検討、調査されている方
本セミナーのゴール
- ナレコムAIがどういったものかを知ることができます
- ナレコムAIを使って、いますぐデータ分析を開始する
ナレコムAIとは？
AI（人工知能）・機械学習といった高度な技術を簡単に利用することが出来るクラウド型サービスです。
高いスキルを持った専門家なしには利用することが難しかった技術を、専門家不要で利用でき、データ分析の敷居を下げるためデータサイエンティストが担う 「機械学習のモデル構築・テスト・活用」をカバーするソリューションとなっております。
アジェンダ
- DX推進における課題と工夫している企業が取り組んでいること
- ナレコムAIの概要紹介
- ユースケース
- デモ
- QA
タイムテーブル(予定)
| 時間 | 内容 |
|---|---|
| 12時55分 | 受付開始 |
| 13時～ | 開会のご挨拶 |
| ～13時15分 | セミナー |
| ～13時40分 | デモ |
| ～13時55分 | QA |
| 14時 | 閉会の挨拶 |
日時:2020年 11月12日(木) 13時~14時
場所:オンライン（Microsoft Teams）
参加費:無料
参加方法
当日のウェビナーはteamsを使用して開催します。 こちらよりお申し込みいただいた後に、登録完了メールがお手元に届きます。 そちらのメールに当日の参加用 URLが掲載されておりますので、ご確認をお願いします。
下記「プライバシーポリシー」をご確認・ご了承いただいた上で、お申し込みの際はお名前等のご記入をお願いします。 ご協力いただけない場合は当日参加をお断りさせていただく場合がございますので、予めご了承ください。
プライバシーポリシー / 個人情報の取り扱いについて
株式会社ナレッジコミュニケーションについてのご紹介
ナレッジコミュニケーションではAmazon Web Services、Microsoft Azure等のクラウドサービスを企業に導入する事業を行っております。
お客様の課題に対してクラウドを使って課題解決のご支援をさせていただいております。
実績掲載
1.ブックリスタ様 事例
https://aws.amazon.com/jp/solutions/case-studies/booklista-knowledgecommunication/
2.全国保証様 事例
https://prtimes.jp/main/html/rd/p/000000014.000004474.html
Databricks E2リリースで新しく追加された機能について
はじめに
2020年9月、AWS上で利用可能なdatabricksのプランに新しく E2 が追加されました。
この記事では、E2の機能について紹介していきます。
プランの概要
E2のプランにすることで、以下の機能が使えるようになります。
- マルチワークスペースアカウント
- 顧客管理VPC
- 安全なクラスター接続
- ノートブックの顧客管理キー
それぞれの機能について、見ていきます。
1. Multi-workspace accounts
アカウントAPIを使用し、単一のDatabricksアカウントで、複数の新しいDatabricksワークスペースをプログラムで作成することが可能です。作成する各ワークスペースには 異なる構成を設定できます。
2. Customer-managed VPCs
デフォルトでは、Databricksは各ワークスペースのAWSアカウントにVPCを作成しますが、E2の場合、この顧客管理VPC機能により独自のVPCにDatabricksワークスペースを作成することができます。
3. Secure cluster connectivity
すべてのノードがプライベートIPアドレスのみを持つクラスターを起動し、VPCに開いているポートがなくなることで、安全なクラスター接続が実現できます。
4. Customer-managed keys for notebooks
ワークスペースの作成中に、CMK（顧客管理キー）と呼ばれる取り消し可能な秘密鍵を追加することができます。CMKとDMK（データ暗号キー）を結合し、ワークスペースにDEK（派生暗号キー）を作成します。
価格について
11月4日現在では、公式ページでは価格オプションについて確認できませんでした。もしかすると現行のEnterpriseプランに含まれているかもしれませんので、今後確認でき次第追記していきます。
まとめ
これらの機能によって、より安全でスケーラブルに、AWS上でdatabricksプラットフォームを利用することができそうですね。
公式ドキュメント
- https://docs.databricks.com/getting-started/overview.html#e2-architecture
- https://docs.databricks.com/administration-guide/account-api/new-workspace.html
- https://docs.databricks.com/administration-guide/cloud-configurations/aws/customer-managed-vpc.html
- https://docs.databricks.com/security/secure-cluster-connectivity.html
- https://docs.databricks.com/security/keys/customer-managed-keys-notebook-aws.html
- https://docs.databricks.com/release-notes/product/2020/september.html#e2-architecture---now-ga---provides-better-security-scalability-and-management-tools
AWS single sign-on(SSO)でdatabricksにログインしたい
はじめに
本記事ではdatabricks on AWSにAWS single sign-on(SSO)を使用してログインする方法をご紹介いたします。
AWS SSOは無料でかつ簡単な設定で即座に利用できるSSOサービスとなっており、
セキュリティの観点からもぜひとも利用しておきたい機能です。
前提条件
本記事内容はAWS SSOが有効になっているところからスタートします。
未完了の方は以下公式ドキュメントを参考に設定をお願いいたします。
https://docs.aws.amazon.com/ja_jp/singlesignon/index.html
目次
- AWS側の設定
- databricks側の設定
- いざlogin!
本題
1. AWS側の設定
AWS SSOのサービス画面内の左上「アプリケーション」をクリック
「新規アプリケーションの追加」をクリック
ここでAWS SSO と連携するアプリケーションを選択します
画面中央の「アプリケーションの名前を入力します」の欄に"databricks"と記入
databricksが表示されたらそれをクリック
画面右下の「アプリケーションの追加」をクリックして追加の完了です
アプリケーションの画面に戻るとこのようにdatabricksが追加されていますので
クリックしてアプリケーション情報を確認しましょう
databricks側に登録する情報をコピー、ダウンロードします
「AWS SSOサインインURL」「AWS SSO 発行者URL」をコピーし
「AWS SSO証明書」をダウンロードしておきます
最後に、AWS SSOを使用してdatabricksにloginするユーザを割り当てます
「割り当て済みユーザ」タブ内の「ユーザの割り当て」から設定を行います
ユーザ個人を割り当てることもできますし、
databricksを使用するユーザが多数いる場合はグループを作成しておき、そのグループに割り当てるということも可能です
(この写真の例ではdatabricksという名前のグループに割り当てています)
2. databricks側の設定
databricksのコンソール画面にloginします
右上の人の形のアイコンから「admin console」に移動します
「Single Sign On」のタブをクリック
以下表をもとにAWS側の設定でコピー、ダウンロードした情報を貼り付けていきます
※2つのオプションについて(任意)
- Allow auto user creation
→databricksのアカウントを持っていないユーザがAWS SSOでログインしたときに自動的にアカウントを作成する - Allow IAM role entitlement auto sync
→IAM credential passthroughのためのSAML属性からの資格情報を同期する
(別途IAM credential passthroughの設定が必要なので本記事での説明は割愛します)
「Enable SSO」をクリックして
この画面になったらdatabricks側のSSOの設定が完了です
3. いざlogin!
AWS Portalに入るとこのようにdatabricksアイコンが表示されているのでこのアイコンをクリックします
無事loginできました！
おわりに
今回はAWS SSOでdatabricksにログインする方法についてご紹介しました。
別記事で、databricks各種権限設定についてもご紹介する予定ですので、
そちらも併せてご覧いただければ幸いです。
最後までお読みいただきありがとうございました。