はじめに
Amazon BedrockとStreamlitでチャットボットを作成してみました。
Amazon Bedrockのclaudeを用いて、サンプルアプリを開発してみたい方におすすめです。
開発環境
- Windows 11
- Python 3.11.0
- AWS CLI 2.13.29
実装
Amazon Bedrockで使用するモデルの有効化
AWS Amazon Bedrockのページに移動し、「Model Access」を選択、Claudeが「Access granted」になっていない場合は、右上の「edit」を選択します。
「Anthropic」にチェックを入れ、「Save changes」を選択します。
数分間はステータスが「In Progress」となるので、待機します。
数分おきに更新ボタンを押して、ステータスが「Access granted」になれば有効化の完了です。
IAMの設定
次に、IAMの設定を行います。
AWS IAMの「ユーザー」タブに移動して、任意のユーザーを選択または作成します。
「セキュリティ認証情報」タブから、「アクセスキーを作成」を選択します。
ユースケースは「コマンドラインインターフェイス(CLI)を選択し、「次へ」を選択します。
説明タグ値の入力は任意となるため、入力せずに「アクセスキーを作成」を選択します。
アクセスキーとシークレットキーをメモして「完了」を選択します。
続いて、Amazon Bedrock用の許可ポリシーを作成します。
本記事を作成した時点では、Bedrock専用の許可ポリシーは存在しなかったため、インラインポリシーを作成します。
IAMの「ユーザー」のページに移動し、「許可を追加」から「インラインポリシーを作成」を選択します。
ポリシーエディタは「JSON」を選択し、中身を書き換え（コードの内容は、以下の画像の直下に記載）、「次へ」を選択します。
JSONの中身はこちらです。
1{2 "Version": "2012-10-17",3 "Statement": [4 {5 "Sid": "Statement1",6 "Effect": "Allow",7 "Action": "bedrock:*",8 "Resource": "*"9 }10 ]11}ポリシー名を「BedrockFullAccess」とし、「ポリシーの作成」を選択します。
続いて、AWS CLIをインストールしていない場合は、インストールします。
以下の記事を参考にして、インストールしてください。
今回のチャットボットを実行するディレクトリに移動し、AWS CLIがインストールされたかを以下のコマンドで確認します。
1aws --version23aws-cli/2.13.29 Python/3.11.6 Windows/10 exe/AMD64 prompt/off結果が表示されれば、インストールされています。
以下のコマンドで、アクセスキーとシークレットキーを設定します。
最初は空の状態なので、ご自身のアクセスキーやシークレットキーを入力し、エンターキーを押してください。region nameは「us-east-1」、output formatは「json」にしてください。
1aws configure23AWS Access Key ID [****************YK63]:4AWS Secret Access Key [****************2DbP]:5Default region name [us-east-1]:6Default output format [json]:これでIAMの設定は完了です。
チャットボットの作成
以下の記事を参考にして、チャットボットを作成します。
必要なライブラリやフレームワークのインストールとインポート
まずは必要なライブラリやフレームワークをインストールしてインポートします。
最初に、ターミナルでLangChainとstreamlitをインストールしましょう。
1pip install langchain streamlit次に、Pythonファイルでインポートしていきます。
1test.py2from langchain.chains import LLMChain3from langchain.llms import Bedrock4from langchain.memory import ConversationBufferMemory5from langchain.memory.chat_message_histories import StreamlitChatMessageHistory6from langchain.prompts import PromptTemplate78import streamlit as st- from langchain.chains import LLMChain：LangChainの基本的なチェーンの一つで、プロンプトテンプレートと言語モデルを組み合わせて使用します。
- from langchain.llms import Bedrock：LangChainライブラリからBedrockクラスをインポートしています。
- from langchain.memory import ConversationBufferMemory：会話の履歴を保存するためのメモリクラスです。
1. from langchain.memory.chat
messagehistories import StreamlitChatMessageHistory：Streamlitセッション状態にメッセージを保存します。
- from langchain.prompts import PromptTemplate：言語モデルへのプロンプトを生成します。
- import streamlit as st：StreamlitというPythonのフレームワークをインポートしています。Streamlitは、PythonのコードだけでWebアプリケーションを作成できます。
会話の履歴を呼び出す
会話が続くように、前回までの会話の履歴を保存するインスタンスを作成します。履歴がない場合は、「こんにちは！」と表示させます。
1test.py2msgs = StreamlitChatMessageHistory(key="chat_messages")34memory = ConversationBufferMemory(memory_key="history", chat_memory=msgs)5if len(msgs.messages) == 0:6 msgs.add_ai_message("こんにちは！")templateとprompt、llm_chainの作成
templateとprompt、llm_chainを作成します。チャット履歴と人間の入力を元にして、anthropic.claude-v2モデルが回答します。
1test.py2template = """You are an AI chatbot having a conversation with a human.3You answer always in japanese.45Current conversation:67{history}89Here is the human's next reply:1011{human_input}1213"""14prompt = PromptTemplate(input_variables=["history", "human_input"], template=template)1516llm_chain = LLMChain(llm=Bedrock(model_id='anthropic.claude-v2'), prompt=prompt, memory=memory)チャットUIの作成
会話履歴、人間が入力したメッセージ、AIの回答を表示するUIをstreamlitで実装します。
1test.py2for msg in msgs.messages:3 st.chat_message(msg.type).write(msg.content)45if prompt := st.chat_input():6 st.chat_message("human").write(prompt)78 response = llm_chain.run(prompt)9 st.chat_message("ai").write(response)streamlit run test.pyを実行するとclaude2とチャットすることができます！
おわりに
Amazon BedrockとStreamlitでチャットボットを作成してみました。
OpenAI以外にも、様々な企業が生成AIを開発しているので、ぜひ試してみてください！
最後までお読みいただき、ありがとうございました！
記事に関する質問等ございましたら、コメントまたは以下のDMにてよろしくお願いします！
