AIAgentを作ってみよう！

このLabでは、基本的なAIAgentの作り方を学びます。

Agentの作成

左上のメニューからビルドを選択します。
右にあるエージェントの作成ボタンをクリックします。
最初から作成を選択します。
このハンズオンではIBMに関する質問に回答するエージェントを作成するため、名前をYourInitials-IBMInfoと設定します。
このエージェントの役割を説明に記載します。watsonx Orchestrateは記載した内容をもとにどのエージェントを呼び出すかを判断するため、適切な記載が求められます。
このハンズオンでは、説明にIBMの会社情報に関する質問に回答するエージェントですと設定し、作成をクリックします。
Agentが作成されました。先ほど入力した名前と説明が自動的に入っています。
※エラーが発生する場合は、エージェントの名前が重複している可能性があります。イニシャルを変更するなどして再度試してみてください。
LLMをGPT-OSS 120B- OpenAI(via Groq)に変更します。モデルを変更すると、規約に関するメッセージが表示されます。
ユーザーがエージェントを開くと表示されるウェルカムメッセージとスタータープロンプトを設定します。ウェルカムメッセージにこんにちは、IBMエージェントへようこそと入力します。
続いて、スタータープロンプトにあるデフォルトの設定を削除します。削除後、プロンプトの追加ボタンをクリックします。What is watsonx Orchestrate?と入力後、再度プロンプトの追加ボタンをクリックし、もう一つ追加します。IBMについて教えてくださいと入力してください。スタータープロンプトを設定することで、ユーザーはここをクリックすることで会話を始めることができるようになります。
プレビューチャットをリフレッシュしてください。設定が反映されます。

基本的な動きの確認

右側にプレビューチャットが表示されています。ここで簡単に作成したエージェントを試すことができます。
まずはWhat is watsonx Orchestrate?と入力もしくはチャット上にあるWhat is watsonx Orchestrate?を選択します。
watsonx Orchestrateに関する回答が返ってくることが確認できました。こちらは選択されたLLMが回答を作成しています。
続いて、What is the stock price of IBM?と入力します。日付などをきかれた場合には、必要に応じて回答してください。
その結果、最新の株価情報は得ることができないことを確認できます。

生成AIは案出し、要約などは得意ですが、新しい情報の取得は難しいことが確認できました。

動作の定義

プレビューチャットにIBMについて教えてくださいと入力します。もしくはスタータープロンプトのIBMについて教えてくださいをクリックします。
その結果、適切な回答が返ってきました。場合によっては、英語での返答となるケースがあります。そのような場合に備えて、ステップ3を行います。
ユーザーが使いやすいよう利用ユーザーに合わせた動きを行うために、動作に応答の定義を行います。このハンズオンでは、日本人を対象としたAgentの作成のために、念のために回答は必ず日本語で行ってくださいと入力します。

このように、ユーザビリティを上げるために、動作を適切に定義することが必須です。

知識の使用

watsonx Orchestrateは組み込みのRAG (Retrieval Augmented Generation) 機能を提供し、エージェントごとにドキュメントをアップロードすることで、その内容をもとに回答を生成することが可能です。
1. このハンズオンでは年次報告書を読み込ませて、それに基づいた質問に対応するエージェントを作成します。
ソースを追加するのボタンをクリックします。

知識の追加画面が出るので、新しい知識をクリックします。
知識ソースの選択画面が出るので、ファイルのアップロードをクリックし、次へボタンをクリックします。
今回のハンズオンでは、こちらのファイルを使用します。ダウンロードして保存して使用してください。ボックスにドラッグするか、または青字のテキストをクリックしてファイル・アップロード・ウィンドウを開いて、ファイルをアップロードし、次へをクリックします。
エージェントが適切なタイミングで知識を使用するために、読み込むファイルがどのようなものであるかを定義する必要があります。今回は、名前にIBM年次報告書(2024)、説明にこれは2024年のIBMの年次報告書です。財務情報とIBMのコア事業戦略を含んでいますと入力し、保存ボタンをクリックしてください。
レポートが取り込まれるまでには少し時間がかかります。完了すると、ファイルが知識ソースのリストに表示されます。
プレビューチャットでIBMの2024 年のフリー・キャッシュ・フローはいくらですかと入力します。
watsonx Orchestrateが先ほど読み込んだファイルの内容をもとに、適切な回答を行っていることが確認できます。

ドキュメントをアップロードすることで、エージェントに対して簡単にRAGを構成できることが確認できました。

エージェントのデプロイ

誰でもこのエージェントを使うことができるように、エージェント作成後はデプロイをする必要があります。
1. 右上のデプロイボタンをクリックします。

特に何も入力せず、右下のデプロイをクリックします。
これでデプロイが完了しました。
左上のメニューからチャットを選択すると、チャット画面に移動します。左上のエージェント選択メニューから作成したエージェントの名前を選択します。デプロイされていることが確認できました。

フィードバックの実施

ユーザーからのフィードバックを元に、回答を改善することも重要です。watsonx Orchestrateではユーザーのフィードバックを受け付ける機能を提供します。どの様なフィードバックが可能かを見てみましょう。

再度IBM の 2024 年のフリー・キャッシュ・フローはいくらですかと入力し、回答に対して👍をクリックします。
回答が簡潔であったため、簡略を選択し、送信をクリックします。
一方で、再度IBMの今日の株価を教えてくださいと入力すると、求めていた回答が返ってきませんでした。
そのため、👎をクリックし、未完了を選択し、送信をクリックします。
ビルダーと管理者はこのフィードバック結果を、APIで確認し、回答の改善に役立てることが可能です。APIの使用方法などは、今回のハンズオンでは省略します。

お疲れ様でした！

このLab1では、watsonx OrchestrateのGUIを使って、簡単にAgentを作成しました。利用ユーザーや業務内容に合わせてカスタマイズを行うことで、ユーザービリティを上げることが可能です。

オプション：エージェントに知識を加える（ppt）

知識は、PDF以外にもPowerPointなどのファイルも使用可能です。

こちらのリンクを右クリックしてファイルに保存してください。このファイルはIBM製品の一つwatsonx Orchestrateの概要について説明した資料です。
チャット画面で、watsonx Orchestrateのプランについて教えてくださいのように入力してください。正しい回答は得られないはずです。
知識ソースのIBM年次報告書(2024)のボックス内にあるオプションをクリックし、詳細の編集を選択します。
右にある文書の追加を選択し、先ほど実施した手順と同じようにPPTファイルをアップロードします。
アップロード完了後、先程設定した名前をIBM関連文書に更新します。また説明についても財務情報とIBMのコア事業戦略を含んだ、2024年のIBMの年次報告書です。watsonx Orchestrateの概要情報です。と更新します。
再びチャット画面に戻り、watsonx Orchestrateのプランについて教えてくださいと入力します。ファイルをアップロードする前の結果とは異なり、プランの一覧の詳細が表示されることがわかります。

参考：モデルの変更

デフォルトでLLMが選択されています。現在のバージョンでは、llama-3-2-90b-vision-instructが選択されています。
wxOがサポートしているモデルに切り替えることが可能になります。現在サポートしているLLMはこちらです。

ユースケースに合わせたLLMを選択することで、適切な回答、処理を行うエージェントを作成することができます。