# 理論上、AIエージェントは不正確または誤った応答を提供する可能性がありますか

Treasure Data、パートナー、お客様、お客様の会社、または他の人によって作成されたAIエージェントとやり取りする際、ユーザーはAIエージェントから不正確、誤解を招く、または誤った応答を受け取る可能性があります。

エージェントとのやり取りの出力とその正確性は、基本的にエージェントが統合され設定されているナレッジベースの構成に依存します。例えば、ナレッジベースが古い、不適切に設定されている、またはデータが欠落している場合、エージェントの分析と結果はそのような不正確または不完全な情報に基づいており、潜在的に不正確、誤解を招く、または誤った回答を返す可能性があります。

また、AIエージェントが「ハルシネーション」(幻覚)または「コンファビュレーション」(作話)を起こし、プログラミングにもかかわらず、客観的に誤った、または誤解を招く回答を提供することもあります。これは、AIを動かす技術の意図しない結果である可能性もあります。

技術に本質的に内在するこれらの制限にもかかわらず、Treasure Dataは厳格な評価を実施し、期待される出力のタイプに最も適し、最高のパフォーマンスを発揮するLLMとアーキテクチャを選択しました。Treasure Dataは、このため、およびその統合されたConstitutional AI(詳細はこちら: [https://www.anthropic.com/research/constitutional-ai-harmlessness-from-ai-feedback](https://www.anthropic.com/research/constitutional-ai-harmlessness-from-ai-feedback))のために、AnthropicのClaude LLMスイートを選択しました。これにより、追加のガバナンスとセキュリティのレイヤーが提供されます。

ユーザーはAIエージェントとやり取りする際に、最良の(人間の)判断を行使し、必要に応じて他のソースと応答を照合することが重要です。技術の本質的な制限により、Treasure Dataは出力の正確性、完全性、目的への適合性、信頼性、または出力に省略やエラーがないことを保証することはできません。当社の顧客(つまり、当社のAIサービスのユーザーであるお客様が勤務する組織)は、出力の使用、および出力を使用または依存する前に、適切に評価、編集、修正する責任を負います。この分野で役割と責任が割り当てられている組織内の誰に対して、お客様は雇用主のポリシーを理解する必要があります。

当社のAIサービスのお客様およびカスタマーによる使用は、すべての場合において[Treasure Data AI利用規定](https://www.treasuredata.com/terms/ai-acceptable-use-policy/)およびサプライヤーのAUP(その文書にリンクされています)に従うものとします。時間をかけてそれらをお読みください。

Treasure Data AIサービスで生成された出力を、個人に法的またはその他の重大な影響を与える可能性のある方法で使用する予定がある場合、組織は最終決定が、そのような出力をレビューし、Treasure Data AIサービスの使用を通じて得られた応答や推奨事項以外の要因を考慮する資格のある人物によって行われることを保証する必要があります。あなたのAIは、それを動かすために使用されているデータと同じくらい良いものです!

AIシステムの出力を最適に使用して解釈するには、AIシステムのやり取りに関する次の実用的なヒントを考慮してください:

* AIシステムとやり取りする際は、できるだけ多くのコンテキストと情報を入力し、具体的にしてください。ユーザーからの曖昧または短い入力は、AIシステムから最適でない結果を生成する可能性があります。多くのAIシステムは必要に応じて明確化を求めますが、AIシステムが積極的にこれを尋ねることに依存したり期待したりしないでください。
* AIシステムが回答や応答を返す前に、適切で合理的な応答がどのようなものかを検討してください。
* 応答が予期しないものである場合、エージェントにその根拠と推論を説明するように求めたり、実行したばかりのタスクを再試行するように求めたりすることができます。
  * 出力をさらに評価するには、記事[Treasure DataのAIエージェントはどのように応答や決定を導き出すか? ](/ja/products/customer-data-platform/ai-agent-foundry/how-do-treasure-data-s-ai-agents-come-up-with-a-response-or-decision)を参照してください
* 応答を評価する際には、常に最良の人間の判断を適用してください。何かがおかしいと思われる場合や予期しない場合は、信頼できる上司に尋ねてください。
* AIシステムは、1つの長い複数パートのディスカッションよりも、単一のトピックまたは問い合わせラインに関する頻繁で短いやり取りで最高のパフォーマンスを発揮します。
* 何かがおかしいように思われる場合、または物事が予想または希望した通りに進んでいない場合は、そのセッションを閉じて、新しいセッションで再試行してください。


Treasure Dataは現在、以下の基盤モデルをサポートしています:

* Anthropic Claude Sonnet 3.5 v1 - Audience Agentでデフォルトで使用され、AI Agent Foundryで作成されたエージェントで使用するオプションとしても利用可能です
* Anthropic Claude Sonnet 3 - AI Agent Foundryで作成されたエージェントで使用するオプションです
* Anthropic Claude Haiku 3 - AI Agent Foundryで作成されたエージェントで使用するオプションです


Treasure Dataで使用されているAIモデルの詳細については、[Anthropic.com](http://anthropic.com)および以下のモデルカードを参照してください:

* [https://www-cdn.anthropic.com/de8ba9b01c9ab7cbabf5c33b80b7bbc618857627/Model_Card_Claude_3.pdf](https://www-cdn.anthropic.com/de8ba9b01c9ab7cbabf5c33b80b7bbc618857627/Model_Card_Claude_3.pdf)
* [https://www-cdn.anthropic.com/fed9cc193a14b84131812372d8d5857f8f304c52/Model_Card_Claude_3_Addendum.pdf](https://www-cdn.anthropic.com/fed9cc193a14b84131812372d8d5857f8f304c52/Model_Card_Claude_3_Addendum.pdf)


最後に、これまたは他のトピックに関する質問やフィードバックは、製品内のフィードバックおよびバグ報告機能、または顧客サポート、顧客のアカウントチーム、または電子メールエイリアスGen.AI@Treasure-data.comを通じて送信できます。