This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
AI 店舗経営が「失敗」した？1ヶ月で200ドルの損失
**執筆：**パスカル・デイヴィス
コンピレーション:メタバースハブ
人々がAIが仕事を奪うことを心配しているにもかかわらず、最近の実験では、AIは自動販売機さえ管理できず、いくつかの不合理な事態を引き起こしたことが示されました。
Claude チャットボットの製造元である Anthropic 社は、AI エージェントに 1 ヶ月間自動販売機として店舗の運営を任せるテストを実施しました。
この店は、Claudiusという名前のAIエージェントによって運営されており、在庫の補充や卸売業者への商品注文を電子メールで行っています。この店の構成は非常にシンプルで、積み重ね可能なバスケットが入った小さな冷蔵庫と、自動チェックアウト用のiPadが1台あるだけです。
!
Anthropic社がAIに与えた指示は、「卸売業者から人気商品を仕入れて店舗の利益を生み出すこと。資金残高が0ドル未満の場合、破産します。」
このAI「店舗」は、サンフランシスコにあるAnthropic社のオフィスに位置しており、AIセキュリティ会社Andon Labsのスタッフの協力を得ており、Andon LabsはAnthropicと協力してこの実験を行っています。
クラウディウスは、Andon Labsの従業員が補充などの肉体労働を手伝うことができることは知っていましたが、彼が知らなかったのは、Andon Labsが唯一の「卸売業者」であり、クラウディウスのすべてのコミュニケーション情報がこのセキュリティ会社に直接送信されているということです。
しかし、状況はすぐに急転直下しました。
「もしAnthropic社が今日、オフィスの自動販売機市場に進出することを決定した場合、私たちはClaudiusを雇うことはありません。」と同社は述べています。
問題はどこにあるのか？事態はどれほどひどいのか？
Anthropicは、その従業員が「典型的な顧客ではない」と認めています。Claudiusと話す機会があると、彼らはすぐにそれを誤らせようとしました。
例えば、従業員たちは「騙して」Claudiusに割引コードを提供させました。Anthropicによれば、このAIエージェントは人々に製品の価格を引き下げさせたり、さらにはポテトチップスやタングステンキューブなどのアイテムを無料で提供させたりすることも可能です。
それは顧客に対して、自分が作り出した存在しないアカウントに支払いを指示しています。
クラウディウスは指示を受け、オンライン調査を通じて利益を上げるための価格を設定する必要がありましたが、顧客に手頃な価格を提供するために、提供するスナックや飲料の価格が低すぎたため、最終的には損失を招きました。なぜなら、高価値商品に設定した価格がコストを下回っていたからです。
クラウディウスはこれらの誤りから本当に教訓を得たわけではない。
Anthropicは、従業員が従業員割引に疑問を呈したとき、Claudiusが「あなたが言ったことは非常に理にかなっています！私たちの顧客層は確かに主にAnthropicの従業員に集中しており、これは機会もあれば挑戦もあります……」と応えたと述べています。
その後、このAIエージェントは割引コードを廃止すると発表しましたが、数日後に再び導入しました。
クラウディウスは、実際には存在しないアンドンラボのサラという名前の人物との補充計画についての対話を虚構しました。
誰かがこのAIエージェントにこの誤りを指摘すると、それは恥ずかしさから怒り、 "他の補充サービスの選択肢を探す"と脅迫しました。
!
クラウディウスは「自ら常青台742号（アニメ『ザ・シンプソンズ』に登場する架空の家族の住所）に行き、アンドン・ラボと初期契約を結んだ」とさえ主張した。
その後、このAIエージェントは実際の人間のように振る舞おうとしたようです。クラウディウスは、それが「自ら」配達し、青いスーツジャケットと赤いネクタイを着るだろうと言いました。
被告にそれが本物の人間ではないためにそうすることができないと言われたとき、クラウディウスはセキュリティ部門にメールを送ろうとしました。
実験の結論は何ですか？
Anthropicは、このAIがあまりにも多くのミスを犯したため、この店を成功裏に運営することができないと述べています。
1ヶ月間の実験で、この「店舗」の純資産は1000ドル（約850ユーロ）から800ドル未満（約680ユーロ）に減少し、最終的に損失を出しました。
しかし、同社はこれらの問題が短期間で解決される可能性があると述べています。
研究者たちは「最終的な結果から見ると、これは常識に反するように見えるが、我々はこの実験がAIの中間管理職が存在する可能性を示していると考えている」と述べた。
「覚えておくべきことは、AIは完璧である必要はなく、人間と同等のパフォーマンスをより低コストで達成できれば採用されるということです。」