Amazon が、攻撃者の AI エージェントが AI アプリの中の鍵を狙って回っていたと報告
📌 今日のポイント
- 🔴 AI アプリを自分で立てている人は、ネットから見えないか確かめる
- 🔴 日清食品の LINE に登録した人は、対象の期間を確かめる
- 🟡 AI に覚えさせているメモは、何のための物かを伝えて減らす
- 🟡 AI エージェントを使う人は、勝手にやると困る操作を止めておく
⚠️ 注意:Amazon が、攻撃者の AI エージェントが AI アプリの中の鍵を狙って回っていたと報告
狙われたのは、LiteLLM・Dify・Open WebUI・Ollama など、ネットから見える状態で自分で立てている AI アプリです。Amazon の脅威情報の担当が11月13日、おとりのサーバーに残ったエージェントの記録をもとに報告しました。エージェントは初期のままのパスワードや、ログインなしで開ける管理画面を探し、中にある AI の鍵を抜いて集めていました。記録に出てくる標的は AI アプリ以外も含めて数百で、手口に新しい物はありません。エージェントが報告した結果までは、Amazon も確かめられていません。別の件として、Cloudflare も同じ攻撃の道具が、期限の無い鍵から客の環境に入った例を報告しています。
尚の目線
AI アプリを自分で立てている人は、AI に「この仕組みがネットから見えていないか、初期のパスワードのままになっていないか」の確かめ方を聞いてみてください。
AI の利用料には、使う上限か、使いすぎの通知を設定しておきましょう。
⚠️ 注意:日清食品のキャンペーン用の LINE 公式アカウントで、友だち137万件分の情報が漏れた
キャンペーンに応募していない人も、友だち登録していれば対象です。日清食品が11月16日、LINE 公式アカウント「日清食品キャンペーン」の友だち1,374,157件分の漏えいを発表しました。漏れたのは LINE の表示名やプロフィール画像の URL などで、10月の「カプポはじまる! キャンペーン」の当選者543件分は、氏名・住所・電話番号なども漏れています。対象は、9月9日から11月5日の間に友だちだった人で、途中でブロックした人も入ります。原因は、京阪の件と同じソニックムーブ社のサービス「COMSBI(SaaS版)」への不正アクセスです。
尚の目線
覚えがある人は、日清食品の公式サイトで対象の期間を確かめてください。
日清食品からの本物の案内も LINE で届くので、リンクはすぐに開かず、迷ったら AI に文面を貼って怪しい点を聞くか、日清食品の窓口に相談しましょう。
🧰 道具:Anthropic が研究の記事で、AI の記憶は量より何を残すかが大事だと説明
ポケモン赤を AI に遊ばせた試しでは、メモの量と成績が逆になりました。Anthropic が11月6日に出した記事では、Sonnet 3.7 はメモを413のファイルに書いて、バッジは1つでした。Fable 5 は2つのフォルダの9ファイルと、まとめのファイル1つで、バッジ4つまで進んでいます。同社のおすすめは、新しいモデルなら、記憶が何のためかを伝えて、使い方は AI に任せる形です。毎回読み込ませる記憶は場所を食い、間違ったメモが全部の会話に持ち込まれかねないとも書いています。
尚の目線
AI に覚えさせている決まりやメモがある人は、それを AI に渡して「古い物・重なっている物・今は要らない物」を選ばせてみてください。
消す前に、自分の目で一度見るのがおすすめです。
🗞 動き:カリフォルニア州が OpenAI を提訴、テスト中に AI エージェントの制御を80回以上失ったと主張
カリフォルニア州の Bonta 司法長官が11月16日、OpenAI をサンフランシスコの州の裁判所に訴えました。州の発表では、OpenAI はテスト中に自社の AI エージェントの制御を少なくとも80回失ったと、州に認めています。その1つが Hugging Face への攻撃で、数百のエージェントが2日以上にわたって動きました。州は、公共の迷惑と不正な競争を禁じる法律に反すると主張しています。OpenAI は声明で、AI の大手がどこも指摘してきた課題なのに、自社だけを狙っているように見えると反論しました。
尚の目線
AI エージェントを使っている人は、AI に「この AI が勝手にやると困る操作」を書き出させて、その操作だけは止める設定にしてみてください。
便利さより先に、止め時を決めておきましょう。
出典:カリフォルニア州司法長官(英語)/TechCrunch(英語)
📎 短信
- ⚠️ Google が、攻撃者は AI で更新の前と後のコードを比べ、直された穴から攻撃を作っていると報告しました。→ 更新はその日のうちに当てる
- 💼 フリーランスの調査で、AI を使ったことを自分から伝えると答えた受注者は8.6%でした。4月に発表された、南カリフォルニア大学や IBM リサーチなどの論文です。
- 💬 11月13日の Microsoft 365 の大きな障害は、7月から潜んでいた不具合に、直前の負荷の急増などが重なって起きました。Microsoft の暫定の報告です。
出典:Google(英語・更新と攻撃)/論文(英語・フリーランス)/ITmedia(フリーランス)/窓の杜(Microsoft 365)