尚ブログなめらかな言葉で間違える AI は、事務的に正しい AI と同じくらい信じられると、オランダの大学が発表
📌 今日のポイント
💬 話題：なめらかな言葉で間違える AI は、事務的に正しい AI と同じくらい信じられると、オランダの大学が発表
8割の人が、AI の答えの誤りにまったく気づきませんでした。オランダのラドバウド大学が10月29日に発表した研究です。参加者は『指輪物語』の基本を知っている人から選ばれ、AI と人の会話を1つ読んで AI を評価しました。会話は、人らしいなめらかな言葉か、短く事務的な言葉かと、答えが正しいか、さりげない作り話が混じるかの組み合わせで4種類です。なめらかな言葉で間違える AI は、事務的に正しく答える AI と同じくらい賢く、感じがよいと評価されました。
尚の目線
AI に調べ物を頼んだら、最後に「この答えで確かでない所と、元の出典を挙げて」と聞いてください。
言葉がなめらかな答えほど、一度立ち止まりましょう。
出典：ラドバウド大学（英語）／論文（英語）／GIGAZINE
⚠️ 注意：Cursor が、Fireworks AI に渡していた鍵を盗まれ、AI との作業の記録の一部を写し取られたと公表
AI でプログラムを書く道具の Cursor が11月13日、AI の会社 Fireworks AI に発行していたアクセスの鍵を、攻撃者に入手されたと公表しました。写し取られたのは、プライバシーモードを使っていなかった人のうち一部（利用者全体の0.05%未満）の、主に2025年の AI との作業の記録です。少数の記録には、伏せられていない認証の情報が含まれていました。影響のある人には個別に連絡済みで、通知が届いていない人のデータは含まれていません。Fireworks AI の同じ件で一部の会話が漏れた Notion も、会話の中で見つかった Notion の API の鍵を11月11日に無効にしました。
尚の目線
11月3日の記事の短信に書いた改ざんされた拡張機能も、今回の報告では、漏れた認証の情報を使って置かれたと説明されています。
Cursor のアカウントがある人は通知のメールが届いていないか確かめ、届いた人は AI に貼った鍵やパスワードを作り直しましょう。
出典：Cursor／Notion（英語）
🗞 動き：Claude Max の「5倍・20倍」の広告をめぐる裁判、米国の裁判所が「誤解を招きうる」として続けると判断
Claude Max（今の Max と Ultra）の「Pro より5倍・20倍多く使える」という広告が誤解を招くとして、契約者2人が Anthropic を訴えた裁判です。米カリフォルニア北部の連邦地裁が11月6日、訴えを全部退けてほしいという Anthropic の申し立ての一部を認め、一部を退けました。命令は、問題の広告は誤解を招くおそれがあるとして、裁判を先へ進めると書いています。一方で、訴えの書き方では、使える量の上限を「おとり商法」のように絞ったとは言えない、とも書いています。勝ち負けや返金が決まった判決ではありません。
尚の目線
11月5日の記事の短信のとおり、倍率は「5時間ごと」と「1週間ごと」で違うことがあります。
有料の AI を選ぶ時は、料金のページを AI に読ませて「自分の使い方で、どの上限に先に当たるか」を聞いてみてください。
📎 短信
- ⚠️ フランスの銀行 Arkéa が委託先から入られ、銀行自身の口座から送金されました。被害は約1億ユーロ近く、お客さんの預金は無事で、会長は AI に助けられた可能性が高いと見ています。
- 🧰 Firefox に入っている VPN が、2027年1月31日まで通信量の上限なしで使えるようになりました。PC と Android が対象で、使える国は公式の案内で確かめてください。
- ⚠️ AI で攻撃を進める道具「ARTEX」が、AWS の Cognito の自己サインアップから一時的な鍵を得ました。その先は権限が無く失敗しています。→ 使わない自己サインアップは止める
出典：AFP・Boursorama（フランス語・Arkéa）／Crédit Mutuel Arkéa（フランス語・PDF）／Mozilla（英語・Firefox）／Datadog（英語・ARTEX）