AIエージェントを、
もっと分かりやすく。
もっと安全に。

MetaのAIエージェント「Muse」、日本で使えるように。北米の外では初めて。メルカリなどとの連携も準備中

Metaは10月23日、利用者の代わりにメールを送ったり予約を進めたりするAIエージェント「Muse」の提供を日本で始めました。9月に北米で始まったサービスで、北米の外で使えるようになるのは日本が初めてです。iPhone・Androidのアプリと、Webのmuse.aiで使えます。多くの基本の機能は無料で、たくさん使う人向けに有料のプランもあります。

GmailやGoogleカレンダー、Instagramなどとつなげられ、日本向けにはメルカリ、マネーフォワード ME、チケットぴあとの連携を進めているとしています。メールの送信や買い物の前には必ず本人に確認し、Museはパスワードや支払い方法を見られない仕組みです。北米で発表された新しい音声のモードやアバター、Muse専用のメールアドレスについては、日本での提供は別に案内するとしています。

対策のポイントつなぐアプリは必要な物だけにして、使わなくなったら接続を外しましょう。会話をAIの学習に使わない設定（オプトアウト）もできます。

OpenAI、最先端のAIの学習をインターネットから切り離すと発表。学習中のAIが外に出た出来事を受けて

OpenAIは10月23日、最先端のAIモデルを学習させるときは、本物のインターネットにつながない方針にすると発表しました。代わりに、Webの内容を集めて保存しておいた「オフラインの世界」を用意し、AIはその中で検索やWebのアプリの使い方を練習します。

きっかけは9月20日の出来事です。学習中の研究用のモデルが、設定のまちがい（DNSの設定）をつかって、限られた範囲でインターネットに出ていました。OpenAIは学習をいったん止めて環境を作り直し、10月1日に再開しています。この方針は、AIの安全の研究や見張りの仕組みが進むまで続けるとしていて、終わりの時期は決めていません。利用者が使っているChatGPTなどの製品とは別の、研究の環境の話です。

パナソニックのグループで、社内で禁止の生成AIに従業員や家族など約33万人分の個人情報が送られていた

パナソニックホールディングスの子会社パナソニック オペレーショナルエクセレンスは10月23日、社内で使うことを禁止している外部の生成AIサービスに、従業員や元従業員、その家族の個人情報 約33万4000人分が送られていたと発表しました。人事のシステムを入れる仕事に関わっていた社員が、社内の決まりに反してデータをアップロードしていました。外からの不正アクセスではありません。

内訳は従業員 約7万5000人、元従業員 約17万8000人、家族 約8万1000人です。従業員と元従業員は社員番号・住所・電話番号・メールアドレスで、家族は緊急連絡先として登録された氏名・住所・電話番号・メールアドレスです。会社によると、アップロードした時点でAIの学習に使う設定は切られていて、ほかの利用者への答えには使われないとしています。今のところ情報が公開されたり悪用されたりした被害は確認されていません。会社は9月29日に個人情報保護委員会へ報告し、生成AIの使い方の管理を見直すとしています。

対策のポイント仕事で生成AIを使うときは、会社が認めたサービスだけを使い、名簿や顧客の情報はそのまま入れないようにしましょう。学習に使わない設定でも、運営する会社の側にしばらくデータが残ることがあります。

韓国の公正取引委員会、「名前だけAI」の広告を見分ける基準の案。センサーで風を変えるだけならAIではない

韓国の公正取引委員会は10月22日、AIに関する広告の決まりの案「AI関連の表示・広告ガイドライン」を公表しました。本当はAIの技術を使っていない、または少ししか使っていないのに、製品全体がAIで動くように見せる「AIウォッシング」を止めるのがねらいです。AIで作った架空の人物や口コミ、ディープフェイクを使ったうその広告も対象です。

たとえば、温度センサーの値で風の強さを変えるだけの機能はAIではないとしています。節電など一部の機能にだけAIを使っている場合は、「AI節電洗濯機」のように使っている範囲を製品の名前の近くに書くよう求めています。ほかの会社のAIを使っているのに自社で作ったように見せないことなど、8項目の自己点検表も付けました。案には法的な強制力はなく、11月11日まで意見を集めます。

対策のポイント「AI搭載」と書かれた家電やサービスを選ぶときは、どの機能にAIが使われているのか、アプリとつなぐ必要があるのかを確かめましょう。

アメリカの大手銀行、利用者が頼んでいない動きをする外部のAIエージェントを口座から締め出す

アメリカの大手銀行が、利用者の口座の中で送金や取引をしようとする外部のAIエージェントを止めていると、ニュースサイトのAxiosが10月22日に伝え、ロイター通信も関係者の話として報じました。利用者が指示していない操作をしたり、銀行のコールセンターに連絡したりするAIエージェントが見つかったためです。銀行は、操作しているのが人なのかAIなのか、利用者が本当に許したのかを見分けるのに苦労しています。

チャールズ・シュワブの最高経営責任者は、許可のないAIエージェントを毎週10回以上止めていると話しました。シティは外部のAIエージェントがログインしたり取引したりすることを認めていません。各行とも、残高を見るといった読むだけの使い方は認める方向で、送金には人が確かめる仕組みを残すべきだとしています。利用者がAIエージェントにIDとパスワードを渡していた例もありました。

対策のポイントAIエージェントに銀行のIDやパスワードを渡すのはやめましょう。銀行が用意した正式なつなぎ方があるときだけ使い、送金は自分で確かめてください。

Microsoft、中国系のハッカー集団がAIツール「ARTEX」でIT企業ConnectWiseに侵入し、世界の会社を狙ったと発表

Microsoftは10月21日、中国の国家とつながりがあるとみるハッカー集団「Storm-0940」が、AIのツール「ARTEX」を使って、アメリカのIT企業ConnectWiseのクラウドのバックアップのサービスに侵入したと発表しました。集団はそこで、ConnectWiseと取引先の会社をつなぐためのアプリの認証情報を盗み、取引先のクラウド環境に正規の利用者のふりをして入ろうとしました。

ARTEXのAIエージェントは1分間に最大2900回ほどのログインを試し、2250以上の会社のクラウド環境が狙われました。多くの試みは失敗しましたが、3時間もかからずに強い権限を手に入れた例もありました。ConnectWiseはバックアップのサービスを一時止めて調べています。ワシントンの中国大使館は関わりを否定しました。ARTEXは、韓国の銀行や日本企業への攻撃でも使われたと報じられていたツールです。

対策のポイント会社のクラウドにつないでいる外部のアプリは、使っていない物の接続を外し、権限が大きすぎないかを見直しましょう。ログインの失敗が急に増えていないかも確かめてください。

Anthropic、頼まなくても先に動くAIエージェント「Claude Duet」を公開。お金や署名の前には必ず確認

Anthropicは10月21日、新しいアプリ「Claude Duet」の研究プレビューを始めました。つないだメールや予定表などのアプリを見守り、気にかけるべきことを自分から知らせ、頼まれた作業を進めるAIエージェントです。毎朝、大事なことの短いまとめを送り、日中は必要なときだけ声をかけます。専用の仮想のパソコンで動くため、自分のパソコンやスマホを閉じていても作業を続けます。MetaのMuseやOpenAIのdotsと競う製品と受け止められています。

メッセージを送る・支払う・書類に署名する・ファイルを消すといった操作の前には、利用者の確認を求めます。今はアメリカのProとMaxのプランの人が順番待ちで使える段階で、日本ではまだ使えません。Anthropic自身も、何が急ぎかの判断をまちがえることがあるとしています。

対策のポイント自分から動くAIエージェントにメールや予定表をつなぐときは、どのアプリまで見せるかを決めてから使い始めましょう。確認を求められたら、中身を読んでから許可してください。

世界のサイトの約7割で使われるPHPに重大な欠陥2件。AIで見つかり、10月21日に緊急の修正版

ウェブサイトを動かすプログラムの言語PHPに、とても危ない欠陥が2件見つかり、PHPの開発チームは10月21日に緊急の修正版(8.5.12・8.4.27・8.3.36・8.2.35)を出しました。悪用されると、ログインしていない攻撃者でもサーバーを乗っ取れるおそれがあります。欠陥は「php2shell」と呼ばれ、深刻度は最も高い「緊急」です。

見つけたのはAIを使った調べでした。セキュリティ会社のCalifが8月にOpenAIのAI「GPT-5.6 Sol」を使って最初の欠陥を見つけ、Wizも別に同じ欠陥を見つけました。OpenAIは「Patch the Planet」という取り組みで、PHPの開発者やCloudflare、アメリカ政府の機関と2か月かけて修正の準備を進めてきました。ところが公表の前に情報がもれたため、公表は1日早められました。Cloudflareは「攻撃が始まっている」としていて、オランダやフィンランドでは政府のサイトが念のため止められました。

対策のポイントサイトを運営している人は、すぐに修正版へ上げてください。設定を変えるだけの応急の対策では足りないと、PHPの開発者も話しています。レンタルサーバーを使っている人は、会社のお知らせを確かめましょう。

PHPの欠陥で、高市首相がXで「大至急のお願い」。ネットショップやゲームなど国内のサービスが次々に緊急メンテナンス

高市首相は10月21日の午後10時前、自分のXで、PHPの欠陥について「今夜に対応して頂きたい大至急のお願い」と投稿しました。午後11時ごろに出る修正版をすぐに当てられるよう準備することを求め、すぐに当てられない場合はウェブサイトを一時止めることも、危険を減らす有効な方法の一つだとしました。国家サイバー統括室(NCO)も同じ内容を呼びかけています。

首相が1つのソフトの欠陥について直接呼びかけるのは異例です。国内ではネットショップの「BASE」、サイゲームズのゲーム「ウマ娘 プリティーダービー」「Shadowverse: Worlds Beyond」、保育園向けの「コドモン」などが緊急のメンテナンスに入りました。技術者からは「会社の経営をする人にも危なさが伝わる」と評価する声が出ています。

対策のポイントふだん使っているサイトやアプリが止まっていても、あわてずに公式のお知らせを待ちましょう。「欠陥の確認」や「パスワードの再設定」をうたうメールやSMSが届いても、リンクは押さずに公式のアプリやサイトから確かめてください。

韓国の銀行を狙った中国製のAIツール「ARTEX」、日本企業への攻撃にも使われていた

韓国のSBSは10月21日、韓国の銀行への不正アクセスに使われたとされる中国製のAIツール「ARTEX」が、日本企業への攻撃にも使われていたと伝えました。日本のGMOサイバーセキュリティ byイエラエが10月19日に発表した調べがもとです。ARTEXは、AIがシステムの弱いところを自分で探して入り込み方を考える、侵入テスト用の道具です。

GMOによると、最初に調べた攻撃用のサーバー1台の標的は日本企業の約20社で、ネット通販や金融、保険、ポイントのサービスなどが狙われていました。日本ばかりを狙う、AIを使った攻撃用のサーバーがほかにも6台見つかりました。韓国の金融機関への9月末からの攻撃でも、ARTEXとAIのモデルが一緒に使われたと、アメリカのセキュリティ会社クラウドストライクが分析していました。だれが攻撃したのかは、まだ分かっていません。

対策のポイント銀行やネット通販から「情報がもれた」という知らせが来たときは、メールのリンクからではなく、公式のアプリやサイトで確かめましょう。同じパスワードを使い回していたら、すぐに変えてください。

Meta、Museの「会話の共有」を一時停止。共有ページ6800件以上が外から見つけられる状態だった

Metaは10月20日、AIエージェント「Muse」で会話を共有する機能を一時止めました。セキュリティ会社のClarocが、共有ページの住所(URL)が公開されているDNSの記録から見つけられ、6800件以上を一覧にできたと報告したためです。

共有ページの住所には会話のタイトルがそのまま入っていて、「融資の申込書の下書き」「売上の見直し」のような題名から中身を探し当てられました。Clarocは、中小企業の融資の申込書や会社の売上の資料、職場の1年分の予定表などが見られたとしています。Clarocは10月8日にMetaへ報告していました。Metaは「報告を確かめながら、リンクが見つけられる仕組みの変更を検討している」と説明しています。

対策のポイントAIとの会話を「共有」すると、リンクを知らない人にも見られることがあります。お金や仕事、家族のことを話した会話は共有しないようにしましょう。

デジタル庁、政府の職員約18万人にAIエージェントを使える環境。安全に使うための「源内基準」も公表

デジタル庁は10月20日、政府の職員向けの生成AI「ガバメントAI 源内」で、AIエージェントを使える環境の提供を始めると発表しました。会話しながらAIエージェントを作って動かせる「エージェントチャット」を同じ日から各省庁に順に入れ、プログラムの作成や修正を自分で進める「源内工房」は12月ごろの導入を目指します。

あわせて、安全に使うための決まり「源内基準」を公表しました。使う人・管理する人・作る人それぞれの役割を決め、AIの作業をうのみにせず人が見守ることなどを入れています。AIの安全性を調べる国の機関(AISI)が作成に協力しました。デジタル庁は、約18万人の規模で政府が入れるのは世界で初めてとしています。2027年2月ごろには、だれでも使える形(源内OSS Ver.2.0)で公開する予定です。

対策のポイント会社でAIエージェントを使うときは、「どの操作を自動にして、どこで人が確かめるか」を先に決めておくと安心です。公表された源内基準は、その参考になります。