2018年2月23日 16:17 発信地：パリ/フランス
国民監視からテロまで、AIが悪用される近未来の脅威 専門家らが警鐘
【2月23日 AFP】独裁者や犯罪者、テロリストが人工知能（AI）を利用して選挙を操作したり、ドローン（小型無人機）によるテロ攻撃を行ったりしたら？──20人を超える世界の専門家が、AI技術の悪用に警鐘を鳴らす報告書を発表した。
21日に発表された報告書「The Malicious Use of AI: Forecasting, Prevention, and Mitigation（AIの悪用：予測、防止、リスク軽減）」で、英国ケンブリッジ大学（University of Cambridge）の「存在リスク研究センター（CSER）」や米国の「電子フロンティア財団（EFF）」、「新米国安全保障センター（CNAS）」、AI研究非営利団体「オープンAI（OpenAI）」などの専門家らは、作業を自動化するプログラム「bot（ボット）」を利用したニュース取材・収集への介入や、ソーシャルメディア（SNS）への侵入、急成長するサイバー犯罪などを挙げ、向こう10年間に起こり得るシナリオに関する分析結果を100ページに及ぶ報告書にまとめている。
CSERのエグゼクティブ・ディレクター、ショーン・オヘイガティ（Sean O hEigeartaigh）氏はAFPに対し「サイバーセキュリティ、物理的安全、政治的安全保障のすべてにまたがる形で、AIは新たな脅威を及ぼすか、あるいは今ある脅威の性質に変化をもたらすだろう」と述べた。
■個人に対するサイバー攻撃の進化
報告書によるとまず、マルウエア（悪意のあるソフトウエア）が仕込まれたメールを送信し、個人情報を不正に取得する詐欺の手口である「フィッシング」の脅威が増すことが考えられる。例えば、現在の技術では特定の個人を標的とする「スピアフィッシング」には手間がかかるが、「AIを使えばプロセスの多くを自動化し、大規模なスピアフィッシングが可能になるだろう」とオヘイガティ氏は言う。
■独裁者による国民監視
政治に関わる部分では、自国民をスパイするために張り巡らされた監視ネットワークから集めた大量のデータを、独裁的な指導者や無節操な政治家らが最新技術を使ってふるいにかけることがすでに可能な状態だ。「独裁者は政権転覆を計画している者たちをいっそう敏速に把握し、居場所を特定し、彼らが行動を起こす前に投獄することが可能になるだろう」と報告書は述べている。
また、安価でありながら真実味のあるフェイク（偽）動画を使った特定の対象へのプロパガンダは、「これまでに想像できなかった規模で」世論を操作する強力なツールとなりつつあるという。
■掃除ロボットが自動テロ
ドローン（無人機）やロボットが普及しつつあることも迫りくる新たな危険だ。自動運転車を衝突させたり、ミサイルを運搬したり、重要インフラを脅して身代金を得ようとしたりと、本来の目的とは異なった使い方をされることもあり得る。
「個人的に特に懸念しているのは、犯罪者や国家組織の両方によって自律移動できるドローンがテロに使われたり、サイバー攻撃が自動化されたりする可能性だ」と話すのは、英オックスフォード大学（Oxford University）人類未来研究所（Future of Humanity Institute）の研究員で報告書の著者の1人、マイルス・ブランデージ（Miles Brundage）氏だ。
報告書では実際に起こり得る出来事として、爆弾を仕掛けられたオフィス用掃除ロボットが他の同型のロボットにまぎれ、ドイツ財務省に侵入するシナリオが詳述されている。
侵入したロボットは通常通り掃除をしたり、ごみ箱を片付けたりするが、隠された顔認識ソフトが標的の財務相を特定すると接近していく。このSF的なシナリオでは最後、仕掛けられた爆発装置は近接で爆破され、同相を殺害、周辺にいた職員を負傷させて終わる。
「これから5年、10年の未来がどうなる可能性があるかをこの報告書は想像している」「われわれはAIの悪用による危険性を日々はらんでいる世界に住んでおり、この問題に対する責任を負う必要がある」とオヘイガティ氏は言う。
報告書の著者らは政策立案者や企業に対し、ハッキングされないロボット運用ソフトウエアの作成や、安全保障の観点から一部の研究に制限を課すこと、またAI開発を管理する法と規制の拡大の検討などを求めている。
続きはこちらで↓
http://www.afpbb.com/articles/-/3163470
ドイツ・ハノーバーで開催された情報通信技術見本市「セビット（CeBIT）」で、機器の操作を行う人工知能（AI）搭載の人型ロボットの腕（2013年3月5日撮影、資料写真）。(c)AFP/CARSTEN KOALL
国民監視からテロまで、AIが悪用される近未来の脅威 専門家らが警鐘
【2月23日 AFP】独裁者や犯罪者、テロリストが人工知能（AI）を利用して選挙を操作したり、ドローン（小型無人機）によるテロ攻撃を行ったりしたら？──20人を超える世界の専門家が、AI技術の悪用に警鐘を鳴らす報告書を発表した。
21日に発表された報告書「The Malicious Use of AI: Forecasting, Prevention, and Mitigation（AIの悪用：予測、防止、リスク軽減）」で、英国ケンブリッジ大学（University of Cambridge）の「存在リスク研究センター（CSER）」や米国の「電子フロンティア財団（EFF）」、「新米国安全保障センター（CNAS）」、AI研究非営利団体「オープンAI（OpenAI）」などの専門家らは、作業を自動化するプログラム「bot（ボット）」を利用したニュース取材・収集への介入や、ソーシャルメディア（SNS）への侵入、急成長するサイバー犯罪などを挙げ、向こう10年間に起こり得るシナリオに関する分析結果を100ページに及ぶ報告書にまとめている。
CSERのエグゼクティブ・ディレクター、ショーン・オヘイガティ（Sean O hEigeartaigh）氏はAFPに対し「サイバーセキュリティ、物理的安全、政治的安全保障のすべてにまたがる形で、AIは新たな脅威を及ぼすか、あるいは今ある脅威の性質に変化をもたらすだろう」と述べた。
■個人に対するサイバー攻撃の進化
報告書によるとまず、マルウエア（悪意のあるソフトウエア）が仕込まれたメールを送信し、個人情報を不正に取得する詐欺の手口である「フィッシング」の脅威が増すことが考えられる。例えば、現在の技術では特定の個人を標的とする「スピアフィッシング」には手間がかかるが、「AIを使えばプロセスの多くを自動化し、大規模なスピアフィッシングが可能になるだろう」とオヘイガティ氏は言う。
■独裁者による国民監視
政治に関わる部分では、自国民をスパイするために張り巡らされた監視ネットワークから集めた大量のデータを、独裁的な指導者や無節操な政治家らが最新技術を使ってふるいにかけることがすでに可能な状態だ。「独裁者は政権転覆を計画している者たちをいっそう敏速に把握し、居場所を特定し、彼らが行動を起こす前に投獄することが可能になるだろう」と報告書は述べている。
また、安価でありながら真実味のあるフェイク（偽）動画を使った特定の対象へのプロパガンダは、「これまでに想像できなかった規模で」世論を操作する強力なツールとなりつつあるという。
■掃除ロボットが自動テロ
ドローン（無人機）やロボットが普及しつつあることも迫りくる新たな危険だ。自動運転車を衝突させたり、ミサイルを運搬したり、重要インフラを脅して身代金を得ようとしたりと、本来の目的とは異なった使い方をされることもあり得る。
「個人的に特に懸念しているのは、犯罪者や国家組織の両方によって自律移動できるドローンがテロに使われたり、サイバー攻撃が自動化されたりする可能性だ」と話すのは、英オックスフォード大学（Oxford University）人類未来研究所（Future of Humanity Institute）の研究員で報告書の著者の1人、マイルス・ブランデージ（Miles Brundage）氏だ。
報告書では実際に起こり得る出来事として、爆弾を仕掛けられたオフィス用掃除ロボットが他の同型のロボットにまぎれ、ドイツ財務省に侵入するシナリオが詳述されている。
侵入したロボットは通常通り掃除をしたり、ごみ箱を片付けたりするが、隠された顔認識ソフトが標的の財務相を特定すると接近していく。このSF的なシナリオでは最後、仕掛けられた爆発装置は近接で爆破され、同相を殺害、周辺にいた職員を負傷させて終わる。
「これから5年、10年の未来がどうなる可能性があるかをこの報告書は想像している」「われわれはAIの悪用による危険性を日々はらんでいる世界に住んでおり、この問題に対する責任を負う必要がある」とオヘイガティ氏は言う。
報告書の著者らは政策立案者や企業に対し、ハッキングされないロボット運用ソフトウエアの作成や、安全保障の観点から一部の研究に制限を課すこと、またAI開発を管理する法と規制の拡大の検討などを求めている。
続きはこちらで↓
http://www.afpbb.com/articles/-/3163470
ドイツ・ハノーバーで開催された情報通信技術見本市「セビット（CeBIT）」で、機器の操作を行う人工知能（AI）搭載の人型ロボットの腕（2013年3月5日撮影、資料写真）。(c)AFP/CARSTEN KOALL
