メニュー

米MIT、「サイコパス」アルゴリズムを開発 AIを活用

2018年12月7日 - limeimei2

 米マサチューセッツ工科大学(MIT)メディアラボは8日までに、人工知能(AI)を活用した「サイコパス」アルゴリズムを開発したと明らかにした。アルゴリズムの名前は「ノーマン」。アルフレッド・ヒッチコック監督の映画「サイコ」の主要登場人物にちなみ命名された。AIの背後にあるデータの重要性を示すのが狙いだ。MITの研究者はノーマンの訓練にあたり、死者などに関する生々しい画像や動画の内容を説明する文章を使用した。画像や動画は米掲示板サイト「レディット」の「最もダークな片隅」に投稿されたものだ。そのうえで、ロールシャッハ心理テストで使われるインクのしみに対してノーマンがどのように反応するかを調査。通常の訓練を受けた別のアルゴリズムの反応と比較した。このアルゴリズムはインクのしみの中に花や結婚式のケーキを見いだしたが、ノーマンは人間が射殺されたり、車でひき殺されたりする様子を見て取ったという。MITの研究チームはCNNMoneyの取材に、「ノーマンは画像に関する恐ろしい文章だけに接していたため、どのようなイメージを見ても死を連想してしまう」と説明した。機械学習アルゴリズムに偏ったデータが使われ、AIが誤った方向に進んだ場合の危険性を物語っているという。AIの善良さはデータ次第ということを示す例としては、米マイクロソフトが2016年に公開したツイッターのチャットボット「Tay(テイ)」がある。マイクロソフトの広報担当は当時、テイについて社会的・文化的・技術的な実験と説明。しかしツイッターのユーザーがテイを挑発し、人種差別的で不適切な発言をするように仕向けた。