AIは将棋を途中でやめることはしない

人工知能(AI)がブームになって,最近巷でよく聞かれるのは

「AIが人類に反乱を企てるような危険性はないのか?」

という心配.ニュースで評論家がこのようなことを口にしているのをよく見かけるようになった.だけど,この疑問はちょっとでもAIのプログラムを開発した人ならわかると思うけど,結論から言えば「絶対にない」

なぜなら,AIは基本的に入力と出力が決まっていて,その中の構造も決まっている.その枠組みの中で最も望ましい出力をするには,内部のパラメータの値をどう変化させていくのかという問題に帰着する.

つまり,「AIに何をさせるのか?」という目的により入出力と内部構造が決まるわけだから,設計者があらかじめ作ったフレームワークを超えることは原理上ありえない.

たとえば将棋をプレイするAIを考えよう.将棋のルールに特化し,そのルールの下で勝利するのに最良な一手を探し出す.その一点に優れているだけであって,解を探してる途中で

「疲れたからやめた!」

という出力が現れて反乱を起こすなど絶対にありえない.いくらAIが発展したところで,所詮「ソフトウェア仕掛けの機械」.将棋であれば,次なる一手を出力する以外の機能はないし,そのためのアルゴリズムが淡々と動いているだけである.「疲れたらやめる」という選択肢を意図的に人間が設計しない限り,そのようなことは起こりえない.翼がないのに空は飛べないのである.

「知能」という言葉だけが一人歩きしてしまって,人類に反乱を起こすんじゃないかとか,SFの世界を考えてしまう人がいる.今後もそういう時代が絶対来ないと断言はできないが,少なくとも現状のAI技術ではそのようなことはありえない.

 

人工知能の危険な点は利用する人間にある

むしろ現状で一番懸念されることは,こういう人工知能を人間が悪用することだ.つまり,AIそのものが自らの意思で反乱や犯罪を犯すのではなく,AIを悪用する「人間側の問題」である.

しかも,昔と違って人工知能のコードを書くために専門書にかじりついて理論を読み解く必要がない.ネットからライブラリをダウンロードし,サンプルを動かすくらいなら全く知識のない人でも簡単に出来る.

こんなに手軽にAIのツールが使えるなら, 高度に知的なコンピュータウィルスを開発したり,人間になりすまして悪事を働くようなプログラムを開発する輩が出てきても全然不思議じゃない.

 

ビッグデータありきのAI技術に疑問

ま,そういう問題は,政府や人工知能学会とかの偉い方々に考えていただくとして,私は如何にこういう技術を研究に活かそうかと考えている.でも,最近のAI技術は深層学習に見られるように大規模データありきで考案された手法が多いので少々難儀している.私が扱っている生体データは深層学習に適するほど大規模ではない.

そこでふと考えたが,スモールデータでも人間は学習して知的な行動ができる.だけど,AIは知的な行動の前提として,ありとあらゆる場合を含む大量の事例(ビッグデータ)が不可欠だ.つまり何から何まで教えてくれないと行動できないのである.「一を聞いて十を知る」という知性まで実現されていない.

 

http://sosui.sakura.ne.jp/wp/wp-content/uploads/2017/06/IMG_0047.jpghttp://sosui.sakura.ne.jp/wp/wp-content/uploads/2017/06/IMG_0047-300x225.jpgsosui_yoshiGEEKな世界AIは将棋を途中でやめることはしない 人工知能(AI)がブームになって,最近巷でよく聞かれるのは 「AIが人類に反乱を企てるような危険性はないのか?」 という心配.ニュースで評論家がこのようなことを口にしているのをよく見かけるようになった.だけど,この疑問はちょっとでもAIのプログラムを開発した人ならわかると思うけど,結論から言えば「絶対にない」 なぜなら,AIは基本的に入力と出力が決まっていて,その中の構造も決まっている.その枠組みの中で最も望ましい出力をするには,内部のパラメータの値をどう変化させていくのかという問題に帰着する. つまり,「AIに何をさせるのか?」という目的により入出力と内部構造が決まるわけだから,設計者があらかじめ作ったフレームワークを超えることは原理上ありえない. たとえば将棋をプレイするAIを考えよう.将棋のルールに特化し,そのルールの下で勝利するのに最良な一手を探し出す.その一点に優れているだけであって,解を探してる途中で 「疲れたからやめた!」 という出力が現れて反乱を起こすなど絶対にありえない.いくらAIが発展したところで,所詮「ソフトウェア仕掛けの機械」.将棋であれば,次なる一手を出力する以外の機能はないし,そのためのアルゴリズムが淡々と動いているだけである.「疲れたらやめる」という選択肢を意図的に人間が設計しない限り,そのようなことは起こりえない.翼がないのに空は飛べないのである. 「知能」という言葉だけが一人歩きしてしまって,人類に反乱を起こすんじゃないかとか,SFの世界を考えてしまう人がいる.今後もそういう時代が絶対来ないと断言はできないが,少なくとも現状のAI技術ではそのようなことはありえない.   人工知能の危険な点は利用する人間にある むしろ現状で一番懸念されることは,こういう人工知能を人間が悪用することだ.つまり,AIそのものが自らの意思で反乱や犯罪を犯すのではなく,AIを悪用する「人間側の問題」である. しかも,昔と違って人工知能のコードを書くために専門書にかじりついて理論を読み解く必要がない.ネットからライブラリをダウンロードし,サンプルを動かすくらいなら全く知識のない人でも簡単に出来る. こんなに手軽にAIのツールが使えるなら, 高度に知的なコンピュータウィルスを開発したり,人間になりすまして悪事を働くようなプログラムを開発する輩が出てきても全然不思議じゃない.   ビッグデータありきのAI技術に疑問 ま,そういう問題は,政府や人工知能学会とかの偉い方々に考えていただくとして,私は如何にこういう技術を研究に活かそうかと考えている.でも,最近のAI技術は深層学習に見られるように大規模データありきで考案された手法が多いので少々難儀している.私が扱っている生体データは深層学習に適するほど大規模ではない. そこでふと考えたが,スモールデータでも人間は学習して知的な行動ができる.だけど,AIは知的な行動の前提として,ありとあらゆる場合を含む大量の事例(ビッグデータ)が不可欠だ.つまり何から何まで教えてくれないと行動できないのである.「一を聞いて十を知る」という知性まで実現されていない.  アラフォー三流研究者の日常とGEEKな世界