読者です 読者をやめる 読者になる 読者になる

人工知能が世界を滅ぼす?

最近、人工知能って言葉がやたらとバズっててそれに合わせて色々な応用事例やら解説なんかみたいなものを読むことが多くなっていて、なんか三文SFみたいな世界が現実になってるんだなぁっと思ったりもする。

その反面、やれ人類を滅ぼしてやるとか、ヒットラーがどうしたとかの言動も話題になったりして「人工知能が危ない」とかの話も語られるわけで。でも、冷静に考えて現時点の人工知能が世界征服って概念を持っているとはとても思えないし、誰かや思想的なものを持っているようにも思えない。もちろん、そんなSFな世界はいずれ来るんだろうと思うけど、直近で心配するのはもっと別のもののような気がしている。

きっとそれは人工知能が世界を征服するとか人間を支配するとかいう話ではなくて、たまに金融界隈で起こっている「フラッシュ・クラッシュ」が実世界の広範囲で起こるって話だと思うんだよね。

あんだけ金かけて、あんだけ金を動かしているシステムでさえあのザマなんだから、人工知能が普及して物事を制御している世界になったら、どっかの車がタイミング悪く急停止しただけで、連鎖反応が街のあちこちで起こって、どっかの電力が緊急停止するとかそういうことも起こりそう。マジで風が吹けば桶屋が儲かる現象。いや儲からないけど。どちらかと言えば超高速バタフライ・エフェクト

人工知能って学習した結果に基づいてアクションを起こすんだけど、人間ならおかしいと思って対応を躊躇するレベルの現象でも自動的に対応しちゃう。もちろん、そこがいいところなんだけど、シリアスな場面でいい面悪い面出ちゃうと思うんだよ。

そして、そこら辺はDeepLarningとかなんとか言っても、結局経験がない現象には対応できないので意味は無いのだよな。まぁ、逆に言えば何百回か痛い目見れば学習するだろうから良いんだ説はあるんだろうけど、個々の人工知能が学習を同期するわけないので、個々に何百回か痛い目みないといけない。たぶん、そんな社会的なコストは掛けられないと思うんだ。でも、普及していく。

じゃぁ、人工知能と人間の両方の判断を使いましょうとか言うと、そういうのは大体ヘボい方に寄ってしまって意味は無いし、人工知能を複数準備して合議制で決めましょうとかいうと、それはそれでマギシステム再びみたいなよくわからない話になっていくと思うんだよね。もしくは中央で統制する何か別のシステムを準備して協調性を上げていくとかなんだろうけど、結局その中央で制御する何かのセーフティーを担保するものはなにもないわけで。

世の中にはフェイル・セーフって概念があって、そういったものがセーフティーを担保するって言い方もできるけど、そんなものはあって今でも当たり前で、あってるのに色々なことが起こる。そういったものが自動的に判断されていく中でどうなるんだろうって話が一番おもしろい話なんだろうなぁ。