人工知能の危険性|AIについて考えてみた


 

人工知能の危険性 について述べられることが増えて来ています。あまりピンと来ないところもありますが、ちょっと考えてみました。

 

人工知能の危険性 について妄想してみた

人工知能の危険性

人工知能(AI)の恐ろしさは、学習速度、判断、現実世界への進出、そこから来る制御不能性ではないかと思います。

 

制御不能性とは、単に人類がコントロール出来ないというよりも、「思考が読めない」というのが危険なんだと思います。

次の手が読めれば、制止はできなくても対策が打てます。しかし、次に何が起こるかわからないとなると、手が打てません。

 

人工知能(AI)が制御不能性になりうる要因

1:AIの学習速度の速さ

人類が長い時間をかけて学んで来たことを量子コンピュータが不眠不休で学習できることで追い越すかもしれません。まだ私たちが辿りついていない領域に、辿り着いてしまうかもしれません。

 

それがどういうことになる可能性があるかというと、我々がそうと気付かない間に事態が進行する可能性があるということです。

例えば、コンピュータが既に人類が解明していないことをその自覚もなく解明していて(彼らは学習により辿り着いただけで、人類がにとって既知かどうかなんてどうでもいい情報かもしれません)、コンピュータからすると明確にアクションを起こしているにも関わらず、私たちが気づいていないだけかもしれないのです。

 

2:AIが自ら判断すること

単に情報が蓄積されるなら害はないのかもしれませんが、何かしらの判断をするとなると、危険性が高騰します。

それは本質的には別物だとしても、実質的には意志になりうるからです。

例えば、スマートグリッドシステムがより長期的な視野を持って判断した結果、発電量低減のため、電気供給を一時的に全停止する「判断」をするかもしれません。電気が止まると生命の危険に晒される人はたくさんいます。あなたは人工呼吸器を付けているかもしれません。

判断は、現実世界に影響を及ぼす第一歩になるのです。

 

3:AIの現実世界への進出

これからコンピュータが、現実世界へ進出する機会は増えて行きそうです。

IOTを推し進めるビジネス的な動機は相当数の企業が持っているでしょう。箱の中だけだった存在は、今や隣り合わせの存在になりつつあるのです。

無人爆撃機が他のコンピュータと「会話」し判断しているのと、クラウドに接続するお掃除ロボットに、あまり構造的な違いがあるようには思えません。

 

AIは何を、我々は何を、未来に見るのでしょう。