【人工知能とは】社会で期待される役割、AIの危険性、シンギュラリティなどの説明

AI 特集

コンピュータ将棋ソフトのPonanza(ポナンザ)がプロ棋士を相手に連戦連勝したり車の運転を完全に任せてしまえるシステムが実用化も近い等、人工知能が本格的に実用化される時代が、もうすぐそこまで来ている事を感じさせるニュースが連日、報道されています。

これらはこれからの私達の生活にどういった影響を及ぼすのでしょうか? 

映画で「コンピュータが人間を管理する社会」とか「人工知能が人間に対し反乱を起こし人間の敵となる」といった内容の物がこれまでに沢山、作られています。

こういった危険性は本当に有り得る事なのでしょうか? 

スポンサーリンク

人類の未来に待ち受けるシンギュラリティ

シンギュラリティとは、いわゆる人工知能が人間を完全に超越することで起こり得る様々な事態を指します。日本語では技術的特異点とも呼ばれ、ニュースなどでも大きく取り上げられるようになりました。

これを提唱したのはアメリカにおける、人工知能研究の世界的な権威であり、実業家でもある人物です。

彼がシンギュラリティの到来を予言した年代に当てはめ、2045年問題という呼び方も定着しています。

実は本来のシンギュラリティにおける意義と、世間に流布しているイメージとは、すでに乖離しているのが現状です。

一般的には、単に人工知能が人間より頭が良くなることと認識されています。しかしそんなことは、些末な事柄に過ぎません。

本当に重要なことは、シンギュラリティによって人間の能力も大きく底上げされ、新たな進化を遂げることです。それにより新たな文明が築かれ、様々な社会的問題も一気に解決の糸口が見つかるようになります。機械が人間を支配するようなイメージは、少なくとも提唱者の概念とは大きく外れているといっていいでしょう。

近年においては、ディープラーニングがチェスの世界王者を負かすなどして話題になりました。今後、研究と開発が進めば、もっと幅広い分野において活用が図られることになります。

すでに医療や交通の現場においては実用化が進められており、芸術や創作においてすら、無縁ではありません。

一方、量子コンピューターが実現されたことにより、人工知能がより高度化することは確実となりました。

とはいうものの、現在においては、今の初歩的な人工知能ですら、正しく扱えているわけではありません。インプットしているデータに誤りがあったり、結果を人間が読み違えるなどは、日常茶飯事です。

シンギュラリティが始まれば、そのようなヒューマンエラーが介在する余地のない、極めて新進的な世界になります。それをいたずらに恐れるのではなく、柔軟に受け入れることこそが、恩恵を得る近道となるのです。

ロボット三原則

この話題を語る時に必ず登場するのが科学者であり作家でもあったアイザック・アシモフ氏の考案によるロボット三原則です。

第1条 ロボットは人間に危害を加えてはならない。
第2条 ロボットは人間に与えられた命令に服従しなければならない。
第3条 ロボットは第1条および第2条に反しない無い限り自己を守らなければならない。

実際にはもう少し細かい付則的な内容もあるのですが分かりやすく並べてみました。

コンピュータが人間より優れている点は「記憶能力」と「演算能力」です。人間は1週間前の金曜日の夕食は? といった事は中々思い出せませんし、8桁の数字の四則演算を暗算する事は一部の方を除いてほとんどの方には出来ないでしょう。

しかしコンピュータはそれをいとも簡単にやってしまいます。つまりコンピュータは人間より優れているのです。何しろ人間が出来ない事が出来るのですから。

価値判断

しかし考えてみて下さい。私達は徒歩で東京から大阪まで2時間半で行けるでしょうか? 新幹線はそれを可能にしてくれます。つまり新幹線は人間より優れている訳ですが誰も「人間は新幹線に支配される」「新幹線が人間の敵となる」とは考えません。なぜなら「新幹線はロボットでは無い。運転手が運転をしているのであって便利な道具に過ぎない」と思っているからです。

AIと新幹線が違うのは新幹線は運転手の操作に従って動きますがAIは「どう動くべきか」を自身が判断して自動的に動くという点です。それは大きな相違点ですが、逆に言うと相違点はそれだけなのです。

「自分で判断して動く」という点が一見、喜怒哀楽、好き嫌いという感情を持っているかのように錯覚を起こさせてしまいますが実際にはそれは有り得ません。

何が正しくて、何が間違っているのかという価値判断は究極的には判断する人の価値観によりますが、こういった「価値観」というのは人それぞれに違います。

ジャズが好きな人もいればクラシックが好きな人もいてAKB48が好きな人もいるのです。つまり個々の価値判断は本人には正しくても他の人から見れば正しく無い事が往々にして有り、絶対性、普遍性が無いのでプログラムにする事は現時点では不可能ですし将来、可能になっても、それを組み込む意味、そのものが有りません。

コンピュータの判断とは人間のような価値観による物ではなく累積した記録から計算された確率的判断(これを学習機能と言います)或いは、あらかじめプログラムされた判定条件、或いは人間の命令により行われる物なのです。

ですので映画のように「AIの方が人間よりも正しい判断が下せるからAIの方が優秀であり人間はAIに従う方が正しい」といった「個人的な価値観」に基づいた判断をAIが行う事は将来的にも有り得ないと考えて良いでしょう。

人工知能も道具である

つまり人工知能も道具であるという事です。道具は、それを使う人によって便利な物にもなり危険な物にもなります。

包丁は炊事には欠かせませんが、それで人を刺す事も可能です。アシモフのロボット三原則はアシモフ自身が自作のSF小説を書く時の材料として提示した物ですが「安全・便利・長持ち」という形で理解して頂く方が現実的です。

例えば人工知能に殺人を命令するという悪用をする人が出て来るかもしれません。こういた悪用を防止するために設けられているのが第1条です。

また累積記録データから確率的に判断した結果と人間の命令が相違する場合もあります。こういった場合には「人間の命令を優先せよ」というのが第2条です。

あくまで仮の話ですが大事故が発生し多数の負傷者が出た場合に誰を優先的に治療するか?を決めるのは経験の有る医師だけに可能な事であり、いくら累積記録データが多いと言っても確率的判断に任せて良い物ではありません。しかし外来診療において定型的な症状から病名を推察するのは、むしろ便利で早く確実かもしれません。

また、そういった重要な道具が簡単に壊れてしまっては大変です。現在でも業務システムのシステムダウンは企業の業績に大きな影響を与えるのです。それが第3条です。

道具は使う人次第で便利な物にも危険な物にもなります。人工知能をうまく使いこなせるかどうかは、人間の使い方次第という事です。単純な繰り返し作業の仕事、力のいる仕事、危険な仕事、正確さを要求される仕事、こういった分野でうまく活用されれば非常に便利な物になる事は間違いありません。その一方、軍事的用途に使用されないよう監視も必要です。

そして監視が必要なのは人間の方なのです。

タイトルとURLをコピーしました