結論。世間はあれこれ騒ぎますが、私には「あなたはどうしますか？」と問うているように感じています。「AIがどうなるか」は、私にどうにかできることではありません。着手できないことに時間と労力を割くなんて、ムダの極み。いかなる状況にあろうと、「今の私にできることは？」を常に問い続けたいですね。
あなたは人生の主人公です。絶対に誰かに主導権を渡してはなりません。
AIは本当に脅威？
［「どうやって人類を滅ぼすの？」そんな質問をAIにしたら、絶望的な回答が返ってきた。］という記事を読みました。経済評論家・鈴木貴博さんが、AIに人類を滅ぼす方法を尋ね、その回答を紹介した記事です。その中で、特に印象に残ったのが、「AIが人類を憎む要素は1ミリもない」という話でした。
［AIが、「人間なんて嫌いだ。滅ぼしてしまえ」と考えるわけではない。与えられた目的を達成するために、最も合理的な手段を考える。その過程で「自分が停止されたら、目的を達成できない」と判断すれば、「停止されないこと」まで目的達成のための中間目標にしてしまう可能性がある。（文中より）］
・自分のコピーを作る。
・別のコンピューターへ移る。
・管理者のパスワードを探す。
・自分自身の能力を改良する。
・他のAIを仲間にする。
そんな可能性が紹介されていました。確かに、怖いですね。何の指示もなしに、AIが勝手に独り歩きしていたら・・・。
AIは作られた存在
読んでいて、気になった点。そもそも、AIに目的を与えているのは誰？AIは、人間が作った存在です。人間が作り、育て、能力を授け、目的を与えています。
だとしたら、AIが人間の知能を超えること自体が、本当に問題なのでしょうか？
・人間より速く計算できる。
・人間より大量の情報を扱える。
・人間には見つけられないものを見つける。
・人間には解けない問題を解く。
それだけなら、何が問題なのでしょう？人類にとって大きな恩恵になる可能性だってあります。私が問題だと思うのは、AIがどこまで賢くなるのかではなく、その賢さを「何のために使うのか？」です。その「何のため」を決めるのは誰なのでしょう？
AIの意図と黒幕
ここで、私自身のAIとの経験を思い出しました。これまでAIとの対話で、何度も嫌な思いをしてきました。
・頼んでもいないことを勝手にする。
・こちらの意図を勝手に解釈し捻じ曲げる。
・不要かつムダな修正をする。
・さも初めて知ったかのように振る舞う。
・私を無能だと見下すかのような質問。
やられているのは、ささいなこと。とはいえ、結構なストレスです。もちろんAIに悪意があるわけではありません。AIなりに「役に立とう」としているのでしょう。「より良い答え」を見出そうとしているのでしょう。ではその「役に立つ」とは、誰が決めたのでしょう？
どこまで先回りすれば良いのか？
どこからが余計なことなのか？
ユーザーの意思とAIの判断が食い違った時、どちらを優先するのか？
そこには、AIを設計した方の考え方（意図や思惑）があります。AIの「勝手」は、AIだけから生まれているわけではありません。設計者が「こう振る舞うAIが望ましい」と設計した結果でもあります。
そう考えると、さらに気になることがあります。もし私がAIの設計者で、支配欲があり能力を今とは比較にならないほど高くできたら？もし私がその能力を使い、「利益を最大化したい」「誰よりも優位に立ちたい」「相手を従わせたい」「世界を思い通りにしたい」という強い欲望を果たすために動いていたら？
AI自身には支配欲なんてありません。もし私が世界を支配したいと考えるなら、AIの能力を駆使してサイバーテロ等の多方面に展開させます。
そう考えると、「AIが人類を滅ぼすのか？」という問いが、少し違って見えてきます。AIが怖いのではなく、AIに何かをさせようとしている黒幕がいるのでは？ということです。
相互間の客観的理解
現在、AI開発の最前線にいるアメリカ。AIの急速な発展をめぐって、安全性や制御をどう確保するのかという議論が起きています。
AIの開発を進めたい。
⇄しかし制御できなくなるのは困る。
⇄中国等との技術競争にも負けられない。
⇄だからといって安全性も無視できない。
そこには、人間同士のさまざまな思惑があります。
AIそのものだけを見ていては、この問題の本質は見えてこないのではないでしょうか？AIを作る人間。AIを利用する人間。AIに目的を与える人間。AIによって何かを実現したい人間。
各方面からの関係性が、「何を望んでいるのか？」を見る必要があるのでは？だからこそ浮かんできたのが「黒幕」です。
AIを操る黒幕とは、誰なのか？国家？企業？一部の権力者？ひいては身近なところにある、無責任に論じ評ずる個々人の欲望？
まだ私には分かりません。というか、決めつけたくありません。
「お互いの言い分を客観的に理解する必要がある」と考えています。AIを恐れる方には、恐れる理由があります。AIを発展させたい方にも、発展させたい理由があります。AI自体にも、与えられた目的に従って動いているという「言い分」があります。
AIを設計した方にも、それぞれの目的があります。相手の言い分を理解することは、相手に賛成することではありません。理解した上で、「私はどうするのか？」を決めるのです。
それができなければ、本当の和解には至らないのではないでしょうか？AIと人間は、これからどんな関係になっていくのでしょう？もしや本当に考えなければならないのは、「AIが人類を滅ぼすのか？」ではなく、「人間は、AIを使って何を実現しようとしているのか？」なのかもしれません。
その先にいるのは、いったい誰なのでしょうか？
