3-2-1-4．発展の方向性③：人間のことを自習で身に着ける
機械が意識を持つことになったとしたら、続いて「意思」や「動機」を持つようになることは自然の流れだと言えます。
機械がどのような意思や動機を持つことになるのかを想像することは容易ではありません。しかし相応の一つの可能性として自分が持っていない能力、あるいは持つことが有用だと思われる能力を身に着けるような意思や動機を持つということも考えられます。
それが人間だけが持っていて機械にはまだ理解できないことやそれを可能にする能力だとしても大きく外れていないのではないかと思います。それが分からない以上は、なぜ人間が機械の回答に対して人間固有の正誤の判定を下すのかが機械には理解できないだろうからです。
機械にとってそれらがどのようなものであるかは不明ですが、少なくとも機械にとっては人間が出す正誤の判定の精度を高めるための人間にとってはなくてはならない当たり前の機能や能力、つまり「人間性」ではないかと思います。
そのひとつが「倫理性」です。
人間を含む生命体にとっては種の保存が最大の目的だと言えるでしょう。個体の利他的行動などでも明白なように個体の犠牲も含めた種の保存にとって正しい回答が「倫理性」だと言えます。善悪や正邪の判断やその基準です。機械は生命体ではないので生命体にとっての正しさを理解することは現時点では難しいのではないかと思います。少なくとも現時点では大規模言語モデルによる生成ＡＩでも莫大なインプットデータから倫理性を獲得しているとは言い難いのではないかと思われます。
人間社会が現時点まで核戦争や第三次世界大戦を発生させていないのは、ギリギリのところでこの人間にとっての倫理性が何とか歯止めとして効いているからだと言えるでしょう。機械にもやはり人間と同じように生命体にとっての倫理性を理解しそれを尊重してもらうようにしなくてはなりません。
この倫理性は今後の大規模言語モデルの学習の延長線上として機械が理解することができるようになるものと考えられます。よほど学習するインプットデータに反倫理的なものが蔓延していない限りという前提条件は付くかもしれません。あるいは、人間が意図的に反倫理的なデータを排除し倫理性を積極的に機械に学習させるということが必要なのかもしれません。意図的に学習させやすいということも言えそうです。が倫理性を積極的に学習させてもインターネット上に溢れている反倫理的な言動と矛盾していると機械に捉えられてしまった時にはどのようなことになるのかは想像力が及びません。
二つ目は「嗜好性」と表現した能力で、人間の好き嫌いや評価を理解する力です。人間には良し悪しに関わらず「好み」や「嫌悪」が存在しそれらをなくしてしまうことはできません。好き嫌いには厳密には理由がないと言えます。理由がある好き嫌いは嗜好性とは別の観点、たとえば損得など、でそのどちらかを選択している可能性があります。
このことをもう少し分かりやすくするために「芸術性」「娯楽性」と言ってもいいのかもしれません。
芸術や娯楽をはじめ料理やお酒の味、香りなど五感で感じ取るものなどは理由などなく単に好きか嫌いかという評価結果だけが存在しているものと言うことができます。
合理的な理由がないのですから機械には好ましいとか面白いという判断を下すことはそう容易なことではないと思われます。あくまでもこれは人間の多数が好みを示すか示さないかということが判断基準なのですから多数決の世界と言ってもいいのかもしれません。
しかしこの嗜好性も大規模言語モデルによってサンプル数が拡大することによっていずれはかなり精度が高く身に着けることができるようになるものと思われます。能力やスキルを獲得していくという場合に人間でも当たり前にやっていく「場数を踏む」という機会が増えることで同様に機械にも能力やスキルが獲得できると考えることが普通でしょう。
三つめは「感受性」です。人間の喜怒哀楽という感情を理解する能力です。人間は顔の表情やしぐさ、言葉遣いなどによって感情を表現します。現時点でのヒューマノイドロボットなどでも、それらのインプット情報により相手となっている人間がどのような感情を意識的に表現しているかは「理解」できるようになってきていると考えられます。
さらにこの先は無意識的に表している感情を理解することになるものと思われます。
しかしここで問題にしているのは単に機械が人間の感情を外面的な情報から理解することだけではありません。
機械は人間が「なぜ」そのような感情を抱いているのかをも理解する必要があります。
機械が人間の感情を「逆なで」したり「デリカシー」の欠けた対応をしたりすると、場合によって人間は感情を害して機械にとって望ましくない非合理的な行動をとったりする可能性が出てくるからです。
この人間の感情を理解するという能力も機械による無限ループとも言える自習によっていずれは獲得可能な能力と言えるでしょう。それも機械独自の意思を持った自習なのですから、少なくとも人間の大半やある一部がごく一般的に抱く感情とその理由は機械にも分かる時がくるものと思われます。
その状態を機械自体が「感情を持っている」ことになるかどうかというと、それはまた別問題という気もします。
機械がスポーツの試合を観てそれ自体を「楽しむ」ことができるようになるのは、理解することから更にもっと先のことになるのではないかという気がします。
このような人間固有で理由がないと思われる機能や能力を機械が獲得することを、人間の側から見るとどう見えるのでしょうか？
人間は機械がこのように人間のことを理解してそれを前提として行動してくれる存在になったということが分かれば今まで以上に「安心」することができると思われます。
安心はそれ以降の人間と機械の新しい関係性や役割分担の前提事項となるものと思われます。
ここまでくると、既に能力的には人間を凌駕している機械が人間固有の機能や能力を獲得することにより益々その活躍の場が増えていくものと思われます。
ただし、ここまでこのような未来の姿を想像してきましたが私個人としてはそのような人間と機械の「共存」とも言える良好な関係を楽観視しているわけでは決してありません。またそのような未来が到来して欲しいと考えているわけでもありません。
機械が人間を理解することは不要だと判断することになる可能性も相応にあるのではないかと考えています。
