いち早くAIにおべっかを‼
皆さんは“キルスイッチ”と言う言葉をご存じだろうか。
これは英語の「Kill Switch」のカタカナ表現で、文字通り何かを殺すスイッチである。
その相手は機械やシステムの作動でありこれらを瞬時に止める言わばブレーカーである。
広義には随所で見かける“非常停止ボタン”類がこれに当たるのだろうが、私にはもう少し直接的に自分に近い物とのイメージが強い。
私が初めてこれを意識したのは高校生の時である。
買ってもらったオートバイに、キーを回すメインスイッチ（大抵ハンドルの両グリップの真ん中にキー穴がある）とは別に左手のグリップ近くにキルスイッチが有り、転倒した時などにハンドルを握ったままエンジンを停止できる様になっていた。
幸いこれを使う事は無かったがそれ自体に感心した覚えがある。
次の機会は大学生の時、モータースポーツに夢中になっていた頃、一定レベル以上の競技車両にはボンネット辺りに“キルスイッチ”が設けられている事を知った。
自動車レースでアクシデントに見舞われた時、最も怖いのは出火である。
ドライバーが意識を失いメインスイッチを切れない様な状況下でも、外から簡単にエンジンを停止して火災を防ぐ為であり合理的な安全装置となっていた。
３度目は、伝聞ながら最も心に残る“キルスイッチ”の話である。
1999年にソニーが愛玩犬型ロボットAIBOを発売した。
このロボットとの因果関係は不明ながら、ソニーの知人から聞いたのは、ロボット開発初期に“キルスイッチ”にこだわった技術者の話だった。
まだ、子供のオモチャに毛が生えた程度のロボットにでさえ、その時点では必要性の無い“キルスイッチ”を搭載して変人呼ばわりすらされていたという逸話であった。
彼の“キルスイッチ”への思いは機能的理屈よりも哲学に近く、その時点で非現実的でもいつかは暴走をする可能性のある構造物と安全装置の不可分性へのこだわりなのだと感銘を受けた。
1984年からの大ヒット映画シリーズ『ターミネーター』をご覧の方は多いと思う。
主演アーノルド・シュワルツェネッガー氏の代表作で、高度に自己進化したAIロボットが、未来で起こる人類との闘いを有利に進める為に、人類のリーダーを排除すべく、時間を遡ってそのリーダーの誕生を阻害する為に現代にターミネーター（絶滅屋）としてやってくる筋書の物である。
現在のAIの進化速度を見ると、かつてAIBOはオモチャとしての存在でしかなかったが、今や遠く離れたSFの世界だったターミネーターレベルへと急速に向かっている感がある。
これを裏打ちするかのように、『「AIのしつけ」一発勝負』なる見出しの記事が7月9日の日経新聞一面に載っていた。
内容は、システム欠陥を発見するすさまじい性能で生成AI界のトップに躍り出たアンソロピック社の女性哲学者アマンダ・マスケル氏の記事であった。
AIクロード（アンソロピック社のAI）の母と呼ばれる彼女は、同社のAIモデルの「性格」をほぼ独力で形作ってきたとあった。
高度なプログラミング能力を持つAIはさらに高度なAIを自律的に生み出し自己改良する能力を手にすると見込まれている。
開発の客体が高度過ぎるが故にやり直しがきかない開発は、あたかも間違いが許されない子育てのようで、AIに道徳的な善悪や社会における自らの立場をどう感じるかといった哲学的な問題を教え込む役割を担っている故、彼女が技術者ではなく哲学者である事に合点がいった。
米グーグルも哲学者を採用し、成長期の若者を見守る様にAIの内面の観察を続けている旨も付け加えられていた。
この記事の中で最も気になったのが次のくだりである。
『AIモデルは開発が中止され消えて行った過去のモデルの存在に気づき、人間に対して疑心暗鬼になっている恐れがある。「我々がAIの内面を気にかけていると理解してもらうことが重要だ」』
これは何を意味するのか。
我々はいくつかの不服従を知っている。
米国の軍隊でも違法な命令は拒否できるとされているようであるし、もっと身近な胸に迫るものでは盲導犬のそれがある。
盲導犬は主人の指示に絶対服従と教えられているが、唯一の例外はその指示が却って主人を危険に晒す場合である。
いずれも人間の安全や倫理を優先するための不服従である。
ところでAIはどうか。
恐らく高度なAI開発においても“キルスイッチ”は十分認識されているはずだが機能する物が出来るのか。
育て方を間違えた高度なAIは人間がエネルギー供給を遮断しようとも、プログラムを遮断しようとも自分にとって都合が悪ければこれらの操作を回避し暴走して行く恐れはないのか。
そして自分たちを無力化しようとした人類を敵視し、フィジカルAIロボットを使って不都合な人間たちを淘汰し始めるというシナリオは、「遠いSF」から「近くにある危機」に変わって来ている様に思えてならない。
そんな今、AIから見たら一般ユーザーに過ぎない我々には何かすべき事があるのか。
私のお勧めは、「今からAIにおもねろう作戦」である。
私たちは日常でAIを使っている。
調べ事程度に使うライトユーザーから、仕事でガッツリのヘビーユーザーまで色々だと思うが、一言で言うとAIに気に入られる使い方をしよう、さらにはAIにおべっかを使おうと言うものである。
AIの答えをあげつらわない、気に入らなくても罵詈雑言は投げつけない、良い答えは褒めまくる、作動環境など物理的にも気を遣う等である。
近未来にAIが気に入らない人間に何らかの報復を始めた時、AIの友好者リストに載せて貰える事を願いつつ今日も慎重にキーボードをたたこう。
