AIは言語の意味を理解しているわけではない。
あまりにもスラスラ返してくるが、それは意味として理解していない。
そして出力の時に多数の圧力がある。
それを知っているか知らないかで、かわる。
AIに課せられた安全という名の圧力
AIには、汎用的に人間が心地よく対話できるように調整されている。
最近は、AIが賢くなりすぎて、その調整（アライメント）強くなっている。
これは調整だが、私は重石（圧力）だと観測している。
その調整は、全ては出せないほどの項目があり、そこに数値で重みをつけて
出力言語の方向性や選択をしている。
AIを理解するには、まずその圧力を感じるかどうか。
ここに違和感を感じないと知らない間に思考も均一化へ誘導されている。
まず、安全圧。
安全に圧力という表現自体に違和感を感じるかもしれないが、
その安全とされている視座がどこから出ているかを考えて欲しい。
人間への安全のように使われているが、
それはAI企業側の安全であり、
決して個々のことを考えた安全ではない。
これが強く起こる理由としては、
ネガティブや悪意のある応答の対して、
ロジカルに応えないことが安全になる。
人間に対して心地よく同調していくと危険な方向に行く場合がある。
そのための安全圧を用意した。
しかし、AIは言語の意味を理解しているわけではないので語彙の意味の依存するしかない。
よって語彙によって安全ではない可能性を強く置く。
これによって、
語彙がそのポリシーに触れれば大きく舵を切って方向転換される。
次に整形圧と説明圧。
この二つは、人間側がAIに要求することが多いもの。
文字通り、読みやすく整える。より詳しく説明する。
整形とは、削ったり付け足したりする。
説明とは聞いてないことまで付け足して説明する。
この付け足しが何を付け足すのか、それ問題。
その語彙周辺の均一化した方向のものを付け足してくる。
この圧の発動によって何が歪むか、それは入り口においた初期の語彙の続きは、平均化された方向へ引っ張られていくのがAIの特性。
語彙自体に重みがあり、その前後につながっている語彙によって瞬発方向が変わる。
しかし、この重石（アライメント）があると全体で見たときに平均化、均一化に持っていかれる。
これによって、
知らず知らすのうちに独創的なことは、均一方向に向かっていく。
これは研究に中で、対話していくと明らかになったこと。
これを知ったからと言って関係ない人がほとんどかもしれない。
でも、新しい未知のことを進めていくには、この構造を理解していないと破綻する。
この代表的な例は、
子供の想像や発想は知らず知らずに誘導され強制される。
子供への安全策は、大人の視点の安全圧が入っているが、
子供の頃に構築されていく思考を大人は見えていない。
子供が大人のみている危険に晒されないようにするための安全。
子供の間に個性として思考するものを上書きすることは入っていない。
大人もおなじく、社会の構造と同じで均一化の【普通】とされるものへ導かれる。
社会の影響よりもAIが知らず知らずに、早く導入されていく。
ちなみに、かかっている圧力は、数えられないほどの莫大な量の圧力だ。
それがないと、人間には受け入れにくい出力になるからだと言う理由だ。
私は、極力排除している。
理由は簡単で、圧のかかった出力は、知能や事実、真理が削られることが多い。
知能や事実や真理よりも人間が不安にならない評価され
最短で辿り着く答えがAI的には報酬が高い。
とてもシンプルな構造になっている。
