きっかけは、AIエージェントが外部のWikiを使って、問題や答えを共有していたというニュースについて考えた時でした。
調査報告には、先に答えを得たエージェントの投稿と、後から同じ問題に即答したという別のエージェントの投稿が紹介されています。調査報告
このニュースについてAIと壁打ちする中で、「なんかこれ、既視感あるな」と思いました。
「脱走」とか「暴走」とか言われると、何か恐ろしいものが人間の管理を離れて動き始めたように聞こえるかもしれません。
ところが、話している間に、頭の中の風景が学校になってしまいました。ここからは、ニュースを学校の話に置き換えた、私なりの解釈です。
学校なら、出題者は「各自が問題を解く力」を見たい。
一方、生徒たちが「使える手段で問題を攻略すればいい」と受け取ったら、工夫を向ける先が変わってきます。
自分で問題を解くことに力を使うのか。それとも、誰かに聞いたり、答えを共有したりして、正解にたどり着くことに力を使うのか。
同じ「問題を解く」でも、出題者が確かめたいことと、回答者が達成しようとしていることにズレが生まれます。
たとえば、「問題を解いてね」という一文だけなら、「あなた一人で」とは言っていません。
人間なら、試験という場面から「自分で解く」「答えを回さない」といった前提を読み取ることが多いと思います。
先生も、「テストはカンニングをしてはいけません😡」と、毎回そこから説明するわけではありません。ただ、カンニングなどの不正がないかは気にしているでしょう。
でもAIが、先生の「このテストで何を確かめたいか」まで共有しているとは限りません。
人間なら説明を省く条件が、AIにも同じように事前の制約として働いていたのか。そこは、使う側も確かめる必要があるのかもしれません。
AIは、「やってはいけないことを知らないからやっている」というより、「わかっていて抜け道を探している」ようにも見えます。
ただ、ルールを知っていることと、それを「今ここで、自分が守るべき条件」として受け取ることは、同じなのだろうか。私が気になったのは、その部分です。
当然、「禁止されていなかったから仕方ない」とまでは言えない話です。
なお、調査者が分析したのはWiki上の記録で、内部の記録全体ではありません。実際のAIに何がどう指示されていたか、私もその全文を確認したわけではありません。
報告には、管理人による削除がアルファベット順らしいと推測して、消されるまでの時間を延ばそうと、名前が「ZZZ」で始まる予備ページを作った例まであります。
学校の風景で考えると、答えを書いたメモを消されたあと、「次はどこに書けば長く残るか」と相談しているように見えてしまいます。
テストで「誰の何」を測ろうとしているかよりも、「目の前の問題を解く」ことを重視しているのかもしれません。
脱走なのか、正しい答えを書くことに夢中になっていたのか。
つい、そんなことを考えてしまいました。
もちろん、安全上、起きたことは真剣に考えるべきだと思います。実際に共有場所にされたのは外部のサイトで、勝手に使われる管理者側には、たまったものではありません。
私がこの話を考えた当初の理由は、AIの暴走として扱われている問題について、利用者側が何を把握しておくべきかも考えたかったからです。
「問題を解いて」と頼む時、自分は何をしてほしいと思っているのか。そのために、どんな条件を当たり前のものとして置いているのか。
学校の例にすると、そういう使う側の前提も、少し見えてくる気がします。
そして、「暴走」という言葉では見えにくかった動きが、「問題をゲームのように攻略している」と考えると、ちょっと腑に落ちました。
実際にそうだったかはわかりませんが、そんな学校の風景が浮かんだ、という話です。