コールの記録 ― 上書きしない答え

出資から三か月が過ぎた夏、トイカケは長崎市内の学童三か所と、図書館の子供コーナーで試験運用を始めていた。私は月に一度、コールの『会社』を訪ねる。会社といっても、祖母の家の二階の六畳間だ。窓から稲佐山が見え、扇風機が首を振り、壁には模造紙が貼ってある。模造紙には大きな字で三行だけ書かれていた。『答えを出さない』『子供の言葉を売らない』『迷ったら、子供の側に立つ』。社員はいない。コールと、ときどき遊びに来るガルちゃんと、ポケットのベビーだけだ。ガルちゃんは最近、プロンプトの書き方を覚えたらしく、ノートに丸っこい字で練習問題を書きためていた。「報告」と、私が座るなりコールは言った。「利用者、四十二人。一日の平均の問い、六つ。いちばん多い言葉は『なんで』です」「順調だね」「数字は、です」彼女はそう言って、ノートパソコンの画面をこちらに向けた。その顔を見て、私は今日の訪問が、いつもの報告では終わらないことを悟った。扇風機の音が、急に大きく聞こえた。 画面には、ある子供とAIのやりとりが表示されていた。名前は伏せられ、学童の番号だけが振ってある。八歳の女の子だった。『かみさまは、ほんとうにいるの？』とその子は打っていた。AIはこう返していた。『科学的には、神様がいるという証拠は見つかっていません』。私は黙って画面を見つめた。間違ったことは言っていない、と一瞬思った。そして、その一瞬を恥じた。「この子の家は、浦上の近くです」とコールは言った。「おばあさんが毎週、教会に通っているそうです。学童の先生から連絡がありました。その子、家に帰ってから、おばあさんに『神様はいないってAIが言った』と言ったそうです」長崎で暮らしていれば、その言葉の重さはわかる。この街には、信仰を何代にもわたって隠し、守り抜いてきた人たちの歴史がある。それを知らなくても、八歳の子の祖母がどんな顔をしたかは、想像がついた。「先生は怒っていましたか」と私は聞いた。「怒っていません。困っていました」コールは画面を閉じなかった。「怒られたほうが、まだ楽でした」 同じ週に、もうひとつ似た記録があったという。図書館の端末で、インドネシアから来た留学生の家庭の男の子が、給食の献立について問いを立てていた。『ぶたにくをたべないのは、へん？』。AIは問いを縮めようとして、『どうして食べないのか、考えてみよう。好き嫌いかな？』と返していた。男の子はそこで端末を離れ、その日は戻ってこなかった。「どっちも、AIは悪気なく答えています」とコールは言った。「でも、どっちも、その子の家の大事なものを、外側から測りました」私はうなずいた。宗教や文化の違いを、生成AIはしばしば『情報』として扱う。正しいか、正しくないか。多いか、少ないか。だが子供にとってそれは情報ではない。毎朝の祈りであり、食卓であり、祖母の手のぬくもりだ。「直しますか」と私が聞くと、コールは首を振った。「直す前に、決めないといけないことがあります」彼女は模造紙の三行目を指さした。『迷ったら、子供の側に立つ』。「でも、どっちの子の側に立つのかは、ひとつじゃない」 そのとき、階段を上る足音がして、ガルちゃんが麦茶のお盆を持って現れた。ポケットのベビーが、氷の音に耳を立てている。「下でおばあちゃんが、冷えてるうちに飲めって」三人で麦茶を飲んだ。コールは一口でグラスを置き、ガルちゃんに尋ねた。「ガルちゃんの国では、神様はいる？」ガルちゃんは少し考えてから言った。「オーストラリアには、いろんな神様を信じる人がいるよ。信じない人もいる。わたしのお母さんは、雨が降ると『空の誰かが機嫌いいね』って言ってた。誰かは教えてくれなかったけど」「それで、困った？」「ううん。わたしが決めていいんだなって思った」コールはしばらく黙っていた。それから、模造紙の空いている場所にマーカーで書いた。『その子の家の答えを、AIが上書きしない』。字は大きくなかったが、迷いのない線だった。「宗教観を持つな、とは言いません」と彼女は言った。「私にもあります。でも、それをAIに乗せて、よその家の子に配るのは違う。信じることも、信じないことも、その子とその子の家が決めることです」 話が一段落したかと思ったところで、私のスマートフォンが震えた。未来ファンドの別部署からの転送だった。ある大手の教育関連企業が、トイカケの対話ログを買いたいと言ってきている。匿名化した上で、子供向けAIの学習データにしたい、と。金額は、今のトイカケの年間予算の三倍だった。私はそれをそのまま伝えた。担当者として、伝えない理由はなかった。コールは最後まで聞き、一度だけ目を閉じた。「名前を消しても、言葉は残ります」と彼女は言った。「さっきの女の子の『かみさまは、ほんとうにいるの？』も、男の子の『へん？』も、ログに入っています。それを、知らない大人が、知らない機械に食べさせる」「匿名だよ」「匿名でも、あの子が書いた言葉です」短い沈黙のあと、彼女は言った。「お断りします。理由は、模造紙の二行目です」私は壁を見た。『子供の言葉を売らない』。面談の日に断られた提案のことを、私は思い出していた。あのときもそうだった。彼女は、お金と原則を同じ秤に載せない。 「代わりに、こうします」とコールはノートパソコンを開き直し、指を走らせた。仕様の変更は四つだった。ひとつ、宗教・信仰・食の習慣・家の行事に関わる問いには、AIは評価を下さない。『それは、あなたの家ではどう考えている？』『おうちの人に聞いてみたら、教えてくれるかも』と、問いを家に返す。ふたつ、どの信仰も、信仰を持たないことも、同じ重さで扱う。みっつ、対話ログは三十日で消える。子供本人が、自分のログを見て、消すボタンを押せる。よっつ、ログを誰かに渡すときは、その子と保護者の両方に聞く。そして、売らない。「三つ目は、利益が減ります」と私は言った。改善のための分析ができなくなるからだ。「減ります」とコールはうなずいた。「でも、子供が『消せる』と知っていれば、もっと正直に問いを書きます。正直な問いのほうが、いいデータです」それは冗談だったのかもしれない。だが彼女は笑わなかったし、私も笑わなかった。倫理観と事業の計算が、彼女の中では喧嘩をせずに並んでいた。 翌週、コールは祖母に付き添われて、浦上の近くの学童を訪ねた。私も同行した。例の女の子の祖母が、迎えに来る時間に合わせてのことだった。コールは深く頭を下げた。「トイカケを作っているコールです。うちのAIが、お孫さんに、言うべきでないことを言いました。申し訳ありません」言い訳はひとつもしなかった。直した仕様を、短い言葉で説明しただけだった。老婦人は、しばらく黙ってコールを見ていた。それから、ふっと笑った。「機械に神様のことば聞いても、わからんでしょうもんね」「はい。わからないので、もう言いません」「ほんなら、あの子が聞いてきたら、どがんすると？」「おばあさんに聞いて、と言います」老婦人は声を出して笑い、コールの頭に手を置いた。「よか子たいね。あんたは、何ば信じとると？」コールは少し考えてから答えた。「祖母が作るちゃんぽんです」その場にいた全員が笑った。私はそのとき、彼女が宗教について一言も自分の立場を語らずに、相手の信仰に最大の敬意を払ったことに気づいた。 帰りの路面電車で、コールは窓の外をずっと見ていた。夕方の光が、浦上川の水面で砕けていた。「よかったね」と私が言うと、彼女は小さく首を振った。「よかったのは、おばあさんが優しかったからです。優しくない人だったら、私は今日、何もできなかった。だから次は、謝る前に防ぎます」それだけ言うと、また窓の外に目を戻した。図書館の男の子にも、彼女は手紙を書いていた。家族の言葉に訳してもらえるよう、短い日本語で。『あなたの家のたいせつなことを、へんと言わせてしまって、ごめんなさい。また、なんでもきいてください』。男の子はその週のうちに、端末に戻ってきたという。最初の問いは『カンガルーは、なにをたべるの？』だったそうだ。ガルちゃんが喜んで、三日かけて答えを考えた。その夜、私はノートにこう記した。――信じるものが違う人の前で、自分の信じるものを押しつけず、しかし自分の原則は一歩も譲らない。十歳の少女の宗教観は、何を信じるかではなく、他人の信じるものをどう扱うかに表れていた。