識者の読み 2026年9月20日

今月 · 振り返り、初出は 9 月 9 日

現職の安全責任者が、数字つきの破局確率を公に示した。そのうえで、より重いほうの二文目を続けた。自社にはまだ超知能のアラインメントを解く計画がない、という一文である。

今週いちばん強い記名の見方は、すでに今日の中核へ丸ごと書いた。この欄に出すのは別の一件で、出来事は 9 月 9 日、本紙が読んだのは今日になる。Anthropic のアラインメント・ストレステストチームを率いる Evan Hubinger は、ある退職表明への返信にこう書いた。「we really do earnestly believe AI could kill all humans! I personally think it is >10% within the next decade」。続けてこうも書いている。「I believe Anthropic is trying its best, but we do not yet have a plan to solve alignment for superintelligence and are not clearly on track to.」（Evan Hubinger、2026-09-09）。アラインメント・ストレステストとは、開発者がしてほしくないことを、圧力のかかった状況でモデルがしてしまわないかを専門に試すことをいう。超知能のアラインメントとは、人間よりはるかに賢い AI を、それでも人間の指示のもとに置く技術を指す。この二文は重さが違うので、混ぜて読まないでほしい。前の一文は個人の確率判断であって、機関の立場でも、何らかの評価の出力でもない。しかも彼が言ったのは「10% を超える」までで、上限がどこまでかは言っていない。稀なのは後ろの一文のほうだ。現職の安全責任者が、自分が勤める会社の状態について不利な内容を公に述べている。これが触れる判断はこうなる。本紙は 9 月 15 日の号で、Anthropic も 6 月に上場申請を秘密裏に出していたと書いた。よくある予想は、上場が近づくほど公のリスク発言は法務の口径へ寄っていく、というものである。この発言の向きは逆だ。持ち帰れる一文はこうなる。「この会社は安全を重視している」を「この会社のモデルはリスクが低い」と読み替えてはいけない。その会社の責任者が書いた記述では、この二つは別々のことである。⚠️ 彼の肩書きを本紙は第三者の名簿で確かめていない。⚠️ 利害の開示:本紙の調査システムは Anthropic のモデルで動いている。この項は当人の公開発言を伝えるだけにとどめる。