AIニュース 2026年10月24日

振り返り · 本紙 8 月 25 日号

Dalton 氏、防御の全自動化は一つもない——応用は未測定

OpenAI のインフラとセキュリティのエンジニア Michael Dalton 氏は 8 月、セキュリティ会議 Black Hat で、攻撃の全自動化には実例があるが、防御の全自動化は一つもないと指摘した。 Dalton 氏の論証では、攻撃側は外しても現状維持で、当たれば総取りになる。防御側は正しく直しても現状維持で、直し方を誤ればサービスを壊す。だから防御側が人の確認を残すのは合理的だという。本紙は 8 月 25 日号でこれをもとに、ある業務を AI エージェントに自律で任せられるかは、モデルの強さではなく、一度失敗したときの代償と一度成功したときの利得の非対称で決まるのかもしれないと書いた（8 月 25 日号）。同じ号はこの物差しから、失敗の代償が小さい業務を先に任せるのが向くと推論した。例は社内ツール、保守されていない古い帳票、今は誰も手がけていない作業である。この推論は測定されていない。反例も残しておく。Databricks は 8 月、150 を超えるチームで毎日 2,000 回以上の障害調査に AI を入れたと公表したが、自動で行うのは診断だけで、対処は自動化していない。Dalton 氏は OpenAI の社員で、論証の行き着く先はまさに OpenAI が売っているものである。同じ物差しを「既存企業は新興企業より任せるのをためらう」と広げる見方には、今のところ測定がない。今日の中核 2 は攻撃の側の新しい数字で、攻撃がいったん始まると Mythos 5 が自ら止まることはまれだった。 どう確かめたか →