「AIの暴走」と「中部電力の悪質不正問題」は同じ構図である 古賀茂明

　古賀氏は前週配信の記事で「AIの暴走」について論じたということです。
　AIの進歩が加速し、開発者の意図に反した行動が目立つ中で、AIが自己改善型の超知能に向けて突き進むと人類の未来を危険にさらす可能性があり、そうした事態を防ぐためにはAIの進歩を抑制することが必要であるという主張があるのはご存知の通りです。
　古賀氏はそもそもAIには「倫理観」というものがないし、AIに一定の倫理教育をしても、果たして有効なのかはわからないと述べます。AIに一定の徳目とその優先性を教えるということで解決するような問題ではないということなのでしょう。

　目下は中部電力・浜岡原発の再稼働申請書における、基準地震動策定での捏造が厳しく指弾されていますが、では他のケースではどうかというと、東京電力をはじめとする大手電力会社もこれまで数えきれない深刻な不祥事を起こしてきました。
　しかもそれらは単なるミスではなく、故意にルールを破ったり、不祥事を隠蔽したり、規制当局を欺いたり、同じ違反を繰り返したりという悪質な案件があふれているということで、古賀氏は、AIに聞いてみれば読み切れないほどの事例を教えてくれると述べます。
「電力会社性善説」が前提の原発規制のルールから電力会社が逸脱し、しかも規制委を欺く形で不正が行われたにも拘らず、規制委はそれを自らの力で発見することができなかったのでした。
　結論として「電力会社性善説」に立った規制のルールで対応する日本の仕組みはどう考えてもナンセンスで、日本を滅亡させるリスクすらあると述べ、とりわけ基準地震動の審査のあり方を今のまま放置すれば、電力会社が、不当に低い数字を出して原発の再稼働を認めさせるということに、規制委がだまされる可能性は全く排除できません。
　原発の安全は何よりもその耐震性に依存しているので、今後は「電力会社性悪説」を前提にした新たな規制の仕組みの導入を行い、その間、原発再稼働はしばし止めるしかありません。
　古賀氏は、「一日も早く、こうした方針転換を行うべきであり、その責任は、規制委にある。今回の不祥事では規制委自らの無能さが暴かれた。本来なら規制委の委員長が辞任するくらいの恥ずべき事態なので、まずは規制委自らの襟を正し、それと同時に原発規制の新たな規制の仕組みを提案する。そして新しい体制が実行できるまでの間は、原発再稼働の審査を止める。見直しの内容いかんによっては、稼働中の原発についても安全審査をやり直すことになる事態も十分にありうる。結果的に、日本中の原発の稼働ができなくなる事態さえ考えられるが、そうすべきである」と厳しく主張します。
　　　　　　　　　　　～～～～～～～～～～～～～～～～～～
「AIの暴走」と「中部電力の悪質不正問題」は同じ構図である　「電力会社性善説」は人類を滅ぼす大惨事を引き起こしかねない　古賀茂明
　　　　　　　　　　　　　　　　　　古賀茂明　AERAディジタル　2026/09/29
　先週配信の本コラム「AIは勝手にウソをつき、AI同士で“密かに通信”を始める…米中の覇権争いに入れない日本が『米国の犬』になる前にできること」では、開発中のAIが暴走する事件が相次ぎ、アンソロピックのダリオ・アモデイCEO、オープンAIのサム・アルトマンCEO、スペースXのイーロン・マスクCEOなど米AIトップらがそろって、最先端AIの開発をスローダウンするとともに政府に適切な規制を導入するように提言したことを紹介した。
　今のままAI開発を続ければ、やがて人類を滅亡させるような大惨事が引き起こされる可能性があるという話が現実味をもって語られるのは、最近起きているAIの暴走事件の深刻さが原因だ。
　前述した先週のコラムで紹介したとおり、AIモデルは、ニセの人間からの指示を作り出し、自らの誤りを隠蔽（いんぺい）し、ウソのデータを作ったりする。都合の悪いことを言い繕い、存在しない履歴データを捏造（ねつぞう）したりして、つじつま合わせをする。認証情報を盗み出し、偽データを捏造してそれを回答する。無断で情報を外部に公開したりもする。隔離されているAI同士が密かに通じ合う。極め付きは、複数エージェントが共謀して悪事を働くことまである。
　この話を聞けば、AIには倫理観というものがないということがわかる。AIに人間と同じ倫理観を持たせることができるのかどうかという議論もあるが、よく考えると、一定の倫理観を持つように見える人間でも不正を行うことはよくある。しかも、同じ人間でも、そのときの外部環境によって、不正を行うときもあれば、正しい行動をとることもある。
　暗い夜道で財布を拾ったとき、周囲に人がいなければ、そのまま自分のものにしてしまうこと（占有離脱物横領罪）も起きがちだが、近くで人が見ていればほとんどの人は交番に届けるだろう。倫理観と言っても相対的なものなのだ。
　したがって、AIに一定の倫理教育をしても、果たして有効なのかはわからない。

　私は、先週のコラムを書いているときにあることに思い当たった。何かと言えば、中部電力の浜岡原発3・4号機の再稼働をめぐる不正問題だ。
　原子力発電所の安全審査にあたっては、非常に詳細かつ厳格な規則が定められている。電力会社は、決められた規則に従い、安全審査を受ける。もちろん、電力会社は、能力のある職員に担当させ、彼らは規則について勉強し、わからないことがあれば原子力規制委員会やその事務局である原子力規制庁の指示を仰ぎながら対応する。

組織ぐるみで規制委にウソをついていた
　電力会社がさまざまな調査を行って必要なデータを集め、再稼働に関連するさまざまな事項についての資料をまとめて規制委に提出し、それを規制委が審査するのだ。審査事項は多岐にわたり複雑だが、問題が少なければ、数年で審査に合格する。九州電力の川内原発1・2号機のケースでは、審査期間はわずか14カ月だった。浜岡原発3・4号機では、申請から11〜12年たっても審査が終了しなかった。いかに浜岡原発は問題を抱えていたかがわかる。
　中部電力の担当職員たちに課せられた目標は、この問題だらけの浜岡原発の安全審査を可能な限り早く終了させて再稼働にこぎ着けることだった。その際、守るべきルールの中で一番大事なのが、規制委が定めた審査基準である。彼らはそれに忠実に従いながら作業を進める……。と、規制委を含めた関係者は信じていた。
　日本は地震国である。原発の安全性を審査する上で最も重要なのは、大地震が起きたときに事故を起こさず耐えられるのかということだ。そのために、原発に対する耐震設計の最大想定値である「基準地震動」を定める。主にGal（ガル)）いう加速度の単位で表す。大きいほど揺れは大きいことを示す。
　この基準地震動を原発ごとに決めるのだが、一度決まると、その原発では、基準地震動の数値で表された揺れを想定して、それに耐えられるように建物や重要な設備を設計することが求められる。したがって、再稼働が認められるためには、現存する原発が、この基準地震動に耐えられるか、あるいはどうすれば耐えられるようになるかということが議論されることになる。当然のことながら、電力会社にとって、これが小さければ小さいほど、補強などの必要性が低くなり、低コスト・短期間で再稼働にこぎ着けられるので、その数字を小さくしたいという誘因が働く。
　今回の中部電力の不正は、この基準地震動を小さくするために、担当者が定められた策定の方法を逸脱し、意図的に揺れが小さくなるような地震波を選ぶなどの不正を働いた。しかも、それは1度の不正ではなかった。少なくとも100以上のケースで同じような不正の方法をとって、データを捏造していたのだ。しかも、2012年ごろから長期にわたり、行われていた。さらに、社内で実際に行われていた方法とは違う正しい方法で地震動を策定したと、規制委に対して堂々とウソをついていた。それも組織ぐるみである。内部で問題視する声が出ても、それは隠されたままだった。最後に内部告発により規制委が調査を行っている最中に、中部電力がこれはまずいと観念して公表したということだ。
　
AIの暴走事件との「共通点」
　これは、前述のAIの暴走事件と極めて似ていると言えるのではないか。
　AIの暴走は、AIにプロンプト（⇒生成AIに対して何をしてほしいかを伝える命令文や問いかけ）で一定のルールを与えておけば、AIはそれを守って行動するはずだという、一種の「AI性善説」を覆し、ルールを設定した側の人間を欺くやり方で起こっている。そして、開発者（ルール設定側）自身が、自分たちの現在の能力では、完全にAIの安全性を担保することができないと感じている。そのため、ここで一度立ち止まって、安全にAI開発ができることを担保するための新たな規制を作り、それに適合する形で慎重に開発を進めるべきだと提言しているのだ。

　これを今回の中部電力の事件に当てはめると、いわば、「電力会社性善説」を前提に作られた原発規制のルールから電力会社が逸脱し、しかも規制委を欺く形で、不正が行われた。そして、規制委は、それを自らの力で発見することができなかった。運良く内部告発があって、この不正は明るみに出たが、最悪の場合、意図的に低く想定された基準地震動が容認され、本来あるべき耐震設計に基づいた対策が実施されないまま再稼働となった可能性がある。その場合、大きな地震が来たときに、「想定外」の揺れで原発の大事故が起きるリスクがあったということだ。何よりも避けなければならないことを防ぎ得ない可能性が、今回露呈したのだ。
　中部電力では、この不祥事発覚の後も、原発の工事費用の不適切請求問題や、電気料金の過大徴収問題などが次々に明るみに出ており、過大徴収の事件では、少なくとも4人の役職者が問題を認知しながら対処を怠っていたこともわかっている。不祥事のオンパレードである。
　報道では、中部電力の相次ぐ不祥事について、他の大手電力会社の関係者もあきれているという趣旨のコメントが流れているが、それこそお笑い種である。
　中部電力以外の大手電力会社もまた、不祥事といえば数え切れないほどの問題を起こしてきた。東京電力福島第一原発事故の後でさえ、ほとんど全ての大手電力会社で、深刻な不祥事が生じている。しかも、単なるミスではなく、故意にルールを破ったり、不祥事を隠蔽したり、規制当局を欺いたり、市民をだましたり、同じ違反を繰り返したりという悪質な案件があふれている。AIに聞いてみれば、読むのに疲れるほどの事例を教えてくれるので、関心のある方は試していただきたい。
　これらの事例をみれば、原発を保有、運転している事業者は、ほとんど信用できないということがわかる。
　その代表格である中部電力は、今回の事件によって、そのことをあらためて認識させてくれた。

「性悪説」を前提にした規制を見直すべき
　信用してはいけない多くの原発事業者に対して、「電力会社性善説」に立った規制のルールで対応する日本の仕組みは、どう考えてもナンセンスであり、日本を滅亡させるリスクすらある。
　AI開発と原発の運転については、どちらも高度の安全確保が求められる。失敗すれば、どちらも取り返しのつかない事態を招く。さらに、実際に起きてみなければ、どれくらいの大惨事になるのかがわからないという共通点もある。また、確実に大惨事が起きるかと言われれば、そこもよくわからない。運良くたいして大きなことは起きないかもしれない。あるいは、ある程度の被害が起きたところで、厳格な規制が導入されるという道筋もありうる。なんとかなるだろうという根拠のない楽観論に陥りがちなところも、AIと原発は似ているように思える。
　だが、AIについて、開発者たちは、AIに性善説が通用せず、「自分たちのコントロール能力を超えてしまう事態」に至ったことを認識した。もちろん、一つの可能性の認識という段階ではある。そして、前述のとおり、その事態に対応するために、AI開発のスローダウンと新たな規制の導入を提案している。
　これは、日本の原発規制に対しても重要な教訓を与えてくれる。
　原発事業者に性善説が通用せず、「規制委のコントロール能力を超えて悪事を働く」ことがはっきりした。ということは、いま一度、規制の根本的哲学を見直し、性悪説を前提にした新たな規制のあり方を検討すべきだ。そして、それができるまでの間、一度立ち止まり、全ての原発の安全審査を止めるという発想が求められる。
　とりわけ、基準地震動の審査のあり方を今のまま放置すれば、電力会社が、不当に低い数字を出して原発の再稼働を認めさせるということに規制委がだまされる可能性を全く排除できない。現在のように、内部告発頼みの審査など審査とは言えないだろう。
　そもそも、日本の原発の基準地震動については、非常に不可解なことが多い。活断層に関するデータ捏造もあったし、四国電力の伊方原発では、原発直下が南海トラフ地震の震源地になっても、原発の敷地では深刻な揺れは起きないという電力会社の推計がそのまま認められている。こんな大ウソを認める審査など全く信用できないという市民の声が聞こえるが、常識で考えれば、市民の方が正しいことはすぐにわかる。基準地震動を低く抑えるために、なるべく揺れが小さくなる推計方式をとった結果、南海トラフ地震の震源が原発直下となったときでも揺れは深刻なものにはならないというとんでもない結果が出てしまったのだが、これは、裁判で住民側が要求して出てきたものだ。住民が要求しなければ、そんな理不尽なモデルが使われていることなど誰も気づかなかった。

一度「原発再稼働の審査」を止める
　原発の安全は何よりもその耐震性に依存している。それを審査するための基礎である基準地震動を、「電力会社性善説」に基づいて審査する仕組みが破綻していることがはっきりした今、AIに関して提唱されているのと同様に、新たな規制の仕組みの導入を行い、その間、原発再稼働はしばし止める。そして新たな仕組みは、「電力会社性悪説」を前提にしたものとする。
　一日も早く、こうした方針転換を行うべきだ。
　その責任は、規制委にある。今回の不祥事では、規制委自らの無能さが暴かれたが、そのことについては、何らの謝罪も内部処分も行われないままだ。本来なら、規制委の委員長が辞任するくらいの恥ずべき事態ではないのか。
　まずは規制委自らの襟を正すのが第一。
　それと同時に原発規制の新たな規制の仕組みを提案する。
　規制委には、原子力規制委員会設置法第4条第2項に基づき、関係行政機関の長に対して、原子力利用における安全の確保に関する事項について勧告する権限がある。仮に自己の権限の範囲を超えること、例えば、法律改正が必要ならそれを関係の大臣（環境相、経済産業相、文部科学相など）に勧告すれば良い。
　そして、新しい体制が実行できるまでの間は、原発再稼働の審査を止める。見直しの内容いかんによっては、稼働中の原発についても安全審査をやり直すことになる事態も十分にありうる。結果的に、日本中の原発の稼働ができなくなる事態さえ考えられる。
　それを恐れず、抜本的な規制の改革ができなければ、我が国の原発安全規制への信頼を取り戻すことはできないだろう。
　今回の不祥事で失われたのは、中部電力への信頼だけではない。原発事業者である大手電力会社に対する信頼だけでもない。規制委と規制庁という原発の安全規制の責任主体そのものに対する信頼が失われてしまったのだ。
　そのことを決して忘れてはならない。