要点
- ニューヨーク州の AI 安全法「RAISE Act」により、大手の AI 開発会社は安全方針の公開と、州への登録・報告が義務になる。
- 重大な安全上の事故は、72時間以内に州へ報告しなければならない。違反には最大 100万ドル（2回目以降は最大 300万ドル）の罰金がある。
- 対象は主に米国の巨大 AI 企業だが、日本の利用者や事業者は、公開される資料を AI 選びの判断材料にできる。
何が起きたか
ニューヨーク州は、最先端の AI を作る大手企業に、安全対策の公開と報告を求める法律を動かし始めた。RAISE Act である。TechCrunch が 11月10日に、州の登録の受け付けが始まったと報じた。OpenAI や Anthropic が対象の例とされる。
州の金融サービス局（DFS）の発表によると、DFS の中に新しい担当部署 DIGIT が置かれ、実施を担う。11月から大手開発者に州への登録を促し、2027年1月1日から基準の順守が義務になる。開示届出の提出も、2027年1月1日からである。
対象は、膨大な計算量で訓練した「最先端モデル」を作り、年間売上が 5億ドルを超える会社だ。法文（上院法案 S8828）によると、義務は次のとおり。
- 安全の枠組み（モデルの危険を見極める基準や、その対策などを決めた文書）を作って自社サイトに載せ、少なくとも年に1回は見直す。大きく変えたときは、30日以内に改訂版と理由を公開する。
- 新しいモデルや大きく手を入れたモデルを出すときに、透明性の報告書を公開する。大手には、大きな被害のリスクの評価結果や、外部の評価者がどこまで関わったかの要約も求められる。
- 3か月ごとに、社内でモデルを使う際の大きな被害リスクの評価の要約を、DIGIT に出す。
- 重大な安全上の事故は、事故と判断してから 72時間以内に州へ報告する。人の命や体に差し迫る危険があるときは、24時間以内に警察など関係機関へも知らせる。
- 会社の名前、主な事業所と州内の事務所の住所、出資者（非上場なら 5% 以上、上場なら 50% 以上）などを載せた届出を出し、2年ごとに更新する。
法文でいう「大きな被害」は、1回の出来事で 50人を超える人が死亡または重傷を負うか、10億ドルを超える財産の損害が出ることだ。化学・生物・放射性物質・核兵器づくりへの専門的な手助けも、この危険に数えられる。
違反時は、州の司法長官が最大 100万ドル（2回目以降は最大 300万ドル）の民事罰を求められる。届出を怠った場合は、DFS が聴聞のうえで 1日 1,000ドルを科せる。個人が会社を訴える権利は、法律にない。
なお、これは「危険が起きた」という話ではない。制度が動き出したという話である。
日本の利用者への影響
法律が義務を課すのは、最先端モデルを作る開発者である。日本の利用者や事業者に義務があるかどうかは、今回調べた資料からは確かめられなかった。日本の組織への影響の話も、調べた範囲では見つかっていない。
ただ、ChatGPT や Claude などを仕事で使う会社にとっては、間接的に関係する。開発会社が安全方針や報告書を公開するので、どんな対策をしているかを見比べやすくなる。ニューヨーク州で適用される規則が、世界向けの製品の運用に反映される可能性もある。これは見立てであり、確かめられた事実ではない。
今すぐやること
- 急ぐ対応はない。自社が使う AI サービスの開発元を、一覧にしておく。
- 2027年1月以降、開発元が公開する安全の枠組みと報告書の場所を確かめる。
- AI の導入や更新の審査で、公開資料を確認項目に加える。
- 取引先から AI の安全体制を聞かれたときのため、使っているサービスの公開資料を社内で共有しておく。
背景
RAISE Act は、2025年12月にホークル知事が署名した。署名日は、DFS の発表では 12月22日、州上院の法案ページの履歴では 12月19日とされ、資料によって異なる。その後の修正法に、2026年3月27日に知事が署名したことが、州上院の法案ページに載っている。細部は修正で変わっており、公開当時の報道と数字が違うことがある。
米国では、カリフォルニア州にも似た AI 安全法がある。州が個別に動く流れが続くのか、今後も注目される。
同じ州では、AI チャットボットが AI であることの表示や、自傷の兆候を見つける努力を求める法律も、すでに運用されている。未成年向けのチャットボット安全法は、2027年6月1日に始まる（TechCrunch による）。
技術者向けの詳細
- 法文: 上院法案 S8828（最終版）。DFS 内の DIGIT が受け付けと規則づくりを担う。
- 対象モデル: 10^26 回を超える演算で訓練した基盤モデルを作る開発者。大手は前年の売上が 5億ドル超。
- 重大な安全事故（法文の区分）:
- モデルの重みの無断取得・改変・持ち出しで、死亡またはけがが出た場合。
- 大きな被害のリスクが現実になった場合。
- モデルの制御を失い、死亡またはけがが出た場合。
- 開発者の統制や監視を崩す欺瞞的な手法が、評価の場以外で使われ、大きな被害のリスクが大幅に増したと示される場合。
- DIGIT は連邦の規則や指針を順守方法として認められる。2028年1月から、匿名・集計した事故データで年次報告を出す。
- 開示届出を怠った場合、DFS は 1日 1,000ドルを科せる。
- 時期: DFS の発表では、登録の指示は 11月から。2027年1月1日からは、開示届出と基準の順守が始まる。TechCrunch は登録期限を 2027年1月1日と書いており、表現が少し異なる。
- 罰金額は DFS の発表には載っていない。上の数字は法文（S8828）による。詳しくは法文を確認のこと。
