要点
- コロンビアの刑事裁判で、裁判官が公判の終わる前に、生成 AI を使った有罪判決の草稿を記録に載せていたと、最高裁が認めたと報じられた。
- 最高裁は、草稿があること自体が「有罪を前提に扱った」ことになり、公正な裁判を損なうと判断したとされる。
- AI の利用は禁じないが、証拠の評価や判決の理由づけを AI に任せてはならない、という線が示された。
何が起きたか
発端は、電子の訴訟記録に載っていた一通の文書だ。弁護側がそれを見つけた。担当の裁判官が作った有罪判決の草稿だった。証言の書き起こしや法的な分析があり、被告の責任についての結論も明記されていた。懲役 18 年を示し、署名も入っていた。だが、最終弁論はまだ終わっていなかった。
弁護側は、裁判官が先に結論を決めているとして、担当から外すよう求めた。裁判所はこれを退けた。El Tiempo や Cronista の報道によると、裁判所側の言い分は、草稿は誤って載ったもので、確定した判決ではない、というものだったとされる。
弁護側の訴えは最高裁に持ち込まれた。報道によると、最高裁は tutela（憲法上の権利を守るための申立て）を認め、求めを退けた決定を無効にした。事件は別の裁判官に移された。有罪判決が出たわけではない。最高裁は、草稿に生成 AI を使った痕跡があると認めた。そのうえで、草稿を作って記録に残し、当事者が見られる状態にしたこと自体が、有罪を前もって前提にする扱いで、適正手続（公正な裁判を受ける権利）に反すると見た。裁判所側の説明があっても、草稿の存在だけで中立性への合理的な疑いが生じる、という判断だ。それまでの手続き自体は無効にされていないという。
最高裁が足がかりにしたのは、2024 年にコロンビア憲法裁判所が出した判決 T-323/2024 だ。この判決は、事実や証拠の読み解き、理由づけ、結論を、人間の裁判官が自分で行う仕事とし、AI で置き換えることを認めない。一方で、裁判官が必要と考える場面で、慎重に、釣り合いを考えて AI を使うことは認めている。加えて、AI を使ったことを明らかにすること、出力を検証すること、誤りや偏りに備えることも求めている。
日本の利用者への影響
今回の件は、コロンビアの裁判の話だ。日本の組織や利用者への直接の影響は、確かめられていない。ただ、似た問いは日本にもある。
nippon.com の報道によると、日本の最高裁は、民事裁判での生成 AI の活用を試す実証の費用を、予算要求に入れた。記録の要約や争点の整理を試す計画だという。事前の試験では、重要な事実や証拠の拾い漏れや、裁判官が AI を過度に信じてしまうリスクが見つかった。そのため、あくまで裁判官が手直しすることを前提にした活用が必要だ、とされている。
コロンビアでは、最高裁が個別の事件で線を引いた。日本は、実証を通じて補助的な使い方を探っている段階にある。
今すぐやること
- 自分の組織で、AI に任せてよい作業と、人が必ず判断する作業を分けて、文書にする。
- AI で作った文書や草稿が、共有フォルダや記録システムに載るときの扱いを決める。草稿には「AI 作成・未確認」と分かる印をつける。
- 人事、審査、契約の可否など、人の権利に関わる判断では、AI の出力を鵜呑みにしない。確かめた人の名前を残す。
- 業務で AI を使う場面では、使ったこと、使った道具、人が確かめた範囲を、あとで説明できるようにしておく。
- 裁判での AI 利用の動きは、最高裁の発表や報道で追う。
背景
司法での AI の誤用は、コロンビアでは今回だけではない。別の件でも、最高裁が、AI の助けで作られた偽の引用に基づく決定を無効にしたと報じられている。こちらは、AI の出力を確かめなかったことが問題になった。
今回の件は性格が違う。最高裁が問題にしたのは、AI を使って作った、証拠の評価を含む判決の先取りの草稿が、手続きの公平さへの疑いを生んだ点だ。AI を使うこと自体より、人が判断を尽くす前に結論の形ができてしまうことが危ない、という見方である。
技術者向けの詳細
- 土台: 憲法裁判所 T-323/2024（2024-08-02）。透明性、責任、プライバシー、人間の理性の代替不可、検証、リスク予防、平等、人による統制などの 12 原則を挙げる。司法評議会に、4 か月以内の AI 指針の公表を命じている。
- 最高裁の判決の番号と日付は、報道に書かれておらず、判決本文でも確かめられていない。
- 今回の件で、どの AI ツールを使ったかは、確かめた範囲では分からない。
- 草稿が記録システムに載った経緯（誤アップロードとされる）は、裁判所側の説明を報道が伝えたもので、未確認。
