法律問題への生成AIの回答について、弊事務所の取り扱い

　今年に入って、生成AIが広く使われるようになり、Web上の便利なツールとして一般的になりつつあります。
　法律問題についてもまずは生成AIに聞いてみる、という使い方をしている方もおられ、その結果をもって相談に来られるという方を時々お見受けするようになりました。他の弁護士に話を聞いても、どこでも同じような傾向があるようです。

　弊所でも、業務の一部に生成AIを活用したり、あるいは導入を検討したりするといったことを行なっています。その有用性が高いということは認めざるを得ません。

　ただ、特に具体的な法律問題について、法律の適用、権利や義務の有無、などを確認するには、現時点ではまだまだ信用性が不十分であると考えています。

　比較的最近ですが、私が生成AIから得た回答について、このようなものがありました。

・民事裁判についての比較的基本的な事項について、そもそも存在しない条文の内容を元に回答を展開したケース。これについては、なんども生成AIとのやり取りを行なうも、なぜか条文そのものの修正を行なうことはありませんでした。

・頻繁に法改正のある分野について、ひとつの回答の中に改正前の法と改正後の法を混在させた回答が得られたケース

　いずれも致命的な誤りを含んでいて、使い物にならない回答であることは明らかでした。

　生成AIを有効活用するためには、適切なプロンプト（命令文）を入力することが極めて重要です。上で紹介した２つのケースでは、私が入力したプロンプトが適切でなかったのかもしれません。

　しかし、法律問題について、法的知識のない方が適切なプロンプトをつくることは、おそらく不可能に近いのではないかと思われます。また、そのプロンプトの適切さを判断できるかどうかも、結局は適切な回答が得られたかどうかと言う結論の部分から帰納的に判断せざるを得ません。なので、結局は、考えが法的に正しいかどうかはこちらで判断せざるを得ないのです。

　しかも、そもそも生成AIの思考過程が我々普通の人間には分からない以上、文章の生成過程が適切かどうかを検証することすらできません。

　相談者が生成AIの回答の話をされるときは、決まって、生成AIが自分の考えに合致した回答をしてくれた。ということをおっしゃいます。
　しかし、残念ながら、弁護士として、生成AIの回答であるからといって鵜呑みにすることはできません。
　ましてや、法的問題について、法的知識のない方が入力したプロンプトに基づく回答は、ほとんど信用することはできないのです。
　したがって、相談者が持参された生成AIの回答を全否定することもありますので、ご了承ください。

　もちろん、生成AI技術の進歩はめざましく、法律分野についても将来もっと利用価値のあるサービスが提供される可能性は十分にあり、関心をもって見ているところではありますが、現状はその利用にはかなり慎重にならざるをえない、と考えています。

山田