学習しながら進化していくAIのアウトプットは変容するため、安定した性能や効能が要求される従来の医療機器や医薬品とは根本から異なり、内包する倫理的課題は複雑だ。医療現場では、臨床上の判断支援ツールとして過剰な依存を避け、医師の本来の使命を見失わないよう細心の注意を払う必要がある。個人情報の扱いやユーザーとしての患者の在り方など、医療を受ける側に関わる課題も多い。新しい技術を生かしてどのような医療を目指すべきか、議論すべきときがきている。

新しい科学技術には従来と違ったインパクトを社会にもたらすものがあります。AIについても、医療分野で導入が進み、倫理的な課題について議論されています。特に医療分野では、医師と患者（一般市民）という2人のユーザーが関わるため、他の分野とは異なる展開をするからです。

多岐にわたる倫理的課題

まず、診療において、AIツールを直接使うのは医師かもしれませんが、治療方法を決めたり、薬を処方したりという診療行為は、医師の手元の判断材料だけで適否を考えるのではなくて、患者の意向や生活などを考慮しながら決めていきます。ですから、医師と患者という違う立場の人が使うツールだということを念頭に議論を進める必要があります。患者の生命観や身体観、死生観などを尊重しながら、AIが医療に持ち込む新しい性格をどこまで許容し、どのような位置づけで利用していくのか、医師や患者をはじめ、市民全体で議論を続けていかなくてはならないのです（表）。

AI導入によって検討すべき倫理的課題は、多岐にわたります。

まず、研究開発の場面です。AIの開発には大量のデータが必要です。そのデータは、各医療機関から収集することになります。しかしカルテに記載されているのは、個人のプライバシーに関わる重要な情報であり、医療現場で厳重に管理されるべきものです。基本的に医師と患者の間には、健康上の情報をしっかりと預かるという信頼関係があり、だからこそ自分の苦しみを医師に伝えることができます。医師が誰に情報を渡すのかも分からない状況で、果たして赤裸々に自分のことを話せるでしょうか。患者の立場からすると、自分には直接的な利益がないかもしれない自身の医療情報を、将来の医療の発展のためとして、知らないうちに使われると不安に感じるかもしれません。

しかし、AIを利用し、より良い医療を目指すために、個人の医療情報を研究開発の重要なリソースとして利用する方向に世界が進みつつあり、今後一層加速することも想定されます。日本でも個人情報を使った開発の動きがさらに活発になると考えられますが、そのとき、いかに社会の理解を得られるかが、開発を進めるうえでの要となるでしょう。というのも、こうした個人情報の利用について市民への説明が乏しく、研究開発を行う国の取り組みが度々中断するという事態がすでに各国で起こっています。患者のカルテを研究開発の中で使うことが今後の医療の向上において大切な取り組みとなることを、誠実に市民に伝えるべきだと考えています。

「医師の在り方」が問われてくる

研究開発において、医療における産学連携の在り方も検討すべきでしょう。日本でも医薬品の開発を巡り利益相反が適切に管理されないままに産学連携が行われていたことがあり、その事態を非常に重く見た政府は、研究者の倫理観に期待するだけでは不十分だとして、臨床研究に関する規制を強化しました。しかし、AIの開発研究、特にアプリの開発においては、医薬品や医療機器よりもさらに医療と接点のなかった業界の人が参入してくることもあるでしょう。産学連携における活動をいかにオープンに進めていくのかということが重要と思います。

次に、AIを用いたツールを医療現場で使用するようになったとき、そのツールの位置づけが問題になります。

政府の報告書では、医療におけるAIの活用として、例えば病理医が存在しない地域で、現地の医師を支えるためにAIを用いた医療ツールが活用できるのではないかという提案が登場して注目されています。確かに有意義な利用法ではありますが、反面、現地の医師の手に余ることをAIに委ね、かつ医師としてはその診断結果に責任が求められるなど、一定のハードルも予想されます。直接診断の義務が医師法で定められているからです。2018年、厚生労働省は、「人工知能を用いた診断・治療支援プログラムを利用して診療を行う場合、その主体は医師である」つまり、最終的な判断の責任は医師にあるという見解を出しています。この見解が狭く強固に貫かれるとしたら、医師は萎縮してAIを使うことができなくなります。医師の制度上の役割と医師自身の専門性を守りながら、将来は、医師が直接診断の義務を果たすことの原則と限界を見直していく、などの方向も考えられます。

自身の主体性を保ちながら、AIツールを利用するという「医師の在り方」については、アメリカ医師会（AMA）で盛んに議論されています。

AMAは、AIが医療に用いられる目的は、医療を機械化して、人に置き換わるツールを開発するのではなく、人手が不足して業務に影響がある部分を補うことで医師本来の業務の質を高めていくこと、としています。完全な医師の代替を追求するものではないし、追求するべきではない、ということです。2018年以降、医師の主体的な判断がゆがめられる可能性があるという問題意識から、AMAは、AIを「Augmented Intelligence（拡張知能）」と称するべきだと主張しています。これもAIは医師に代わるものではなく、あくまでも医師の専門性を補完するツールだとの基本的な考えからでしょう。AMAの倫理綱領では、例えば医師とAIの結果が異なった場合、AIの判断支援ツールの透明性がしっかりと保たれているかどうかを確認することは当然として、最終的には医師の視点、患者の視点を重視して結論を下すように、としています。

• ＊1 AIの判断支援ツールの透明性：AIがどのようなデータを学習して、その結論に至ったかが明らかになっていること。

臨床上の一般的な常識を尊重せよ

AIの活用に積極的なアメリカではありますが、AIなど臨床上の支援ツールに過剰な依存をしてしまって、医師のプロフェッショナリズムをゆがめることのないように、というAMAの指摘は印象的でした。AMAは、「医師の裁量」に関する問題意識を持ち、医師はAIが示した結果に引きずられることなく、医療者に共有されている臨床上の一般的な常識を尊重せよ、という提言もしています。これは、ある意味でEBMの大原則です。

• ＊2 EBM：Evidence-Based Medicine。根拠に基づく医療。医療の意思決定において、科学的な根拠（エビデンス）を重視し、患者にとって最適な治療を提供するという考え方。

EBMは、エビデンス至上主義ではなく、エビデンスを医師の間で共有される常識にしっかり照らし合わせながら検討する発想に立っています。つまり、EBMの原則を、AIの支援ツールにおいても確認したことになります。AIに関して臨床上の検証が不十分で有用性が定まらない現状において、医師がツールの使用を強制されたり義務づけられたりすべきではないということも強調しています。このようなアメリカの状況は、今後AIの普及が進むであろう日本にとっても示唆に富んでいます。

AMAの見解も変わる可能性があります。多少は不可解なところがあっても医療の中でAIが展開していくことを是認するべきか。人々が納得する対応策をどこまで講じるべきか。医師の責任のもとにAIを使う前提にも、どこかで限界がくるかもしれません。AIツールを医師と患者の間でどのように共に活用していくのかという議論は、広く行われていいと思います。

冒頭に述べたように、AIのユーザーは医師だけではありません。一般の市民も、流通するAIアプリを使って、医療にまつわるさまざまな活動を行うことになるでしょう。ここにも多様な展開が考えられます。例えば海外のアプリの利用によって健康を害した場合、誰にどのような責任を問えるのか。あるいは将来、健康管理などにアプリを利用することが前提となった場合、自己責任という考えが過剰になりはしないか、などです。

日本の今後の医療の在り方を考えるうえで、アメリカと英国はしばしば引き合いに出されます。アメリカは、一つひとつの医療機関が経営体なので自由化が進み、市場によって医療の在り方も変化していきます。日本の公的医療とはかなり異なるのですが、日本が今後、アメリカ的な医療に向かうとしたら、AIによって医師の診断に圧力がかかるなどといったアメリカで起こっている事象が参考になるでしょう。

他方、英国は日本以上に国営医療の国です。ですからその体制をいかに維持していくかに重点が置かれています。今、英国では、患者に、アプリを利用して診療や自身の病気との向き合い方について確認することを推奨する方向に傾いています。国営医療は財政状況が厳しいため、医療機関に来る人を抑えるべく「自身でできることはしてほしい」というのです。これは「プレホスピタル・トリアージ」といわれ、「あなたが病院に行く理由は、本当にまっとうなものなのか」という文脈の中で、「まずアプリなどを使って確認しましょう」と推奨されている、ということです。こうしたアプリを使って、自分で健康管理をすることが標準化した場合、「管理できなかったのは自分の責任」という考え方が過剰に進むことも危惧されます。

AIツールが、患者や医師に過度に何らかのプレッシャーをかけるようなことは好ましくないということを、市民社会の中で認識していく必要があります。

最初に承認を得たものとは異なる

改めて、AIの倫理を論じるうえで大きなテーマとなるのが、「変容する」というAIの特徴です。

そもそもAIを用いた機器について論じるとき、何をもってAIというのか、何をもって人工知能というのか、AIの捉え方がさまざまだという問題があります。AIを使って学習した結果のプログラムが入っているものもAIだという人、学習しながら変容していくものがAIだという人など意見が分かれるのですが、学習するという機能を持っていないとしたら、それはAIではなく、単なるソフトウェアだともいえます。

AIの定義の違いが議論を複雑にしている側面がありますが、仮に「AIは学習し、常に変容しているもの」と考えると、医療への利用に新たな要素を持ち込むことになります。というのも、基本的にこれまでの医療機器や医薬品は、性能や効能が評価されたものが、その通りにまったく同じ形でその後も製造され、まったく同じ物が市民社会に流通することが大前提です。しかし、学習して精度の高くなったAIは最初に承認を得たものとは異なるものになってしまうかもしれません。国がその機器を評価したとは言い難く、これを許容すれば、これまでの医薬品行政の前提と正面から衝突することになります。

仮に変容を許容したとしても、どのようなデータを学習させるかによってAIが提示する結果が変わってきます。例えば、特定の生活パターンを取っている人が多い、という病院が、患者に合わせてデータを調整しソフトウェアを変容させたとします。対象を想定して学習データをカスタマイズするということは、裏を返せば対象以外の人への有効度は下がります。特定の人々に最適化された使用を重視するか、性能は多少落ちても広くさまざまな人に用いられるものを目指すべきか、といった問題が生まれます。

国が医療機器として承認した後も評価を定期的に行うべきであるなど、活発な議論が行われていますが、医療行政を大きく変える問題であって、簡単ではありません。今後、AIの多角的なポテンシャルを引き出し、市民が享受する恩恵を高めるために、市民にも入ってもらって、あるべき医療の姿について広く検討していくことが最善の方法です。

AIを医療に利用する際には、あらゆる階層にさまざまな新しい展開があります。しかし、私たちは、AIを利用するときにも、技術の新規性に目を奪われることなく、医療の進化とは何か、という原点を見失わないようにしなくてはなりません。

私は、英国で「AIホスピタル」を見学する機会がありました。AIの先進的な活用例を思い描いていたところ、患者の予約を支援する仕組みにAIを使っていると聞いて、一瞬、言葉を失ってしまいました。しかし、それは私の視野が狭かった故のことで、AIの導入によって先進の治療法を模索することはもちろん重要ですが、広く多くの人たちが不便、不都合と感じている普段の患者生活を改善することもまた、AIが大きく貢献できる領域です。この点は、日本の医療AIの開発で海外以上に一層深く考えていくべきテーマです。先端的な技術の開発だけではなく、医療全体の向上を目指し、多様化するニーズに対応すべき、と指摘していくことも医療倫理の重要な役割だと考えています。