教授挨拶

「生成AIの使い方」

 医局として、この1年も大きなトラブルもなく過ごせた ことを嬉しく思います。もちろん1年もあれば色々な問 題が生じますので、その都度スタッフ会議や診療委員会 で議論してきました。医員のこと、専攻医のこと、専門 外来のこと、外来のこと、病棟のこと、関連病院のこと、 本当に様々でした。その都度対応策を講じ何とか乗り越え てきましたが、それを支えてくれたのはもちろん医局員の 皆でした。不満も多々あると思いますが、そんな中でも 頑張ってくれた皆さん、本当にありがとうございました。 会議の結論と議事録だけでは、なぜそのような解決策だっ たのか分からないこともあったと思いますし、今後はそこ に至った考えや想いも伝えていきたいと思います。

 さて、話はかわりますが、皆さんは仕事をする上で生 成AI を使うことはあるでしょうか。近年急速に浸透し てきて、学会でも話題になるほど一般的に広まっていま す。自分も論文を読むときなどに重宝しています。以前 はDeepL という翻訳ソフトをよく利用していました。 出た当初はかなり進化した翻訳ソフトという印象でした が、訳の不自然さや一部が勝手に省略されるなどの問題 があり、原文を読んだ方が早いこともありました。今で はGoogle翻訳のほうが正確かもしれません。しかし、今 やChatGPT、Gemini、Copilot などの生成AI を用いれ ば翻訳だけでなく要約もしてくれます。手間が大幅に減 りました。調べ物をするときも、以前のChatGPT は嘘 ばかりで使い物になりませんでしたが、GPT-4、GPT-5 と進化に伴ってかなり実用的になってきました。

 先日、後輩の先生の学会発表の指導をしていました。 考按の中の一文に引用文献を付けよう言ったところ、す ぐに付けてくれました。ところがその論文をPubMed や Google Scholar で探しても見つかりません。後輩に文 献について聞くと、「○○という内容の論文です」と答え が返ってきました。しかし探し方を変えても見つからな いので、検索方法と論文そのものを送ってほしいと伝え たところ、「ChatGPT で検索したので、元の論文までは 確認していません」との返答(!)。生成AI はそれっぽく答えますが平気で捏造するし嘘をつくので、必ず裏付 け確認をすることを後輩へ指導し、無事に正しい文献を 引用してくれました。では、そもそもChatGPT を使っ たことが間違いだったのでしょうか。答えは“No” です。 ChatGPT への質問にただ「○○という内容が書いてあ る論文を教えてください」と書くと、実在しない論文が 返ってくることが多いです。その質問に追加で「論文は PubMed で検索できるもののみに限り、不正確な情報は 含めないでください」などと記載すると回答の質はかな り向上します。つまり、AI への指示の仕方を工夫するこ とで、正しい情報が引き出しやすくなります。重要なの は、AI の回答を鵜呑みにしないこと、裏付けを自分で確認 することです。そうすることで生成AI の問題点や回答の 癖、求めるものを答えてもらえるうまい聞き方が分かっ てくると思います。

 なお、生成AI への質問に未公開データや患者情報を含 めると、学術的リスクや研究不正、守秘義務違反に繋がり かねません。匿名化しても情報の組み合わせにより症例 が再同定される可能性もあります。学会発表や論文作成 に生成AI を利用する場合には、その点に十分に注意して 用いなければなりません。長文を翻訳させたり、データ を羅列して文章を作らせるような使い方は絶対に止めま しょう。

 みんながどのように生成AI を利用しているのか、いず れ医局内でアンケートをとって情報共有できればと考え ています。生成AI は優れた道具ですが、使い方を間違え るとかえって時間を浪費します。うまく利用するスキル をみんなで身に着けましょう。

 

 

How to use generative AI

  As a medical department, I am pleased that we have been able to get through this past year without any major issues. Of course, many problems arise in a year, and we have discussed them each time at staff meetings and clinical committee meetings. There were a wide variety of issues, including those concerning medical staff, residents, subspecialty outpatient clinics, outpatient care, inpatient wards, and affiliated hospitals. We have devised countermeasures each time and somehow managed to overcome them, and of course, the support of all the medical department members has been great. I'm sure there are many sources of dissatisfaction, but I'd like to thank everyone who worked hard despite the circumstances. I think that there were times when it was difficult to understand why we arrived at a particular solution just from the conclusions and minutes of the meetings, and in the future, I would like to share the thoughts and feelings that led to them.

  Now, changing the subject, do you ever use generative AI in your work? It has rapidly spread in recent years, becoming so common that it's even being discussed at academic conferences. I find it useful when reading academic papers. I used to frequently use a translation software called DeepL. When it first came out, I thought it was a very advanced translation software, but there were problems with unnatural translations and arbitrary omissions, and it was sometimes quicker to just read the original text. Nowadays, Google Translate may be more accurate. However, generative AIs like ChatGPT, Gemini, and Copilot can now not only translate but also summarize. This has significantly reduced the amount of work required. When doing research, the old ChatGPT was full of lies and was useless, but with the evolution of GPT-4 and GPT-5, it has become quite practical.

  The other day, I was supervising a fellow for a conference presentation. I suggested adding a reference to a sentence, and he did so immediately. However, when I searched for the paper on PubMed or Google Scholar, I couldn't find it. When I asked him about the reference, he replied, "It's a paper about XX." However, even after changing my search method, I still couldn't find it, so I asked him tosend me the search method and the paper itself. He replied, "I searched using ChatGPT, so I didn't check the original paper." (!) The generative AI gives plausible answers, but it may also generate fabricated or inaccurate information. I therefore advised him to always verify the source, and he successfully cited the correct reference. So, was using ChatGPT a mistake in the first place? The answer is "No." Simply asking ChatGPT, "Please tell me a paper that mentions XX," often returns a list of nonexistent papers. Adding an additional comment to the question, such as, "Please limit your references to those that can be found on PubMed, and please do not include inaccurate information," significantly improves the quality of the answer. In other words, by devising ways to instruct generative AI, it becomes easier to extract the correct information. The important thing is not to blindly accept the AI's answers, but to verify the evidence yourself. By doing so, you will be able to understand the problems with the generative AI, its answering habits, and how to ask questions effectively to get the answer you are looking for.

  Incidentally, including unpublished data or patient information in questions to generative AI could lead to academic risks, research misconduct, and breaches of confidentiality. Even if the data is anonymized, cases may be re-identified by combining information. This point must be used with great caution when using generative AI for academic presentations or writing papers. Absolutely do not ask it to translate long sentences or create sentences by listing data.

  I hope to eventually conduct a survey within the medical department to share information about how everyone is using generative AI. Generative AI is an excellent tool, but if used incorrectly, it can waste time. Let's all learn how to use it effectively.