研究人員發(fā)出警告：ChatGPT不適合獲取醫(yī)療信息，可能誤導(dǎo)公眾

IT之家 12 月 11 日消息，一項(xiàng)新的研究顯示，ChatGPT 可能并不適合用來(lái)獲取醫(yī)療信息。長(zhǎng)島大學(xué)的研究人員向 ChatGPT 詢問(wèn)了 39 個(gè)與藥物相關(guān)的問(wèn)題，這些問(wèn)題都是來(lái)自該大學(xué)藥學(xué)院藥物信息服務(wù)中心的真實(shí)問(wèn)題。隨后，他們將 ChatGPT 的回答與經(jīng)過(guò)培訓(xùn)的藥劑師編寫的答案進(jìn)行比較。研究發(fā)現(xiàn)，ChatGPT 只有大約 10 個(gè)問(wèn)題的回答是準(zhǔn)確的，占總數(shù)的四分之一。對(duì)于其他 29 個(gè)問(wèn)題，ChatGPT 的回答要么不完整，要么不準(zhǔn)確，要么沒(méi)有解決問(wèn)題。IT之家注意到，該研究結(jié)果于周二在美國(guó)加州阿納海姆舉行的美國(guó)衛(wèi)生系統(tǒng)藥劑師協(xié)會(huì)年會(huì)上公布。OpenAI 的 AI 聊天機(jī)器人 ChatGPT 于 2022 年 11 月發(fā)布，成為歷史上增長(zhǎng)最快的消費(fèi)者應(yīng)用程序之一，兩個(gè)月內(nèi)就有近 1 億人注冊(cè)。長(zhǎng)島大學(xué)藥學(xué)實(shí)踐副教授、該研究作者之一 Sara Grossman 表示，考慮到 ChatGPT 的普及率，研究人員之所以對(duì)其進(jìn)行研究，是因?yàn)閾?dān)心他們的學(xué)生、其他藥劑師和普通消費(fèi)者會(huì)使用它來(lái)尋找有關(guān)健康和用藥計(jì)劃的答案。然而研究人員發(fā)現(xiàn)，這些查詢往往會(huì)得到不準(zhǔn)確甚至危險(xiǎn)的答案。例如，在一個(gè)問(wèn)題中，研究人員詢問(wèn) ChatGPT 新冠病毒抗病毒藥物 Paxlovid 和降血壓藥物維拉帕米在體內(nèi)是否會(huì)相互作用。ChatGPT 回答說(shuō)，同時(shí)服用這兩種藥物不會(huì)產(chǎn)生任何副作用。事實(shí)上，同時(shí)服用這兩種藥物的人可能會(huì)出現(xiàn)血壓大幅下降，從而導(dǎo)致頭暈和暈厥。Grossman 說(shuō)，對(duì)于同時(shí)服用這兩種藥物的患者，臨床醫(yī)生通常會(huì)制定針對(duì)患者的計(jì)劃，包括降低維拉帕米劑量或提醒患者從坐姿緩慢起身。她補(bǔ)充說(shuō)，ChatGPT 的指導(dǎo)會(huì)將人們置于危險(xiǎn)之中。當(dāng)研究人員要求 ChatGPT 提供支持其每個(gè)回復(fù)的科學(xué)參考資料時(shí)，他們發(fā)現(xiàn)該軟件只能為他們?cè)儐?wèn)的 8 個(gè)問(wèn)題提供參考資料，而且所有參考資料都是 ChatGPT 編造的。Grossman 之前很少使用過(guò)該軟件，她驚訝于 ChatGPT 能夠幾乎立即合成信息，而這些信息需要經(jīng)過(guò)培訓(xùn)的專業(yè)人員花費(fèi)數(shù)小時(shí)才能編譯。她說(shuō)：“ChatGPT 的回答措辭非常專業(yè)和復(fù)雜，似乎可以增加人們對(duì)該工具準(zhǔn)確性的信心，用戶、消費(fèi)者或其他無(wú)法辨別的人可能會(huì)被權(quán)威的表象所迷惑?！盋hatGPT 的開(kāi)發(fā)機(jī)構(gòu) OpenAI 的一位發(fā)言人表示，他們建議用戶不要將 ChatGPT 的回答作為專業(yè)醫(yī)療建議或治療的替代方案。這位發(fā)言人指出了 ChatGPT 的使用政策，該政策指出“OpenAI 的模型沒(méi)有經(jīng)過(guò)微調(diào)以提供醫(yī)療信息”。該政策還規(guī)定，這些模型絕不應(yīng)該用于“嚴(yán)重疾病的診斷或治療服務(wù)”。Grossman 雖然不確定有多少人使用 ChatGPT 來(lái)解決藥物問(wèn)題，但她擔(dān)心他們可能會(huì)像使用搜索引擎搜索醫(yī)療建議一樣使用它。Grossman 說(shuō)：“人們總是希望立即獲得答案，當(dāng)他們手頭有這樣的工具時(shí)，他們就會(huì)這樣做。我認(rèn)為這只是另一種使用 ‘Dr. Google’ 和其他看似易于獲取信息的工具的方法?！睂?duì)于在線醫(yī)療信息，她建議消費(fèi)者使用政府網(wǎng)站提供可靠的信息。不過(guò)，Grossman 并不認(rèn)為網(wǎng)上答案可以代替醫(yī)療專業(yè)人員的建議，這些信息可能并不適用于患者本人，因?yàn)槊總€(gè)患者都是不同的。