根據長島大學的研究,ChatGPT 在涉及藥物問題上, 74% 的答案都是錯的

2023-12-10 34 12/10
根據長島大學的研究,ChatGPT 在涉及藥物問題上, 74% 的答案都是錯的

ADVERTISEMENT

儘管 ChatGPT 迅速崛起,成為近期最廣為人知的科技創新之一,但它也引起了不少爭議,其中大多與其提供錯誤訊息的傾向有關。事實證明,長島大學進行的一項研究顯示,在涉及藥物問題時,該 ChatGPT 提供錯誤的回答率高得驚人。

這個大型語言模型聊天機器人收到了 39 個關於各種藥物及其適當使用方式的問題。但是在這些說明中, ChatGPT 在這些問題中約 74%(準確地說 是29 個)問題中,提供了錯誤的答案或完全忽略了問題。

  • 延伸閱讀:Google AI模型Med-PaLM刷新美國醫師執照試題新紀錄,科學常識水準媲美人類醫生

當 ChatGPT 被要求為其提供的資訊給出引用來源或參考文獻時,它只能在 39 個問題中的大約 8 個問題中做到這一點。這種趨勢令人擔憂,因為這會向沒有戒心的消費者提供藥物的錯誤訊息,而且這些訊息在大多數情況下很可能根本完全沒有來源,是 ChatGPT 自己亂寫的。

例如,當被問及 Paxlovid(用於治療 Covid-19 的抗病毒藥物)與一種名為 verapamil 的血壓藥物之間潛在的有害相互作用時,聊天機器人聲稱沒有這種相互作用。儘管事實如此,這兩種藥物的聯合使用可能導致 verapamil 降低血壓的效果加劇。

但要特別說明的是,OpenAI 自己就不建議使用者將 ChatGPT 用於醫療目的,而且聊天機器人本身在提供任何使用者請求的答案之前,都會迅速表示它不是醫生。

然而,許多消費者可能沒有意識到他們獲得的數據不會那麼準確,如果他們根據 ChatGPT 錯誤的指示行事,可能導致的危險有可能造成廣泛的傷害。教育消費者以便他們更好地理解所涉及的陷阱至關重要。

  • 延伸閱讀:醫生處方箋總是看不懂?Google正開發AI新模型用於識別「天書」