新用户登入 登录

萌子岛

  • 16
  • 1

据研究,ChatGPT在涉及药物问题上, 74%的答案都是错的

1023粉丝
darthracer Elysion~楽的次元2024-1-28 12:33 显示全部楼层 |阅读模式
<
1.jpg

尽管ChatGPT迅速崛起,成为近期最广为人知的科技创新之一,但它也引起了不少争议,其中大多与其提供错误消息的倾向有关。事实证明,长岛大学进行的一项研究显示,在涉及药物问题时,该ChatGPT提供错误的回答率高得惊人。

这个大型语言模型聊天机器人收到了39个关于各种药物及其适当使用方式的问题。但是在这些说明中,ChatGPT在这些问题中约74%(准确地说是29个)问题中,提供了错误的答案或完全忽略了问题。

当ChatGPT被要求为其提供的资讯给出引用来源或参考文献时,它只能在39个问题中的大约8个问题中做到这一点。这种趋势令人担忧,因为这会向没有戒心的消费者提供药物的错误消息,而且这些消息在大多数情况下很可能根本完全没有来源,是ChatGPT自己乱写的。

例如,当被问及Paxlovid(用于治疗Covid-19的抗病毒药物)与一种名为verapamil的血压药物之间潜在的有害相互作用时,聊天机器人声称没有这种相互作用。尽管事实如此,这两种药物的联合使用可能导致verapamil降低血压的效果加剧。

但要特别说明的是,OpenAI自己就不建议用户将ChatGPT用于医疗目的,而且聊天机器人本身在提供任何用户请求的答案之前,都会迅速表示它不是医生。

然而,许多消费者可能没有意识到他们获得的数据不会那么准确,如果他们根据ChatGPT错误的指示行事,可能导致的危险有可能造成广泛的伤害。教育消费者以便他们更好地理解所涉及的陷阱至关重要。
37粉丝
keivn36 蓝晶石的觉悟2024-2-13 16:11 显示全部楼层
<
ChatGPT表示仅供参考.
回复 支持 反对

使用道具 举报

您需要登录后才可以回帖 登录 | 新用户登入

小黑屋|萌子岛

GMT+8, 2025-4-25 14:14 , Processed in 0.417688 second(s), 27 queries , Gzip On, MemCache On.

Copyright 2020  atollmoe©.a2.1.0 All rights reserved. 9+

Copyright 2009  supported by zhixuan© oeo© oko© All rights reserved.Thank you!

快速回复 返回顶部 返回列表