微软高层：AI聊天机器人须学会求助，别编造答案

darthracer · 2024-9-12 23:26

微软公司（Microsoft）副总裁辛赫（Vik Singh）表示，生成式人工智能（Generative AI）工具将为企业节省大量时间和金钱，但模型必须学会承认自身并非无所不能。

辛赫接受法新社访问说道，现在真正缺少的是，会有模型举手说“嘿，我不确定，我需要帮助”。

从去年以来，微软、Google及其竞争对手一直迅速推出类似ChatGPT的生成式AI应用程序，这些应用程序可以依据要求生成各种内容，给予用户一种无所不知的错觉。

尽管取得了进展，生成式AI应用程序依然“产生幻觉”或编造答案。

这是微软高层需要解决的重要问题，辛赫的企业客户无法承受微软AI系统出错的后果。

云计算软件巨头Salesforce首席执行官班纽夫（Marc Benioff）本周指出，他看到许多客户对微软人工智能辅助工具Copilot的胡言乱语越来越感到沮丧。

辛赫坚称，“真正聪明的人”正试图寻找方法，让聊天机器人承认“它不知道正确答案，并寻求帮助”。

dlldldl · 2024-9-16 00:08

那太难了。人都有时候做不到这点。

微软高层：AI聊天机器人须学会求助，别编造答案

浏览过的版块