SARAH AI 聊天機器人的侷限性

標題:WHO 推出新的 AI 聊天機器人 SARAH,但是它提供的醫療資訊有時候是錯的

WHO 推出新的 AI 聊天機器人 SARAH

WHO 最近推出了一個名為 SARAH(Smart AI Resource Assistant for Health)的 AI 聊天機器人,旨在提供基本的醫療資訊。SARAH 是一個 24/7 可用的虛擬醫療工作者,可以用八種不同的語言回答用戶的問題,包括心理健康、吸煙和健康飲食等主題。

SARAH 的問題

然而,SARAH 並不完美。WHO 在其網站上警告說,這是一個早期的原型,可能會提供不準確的回答。SARAH 的 AI 訓練落後於最新的數據幾年,並且偶爾會提供奇怪的答案,這些答案被稱為 AI 模型中的幻覺,可能會導致公共醫療的錯誤信息。

SARAH 沒有診斷功能

SARAH 沒有像 WebMD 或 Google 那樣的診斷功能。相反,SARAH 被設計為不談論 WHO 的範疇之外的任何事情,包括特定藥物的問題。因此,SARAH 經常將用戶導向 WHO 的網站,或者建議他們諮詢醫療保健提供者。

研究人員和政府的意見

WHO 表示,SARAH 旨在與研究人員和政府合作,提供準確的公共醫療資訊。該機構正在向他們徵求意見,以改善聊天機器人並在緊急醫療情況下使用它。但是,WHO 強調其 AI 助手仍在開發中。

安全和隱私問題

為了模仿同情心,SARAH 可以存儲用戶的臉部表情 30 秒,然後刪除錄像。每次訪問都是匿名的,但用戶可以選擇在一項調查中與 WHO 分享他們的問題,以改善體驗。

結論

SARAH 是一個有前途的 AI 聊天機器人,但是它仍然存在一些問題。WHO 正在努力改善 SARAH,並希望它能夠成為一個有用的工具,幫助人們瞭解醫療資訊。然而,用戶應該注意,SARAH 並不是一個醫療專業人員或訓練有素的醫療保健提供者的替代品。

重點:

  • WHO 推出了一個名為 SARAH 的 AI 聊天機器人,旨在提供基本的醫療資訊。
  • SARAH 是一個 24/7 可用的虛擬醫療工作者,可以用八種不同的語言回答用戶的問題。
  • SARAH 並不完美,可能會提供不準確的回答,並且偶爾會提供奇怪的答案。
  • SARAH 沒有診斷功能,並且被設計為不談論 WHO 的範疇之外的任何事情。
  • WHO 正在努力改善 SARAH,並希望它能夠成為一個有用的工具,幫助人們瞭解醫療資訊。
  • 用戶應該注意,SARAH 並不是一個醫療專業人員或訓練有素的醫療保健提供者的替代品。

相關文章