出師不利!谷歌Bard答題犯下事實性錯誤
科技日報北京2月9日電 (記者劉霞)據英國《新科學家》網站8日報道,谷歌人工智能(AI)搜索工具Bard在推廣活動中,在回答與詹姆斯·韋布空間望遠鏡有關的問題時犯下事實性錯誤,加劇了人們對這些工具還沒有準備好集成到搜索引擎中的擔憂。
英國牛津大學的凱莉莎·維茲表示,有證據表明,使用此類AI聊天機器人為網絡搜索提供結果發生得太快了,“大規模制造錯誤信息的可能性很大”。
去年11月,得到微軟加持的美國加州初創企業OpenAI推出了聊天機器人ChatGPT,這一系統短短兩個月就有了上億用戶。
ChatGPT攪動了互聯網江湖的“一池春水”。谷歌本周宣布,將推出AI工具Bard,測試后將其整合到自己的搜索引擎內,為用戶提供定制答復,而非僅僅列出相關網站列表。中國搜索引擎巨頭百度公司近日也宣布了類似計劃。2月7日,微軟為其搜索引擎必應推出了自己的AI搜索服務。
但有專家警告說,這類機器人可能會給出不準確的回答,因為它們基于信息的統計性而非準確性輸出結果。2月8日,谷歌在推特上發布的一則廣告顯示,Bard在回答“關于詹姆斯·韋布空間望遠鏡(JWST),我可以告訴我9歲孩子它有何新發現?”這一問題時,給出了錯誤的結果。
Bard給出的一個答案是:第一張太陽系外行星的照片由JWST拍攝。但哈佛—史密森天體物理中心的格蘭特·特朗布萊指出,這并非事實,2004年歐洲南方天文臺的甚大望遠鏡(VLT)拍攝了第一張系外行星照片。
維茲表示,這個錯誤說明,在精確度很重要的情況下,依賴AI模型存在一定風險。她說:“這完美地顯示了統計系統最重要的弱點,這些系統旨在根據統計分析給出(看似合理)的答案,而非給出真實的答案!
(責任編輯:歐云海)