普羅米修斯計劃：整合全新ChatGPT的New Bing是如何誕生的

在經過一段時間的排隊以後，總算體驗到了整合 chatGPT 功能的 New Bing，在初期剛用的兩三天內，不得不說體驗確實令人驚豔。連接上網路以後帶來的結果較原本資料停在 2021 年的 chatGPT 要豐富不少。但隨著各種 New Bing 暴走的新聞傳出以後，微軟對其進行了修正，包括限制對話次數，以及它再也不為用戶寫程式碼等等，都令人感到失落。

不過在微軟擔任 Search&AI VP 的 Jordi Ribas ，近期在 Microsoft Bing Blogs 上寫了一篇關於 New Bing 的開發故事，裡頭提到了為何他們必須加上相關限制等資訊，有興趣的不妨一讀。

原文：Building the New Bing

一年半前，我寫了一篇文章指出「搜尋（Search）」遠未解決問題，而且更將迎來一場革命，我建議通過應用深度學習模型讓「搜尋」變得更加直觀與新式，屆時將可以顯著改善用戶體驗。

隨著最近發布的 New Bing 服務，很高興終於看到我們朝著願景邁進了一大步。在 Preview 版本推出的這幾週間，我們收到了許多問題回饋，因此想在此多分享一點關於 New Bing 的資訊，以及它是如何誕生的。

關於幕後： New Bing 是如何誕生的

去年夏天，OpenAI 與我們分享了改變遊戲規則的次世代 GPT 模型。新模型與驅動 ChatGPT 的 GPT-3.5 相比要強大許多，並且能夠更好地進行整合、匯總、聊天與創造。

在看到新模型以後，我們開始思考該如何將 GPT 功能整合到 Bing 搜尋產品中，如此一來就能為包括了較長、較複雜以及自然用語所組成的各種查詢，提供更為準確與完整的搜尋結果。

技術創新的背後：Prometheus

雖然新的 GPT 模型代表著大型語言模型 (LLM) 的突破，但因為與其他 LLM 一樣，都是基於特定時間點內的數據進行訓練的關係，因此我們認為可以透過結合 Bing 後端來進一步提升用戶體驗，包括關聯性、準確度與豐富性。

更具體地說，我們開發了一項名為 Prometheus （普羅米修斯）的專有技術。

這是一種首創的 AI 模型，它整合了最新且全面的 Bing 索引、排名、答案結果與 OpenAI 最先進 GPT 模型的創造性推理能力。

Prometheus 利用 Bing 和 GPT 的強大功能，通過名為 Bing Orchestrator 的元件迭代生成一組內部查詢，目的是在幾毫秒之內，為給定對話上下文中的用戶查詢提供準確而豐富的答案，我們將 Prometheus 生成的答案稱為 Chat answer。

Prometheus 的重要核心是選擇相關的內部查詢並運用與之對應的 Bing 搜尋結果 ，由於因為它為模型提供了關連及最新的資訊，使其能夠回答近期的問題並降低錯誤——這種方法稱為 Grounding。

下圖是 Promethers 在較高層次上的運作方式，換句話說，模型通過 Bing Orchestrator 以 Bing 數據為基礎，並就取得的資料進行推理。

最後是讓 Prometheus 進一步利用 Bing 的功能，將天氣、股票、體育、新聞等相關的 Bing 搜尋結果附加到聊天對話的答案當中，以提供更豐富、更具吸引力的用戶體驗。

得益於 Bing 的基礎技術，Prometheus 還能夠將引用的內容匯整顯示到聊天視窗的回答當中，以便用戶可以輕鬆點擊以瀏覽訊息來源並驗證內容。

將流量導至這些來源對於建構健康網路生態系統是相當重要的，而這依然是我們最首要的 Bing 目標之一。

更多該做的：確保為所有人提供有益和包容的體驗

儘管 Grounding 是一項卓越的創新，但做為一項新技術，我們需要考慮到該如何負責任地應用它，這包括了進一步減少錯誤之處並防止具攻擊性和有害的內容。

因此 New Bing Preview 版的關鍵目標之一正是收集用戶反饋，以幫助我們進一步改進 Prometheus。

過去兩週從真實用戶收到的寶貴回饋中所學到的東西，比在實驗室的幾個月裡學到的還要多，並且正如我們在最近的文章中所說明的，我們正在實踐那些內容， 例如：我們計劃將傳送到模型的基礎數據增加 4 倍，以提高聊天回答的準確性，我們也正在評估增加一個切換開關，讓用戶可以根據自己的任務和目標來更有效地控制與改善體驗。

另一個重要的學習經驗在於我們得知到，非常長的聊天會話可能會混淆底層聊天模型，進而導致聊天答案不太準確，或者開始變成我們不希望看見的語氣。

這也是為什麼我們最近在聊天體驗中設定了對話上限，我們正在根據用戶的回饋進行調整，並改進模型的基礎和基調。

產品創新的背後：合併搜尋與聊天

雖然 Prometheus 是一項具有開創性，基於 AI 的卓越創新，但從用戶體驗的角度來看，對於該如何將其統整至 Bing 裡頭的做法還不明確。

有兩個主要觀點：

• 團隊中的一些人認為「搜尋」是一種根深蒂固的習慣，我們應該維持像現在的網路搜尋 UX（用戶體驗），並簡單地在主要 UX上添加 Prometheus 提供的聊天回答。與其他的回答相同，聊天答案（Chat answer）會根據其與查詢的相關性贏得一席之地。
• Bing 的其他人則認為這是一個改變搜尋模式的機會，可以將搜尋行為的典範從傳統模式轉變為一種新的互動式、基於聊天的搜尋方式。

兩種立場都只說對了一部分，也都不完全正確。

提倡傳統搜尋的團隊通常使用導航查詢來捍衛他們的觀點，而提倡對話互動模式的團隊則會提出例如購物或旅行的搜索式對話的研究。

在此將他們的查詢內容繪製成如下圖表。

很明顯可以看見，一部份查詢在經典或搜尋模式下表現較好，而其他查詢在對話或聊天模式下則表現更好。

此外，取決於查詢的內容，部份用戶可能更偏好其中一個方案，因此，最理想的 Bing 搜尋產品必須根據用戶的意圖和偏好，能夠在經典搜尋和聊天模式之間平滑轉換。

我們的設計團隊接受了挑戰，經過多次迭代，開發粗了一個新的用戶體驗，將搜尋和聊天統整在一個介面中，用戶可以通過點擊頁面中的用戶體驗元素，或者通過簡單地滾動或滑動來輕鬆地來回切換。

下面的影片展示了從搜尋平滑過度到聊天對話的過程，以及從聊天回到經典搜尋的旅行查詢情境。這項產品以及用戶體驗的創新可說與 Prometheus 技術一樣重要，人們將能以更直覺的方式充份運用這項產品的潛力。

這一切的背後：人們

還有其他創新我們將會在以後的文章中說明，這些與 Prometheus 的強大功能和全新的搜尋聊天互動模型一同出現的技術，都幫助我們創造了全新的 Bing 服務。它將「搜尋」帶入了下一個創新的階段。

我真心認為相信「搜尋」不會永遠保持不變的。

New Bing 的用戶將會獲得更為完整，且與上下文相關的答案，在某些情況下，這可能會節省他們數小時在傳統搜尋中的研究時間，他們可以有更多時間花在重要的事情上，而我們也希望在這個過程中，用戶們會發現搜尋是可以更具有互動性與樂趣的。

盡管在 Preview 版本期間還有許多要學習與改進之處，但看到目前這些技術與產品創新在 New Bing 中融合在一起，我要由衷地感謝讓這一切成真的團隊，這是他們堅韌與創造力的證明，也是 Bing 團隊多年工作的結晶。

最後，還有件一樣重要的事，就是要感謝所有的 Bing 用戶，無論是忠實粉絲還是那些第一次體驗 Bing 的用戶，我們為了「你」構建了 New Bing，您的意見與回饋非常寶貴，請不吝讓我們知道，以驅使我們能持續改進。

這只是開端，在接下來的幾週和幾個月裡，我已經迫不及待地想要分享更多資訊給你們了。

Jordi Ribas
Corporate Vice President, Search & AI