【電子報 004】AI 技術如何改變搜尋與預測：揭示 ChatGPT Search 與生成式 AI 在電子業的應用潛力

  • Ken
  • 2024年11月22日

AI . FREE Newsletter 004


上週的萬聖節，被突如其來的颱風打亂了節奏，不過也在忙亂的工作中，忙裡偷閒獲得了一天颱風假，而講到颱風假，身在 AI 時代，就不能不提到 AI 天氣預測。

廣義而言，天氣預報也是屬於 AI 預測的一種，但在狹義的 AI 領域中，現行所使用的天氣預測，實際上是科學家們透過電腦利用物理方程式，對時間積分的成果，並未動用到深度學習的演算法，又或是現今最火紅的序列模型架構：transformer；因此，未來若有機會能將新的 AI 技術應用到更多科研領域，除了天氣預測，地震的預測、板塊運動、洋流的變化，甚至是溫室氣體含量的變化等，都將有機會能夠透過 AI 進行更精準的預測，進一步打造更安全的生活。

除了颱風之外，上週最新的 AI 新聞為：Chatgpt 解鎖新功能 ChatGPT search 的新工具，目前已有開放給付費用戶使用，然而相信不少讀者應該覺得有些莫名其妙，過去在使用 chatgpt 時，我們似乎就可以進行網路找資料的動作，但是成效似乎不慎理想。

不過這次推出的新工具，卻廣受使用者們好評？本週的電子報，我們來探討：為什麼 ChatGPT search 到底做了那些優化？

  • 過往 ChatGPT 怎麼做搜尋？

在 LLM 的模型架構中，並不具備「網路搜尋」的功能，而是透過 LLM Agent 的機制，進行網路搜尋，流程大致如下：

使用者問句 
→ LLM 判別問句是否有需要進行搜尋 
→ 有，則呼叫 Bing Seach API ，透過 LLM 下關鍵字進行搜尋
→ 將搜尋結果回傳給 LLM 進行綜整
→ 回傳使用者問句

以上的技術流程，也可以稱作 RAG (retrieval augmented generation) 檢索增強生成，意即透過語意的分析與理解，抓取出有用的資訊後，在透過 LLM 進行閱讀理解後，回傳給使用者。

※ 網路搜尋 RAG 與一般技術專案開發的 RAG，不同的地方為：網路搜尋是呼叫 Bing Search 的 API ，而一般專案則是透過 Embedding 模型進行向量搜尋。

ChatGPT Search 怎麼搜尋？

在技術架構面，ChatGPT Search 跟先前 Chatgpt RAG 搜尋回答的技術其實相當雷同，不過在一些技術環節中進行優化，而達到更好的搜尋結果，以下為自由團隊實測後，觀察到的優化面向：

(1) 「不必猜測使用者是否需要搜尋」，只要使用 ChatGPT Search 一律進行搜尋。
(2) 模型特化，強調在生成一到多組「精準的搜尋關鍵字」，再進行 Bing Search。
(3) 「採納多組 Bing Search 回傳的網頁」，並從不同的網頁中進行爬蟲找到更多資訊 (如 citations、references)
(4) 透過 Agent 逐一判讀資料來源是否正確/是否相關，並寫出文字摘要及註明網頁來源
(5) 最後再透過 LLM 針對整體搜尋到的資訊，進行摘要綜整回覆

因此 ChatGPT Search 的功能並不是革命性技術的突破或進展，而是 LLM 功能性應用的特化，翻譯成白話文，可以想像成：多了一個 LLM 搜尋助手，來協助我們在茫茫的資料海中，下達精準的關鍵字，再從多篇搜尋結果中節錄、決選出最佳的答案。


會不會取代 Google 搜尋引擎？

在網路社群中，ChatGPT Search 最頻繁被拿來與 Google Search 做相提並論，然而會不會取代 Google 搜尋，以筆者的觀點，認為仍有很長遠的路要走，原因如下：

(1) ChatGPT Search 仰賴的 LLM 的判讀能力，運算成本仍遠高過關鍵字搜尋
(2) ChatGPT Search 現階段仍是串接 Bing Search 的服務，但在搜尋引擎的工具中，Google Search 的精準度與市占率，遠超越 Bing Search
(3) Microsoft 在 2023 年其實就已經在 Copilot 中推出相同的服務
(4) Google 在 2023 年也已經推出 Gemini 結合搜尋引擎的實驗性服務

總結來說 ChatGPT Search 可能是一個新的搜尋引擎的選擇，但是要取代 Google 搜尋的龍頭地位，仍有一段距離。


本週的 AI . FREE Newsletter 簡單探討企業導入 AI 的準備，若你還想知道更多 AI 相關的趨勢或資訊，歡迎追蹤 AI . FREE Team 粉絲專頁，或是加入 AI . FREE Team - Community 自由團隊 學習社群，讓我們一起跟上AI時代的洪流。