共用方式為


用於數學和資料查詢的生成式 AI 策略

目前,對於 ChatGPT 或其他語言模型等工具處理數學和資料查詢的效果有不同的看法。 本文將探討在 Copilot Studio 中建立處理數學與資料查詢的 Agent 時,應採取的策略與設定預期。

本文中的數學和資料查詢的定義

本文的目標不是評估生成式 AI 是否可以幫助計算矩形的周長或圓的直徑。 在這種情況下,數學是指某人向 Agent 提出的典型自然語言問題。 這些問題假設 AI 可以匯總和解釋用於建立模型的知識來源或資料表的總和、平均值和趨勢。

在這種情況下,期望的結果不是回答數學方程式。 相反,它是為了幫助使用者更有效地評估或理解資料。 當使用者尋求深度資料分析 (例如尋找進階預測或規範分析) 時,自訂 Agent 通常不是偏好工具。 然而,Microsoft Stack 中有幾個 Agent 更直接地關注分析。 例如,以下 Agent 為此目的使用 Microsoft 應用程式程式碼補充語言模型:

自然語言理解中的資料彙總

當我們將 Agent 建立在我們自己的知識來源中時,我們簡化了使用者以自然語言詢問的資訊的發現。 請記住,語言模型旨在預測序列中的下一個單詞,而不是執行嚴格的數學運算。 然而,它們仍然可以提供有用的見解和解釋。 與瀏覽關鍵字搜尋結果或手動滾動瀏覽表中的所有記錄相比,這些見解可以更快地發現資訊。

Copilot Studio Agent 可以代表我們掃描知識來源。 無論是否涉及數值資料的彙整,這些 Agent 會根據主題、工具和知識來源總結答案。 然而,當我們用資料建立模型時,我們必須將 AI 回應所需的資料具體化。 基於這種理解,我們知道何時應該提供更多上下文或主題節點。 當在資料來源中發現小眾術語或高度技術性的措詞時,這種額外的理解是相關的。 以下是涉及數學運算式的資料查詢範例:

範例問題 考量的事項
我們在北美有多少客戶購買了產品 X? 此提示涉及關聯式資料庫中的多個結構化表,通常會查看數百甚至數千筆記錄。
颶風過後修復工作項目的總成本影響是多少? 這個提示涉及一個修復項目的資料表,其中有一欄表示每個工作項目的成本影響。 如果資料表中的修復項目多於與颶風相關的工作項目,那麼就需要一個類別或原因欄,以便 AI 知道哪些與颶風有關。
我們的哪位客戶提交了最多的變更要求? 此提示涉及一個包含變更要求的表,以及一個包含客戶名稱的相關表。 但是,這首先會按客戶計算請求數,然後傳回請求數最多的客戶 (而不是成本影響美元價值最高的客戶)。

清晰明了的結構

語言模型很大程度上依賴於問題的表述方式。 結構良好的提示可以清楚地解釋數學問題、定義變數並將任務分解為多個步驟,從而獲得更準確的答案。 例如,要求直接回答一個簡單的算術問題可能會很有效,但沒有明確背景的模糊或多層次的問題可能會使模型感到困惑。

以下是一些基於結構化知識來源 (例如 Dataverse 表) 的範例提示。 此範例說明了 Power Apps Dataverse 表的新增,如下圖所示。

Power Apps Dataverse 表的螢幕擷取畫面。

該 Dataverse 表已新增為知識來源,並賦予精確的知識描述,同時提供同義詞與詞彙表定義,以協助 AI 解讀資料。

知識來源的螢幕擷取畫面,醒目顯示描述。

知識來源的螢幕擷取畫面,醒目顯示同義詞和詞彙表定義。

具體提示

這些提示是具體的,並且僅限於所要求的資訊。

  • 「您能否提供變更單參考 PCO-1003 的完整詳細資訊,包括帳戶名稱、請求金額和請求原因?」
  • 「2024 年 8 月有多少個帳戶提交了變更請求?」
  • 「迄今為止請求的變更單總數是多少?」
  • 「哪位客戶在 2024 年的成本影響最大?」

通用提示

這些提示是通用的,不太可能一致地彙總所有結果,可能只會傳回前三個結果。

  • 「請按照各自的收入順序列出我們的帳戶。」
  • 「請列出今年8月份提交的變更請求,並說明變更金額和狀態。」
  • 「您能列出迄今為止提交的所有變更單請求嗎?」

注意

啟用或停用 AI 使用其自身常識的能力會影響返回答案的準確性或適當性。

秘訣與訣竅

以下是使用 Copilot Studio 時的一些建議,有助於您設定對依賴數學表達式的生成式回答的預期。

  • 針對醒目顯示主要趨勢的情境進行規劃,而不是期望對數千筆記錄進行計算。 提高對這種交談方式的認識,這種方式是總結而不是逐項列舉。

  • 優先採用結構化知識來源 (表格優先於非表格) 以最佳化數學表達式。

  • 支援特定情境,並了解差異的相依性。 例如,請注意這兩個問題之間的差異:

    • 我們的哪位客戶提交了最多的變更要求? 計算請求 ID,並傳回要求最多的客戶 - 忽略其他欄

    • 我們的哪些客戶對變更請求的成本影響最大? 按客戶匯總成本影響欄,並傳回提交最高總金額的客戶。 只有當找到基於數字或貨幣的適當欄時,它才會傳回此資訊。

  • 確保識別並定義用於計算的任何數字欄。 請確保資料欄位採用適當的資料類型格式化,此要求適用於知識來源層級,以及在 Copilot Studio 變數中使用時。 在可行情況下,請為表格、欄位或工具說明中的相關欄位添加清晰描述,並包含常用同義詞。

    提示

    透過自然語言理解,如果表頭的命名通訊協定過於技術化,AI 可能無法回答交談流程中提出的以人為中心的問題。 新增使用者常用的典型措詞的描述符。

  • 認識到人們只能透過他們被允許查看的資料獲得答案。 例如,Dataverse 中的 Sales 表格可能僅向特定業務群組公開部分記錄,而非全部記錄。 因此,請確保您的 Agent 不會對資料匯總方式設定錯誤的期望。 例如,對 2024 年總銷售額的請求僅對擁有或共用的記錄求和。

  • 務必為 AI 驅動的回答設定使用者期望。 使用 Agent 的交談開場訊息,或主題觸發後的第一則訊息,溫和地說明一個或多個相關知識來源的用途與限制。

使用提示做為工具

提示功能讓您能在 Copilot Studio 中,將 Power Apps 的生成式 AI 能力整合至您的 Agent 與解決方案中。 此功能可讓您執行分類、匯總、草稿內容產生、資料轉換等任務。 您還能透過提示自訂生成式 AI 的回應內容,使其運用表格中的特定篩選條件與彙總運算。