HoloLens 2 可讓開發人員使用使用者正在查看之內容的相關資訊,藉此在全像攝影體驗中,將內容和人類理解提升到新的層級。 本頁說明開發人員如何從各種使用案例的眼球追蹤中獲益,以及設計以眼睛注視為基礎的使用者互動時要尋找的內容。
眼動追蹤 API 的設計充分考慮了使用者的隱私權;它避免傳遞任何可識別信息,尤其是任何生物識別信息。 對於支援眼球追蹤的應用程式,使用者必須授與應用程式使用眼球追蹤資訊的權限。
設備支持
| 功能 | HoloLens (第 1 代) | HoloLens 2 | 沉浸式耳機 |
| 眼睛凝視 | ❌ | ✔️ | ❌ |
頭部和眼球追蹤設計概念示範
如果您想要查看頭部和眼球追蹤設計概念的實際應用,請觀看下面的 設計全息投影 - 頭部追蹤和眼球追蹤 影片示範。 完成後,請繼續更詳細地探討特定主題。
這段影片取自「設計全像投影」HoloLens 2 應用程式。 在這裡下載並享受完整的體驗。
校準
若要讓眼球追蹤準確運作,每個使用者都必須經過 眼球追蹤使用者校正 ,使用者必須查看一組全像攝影目標。 這使得設備能夠調整系統,從而為使用者帶來更舒適、更高品質的觀看體驗,同時確保準確的眼動追蹤。
眼動追蹤應該適用於大多數使用者,但在極少數情況下,使用者無法成功校準。 校準可能會因各種原因而失敗,包括但不限於:
- 使用者先前選擇退出校準程式。
- 用戶分心了,沒有遵循校準目標。
- 使用者擁有系統尚不支援的某些類型的隱形眼鏡和眼鏡。
- 使用者有特定的眼部生理學或眼部狀況,或進行過系統尚不支援的眼科手術。
- 抑制可靠眼球追蹤的外部因素,例如 HoloLens 遮陽板或眼鏡上的污跡、強烈的陽光直射,以及由於眼睛前面的頭髮而造成的遮擋。
開發人員應確保為可能無法使用眼動追蹤資料的使用者 (無法成功校準) 的使用者提供足夠的支援。 我們已在本頁底部的區段中提供後援解決方案的建議。
若要深入瞭解校準以及如何確保流暢的體驗,請參閱我們的 眼動追蹤使用者校準 頁面。
可用的眼動追蹤資料
HoloLens 2 上的眼球追蹤可讓開發人員設計自然且直覺的輸入和互動案例。 眼球追蹤 API 會提供使用者以單一眼睛注視光線 (注視來源和方向) 的單一眼睛注視光線的相關資訊, (大約 30 FPS 30 Hz) 。 為了使眼動追蹤準確運作,每個使用者都必須通過眼動追蹤使用者校準。 如需如何存取眼球追蹤資料的詳細資訊,請參閱我們的開發人員指南,以在 DirectX 中使用眼球注視 和在 Unity 中使用眼球注視。
預測的眼睛注視大約在實際目標周圍的 1.5 度視覺角度以內 (請參閱下圖) 。 預期會有輕微的不精確度,因此開發人員應該規劃此下限值附近的一些邊距 (例如,2.0-3.0 度可能會帶來更舒適的體驗) 。 我們將在下面更詳細地討論如何解決小目標的選擇問題。
2 公尺距離內的最佳目標尺寸
擴展眼動追蹤資料
擴展的眼動追蹤 API 可讓開發人員透過提供有關使用者眼睛注視的更精細資訊來解鎖更高級別的創新場景,例如健康評估、監控和治療。
擴充眼球追蹤 API 可讓您存取現有的眼球追蹤值和新功能,例如個別 (左右) 眼睛注視向量、支援的畫面速率,以及將眼球追蹤畫面速率設定為 30、60 或 90fps 的能力。 若要使用擴充眼球追蹤 API,請參閱我們的開發人員指南,瞭解使用 原生 或 Unity 的擴充眼球追蹤 API。
使用案例
眼動追蹤可讓應用程式即時追蹤使用者正在查看的位置。 下列使用案例說明混合實境中 HoloLens 2 上的眼球追蹤可能進行的一些互動。 這些使用案例尚未包含在全像攝影 Shell 體驗 (您在啟動HoloLens 2) 時看到的介面。 您可以在 Mixed Reality 工具組中嘗試其中的一些。 該工具組提供了幾個有趣且強大的使用眼動追蹤的範例,例如快速輕鬆地選擇眼睛支援的目標,以及根據使用者查看的內容自動捲動文字。
使用者意圖
有關使用者查看的位置和內容的資訊為其他輸入(例如語音、手和控制器)提供了強大的內容。 這可用於各種任務。 例如,使用者可以查看全像投影並說出 「選取」 , (也看到 注視並認可) 或 「放置此...」,然後查看他們想要放置全像投影的位置,然後說 「...那裡“。 您可以在 Mixed Reality 工具組 - 眼睛支援的目標選取 和 Mixed Reality 工具組 - 眼睛支援的目標定位中找到這方面的範例。
此外,使用者意圖的範例可能包括使用有關使用者查看的內容的資訊來增強與具身虛擬客服專員和互動式全像投影的互動。 例如,虛擬客服專員可能會根據目前檢視的內容調整可用選項及其行為。
隱含動作
隱式動作的類別與使用者意圖密切相關。 這個想法是全像投影或使用者介面元素以一種本能的方式做出反應,甚至可能感覺不到使用者正在與系統互動,而是系統和使用者同步。其中一個範例是 以眼睛注視為基礎的自動捲動 ,使用者可以閱讀長文字,一旦使用者到達文字方塊底部,就會自動開始捲動。 這讓用戶無需動一根手指即可保持閱讀流暢。 其中一個關鍵方面是滾動速度適應使用者的閱讀速度。
另一個例子是 眼睛支持的縮放和平移 ,用戶可以感覺他們正在精確地潛向他們所關注的任何東西。
觸發和控制變焦速度可以通過語音或手動輸入來控制,這對於為用戶提供控制感同時避免不知所措非常重要。 我們將在下面更詳細地討論這些設計注意事項。 放大後,用戶可以平滑地跟隨街道的路線,通過使用他們的眼睛注視來探索他或她的社區。 您可以在 Mixed Reality 工具組 - 眼睛支援的導覽範例中找到這些類型互動的示範範例。
隱含動作的其他使用案例可能包括:
- 智能通知: 您是否曾經對視圖中間彈出的通知感到惱火? 您可以透過偏移使用者目前注視位置的通知來改善此體驗。 這限制了干擾,並在用戶閱讀完畢後自動消除它們。
- 細心的全息圖: 這些全息圖在凝視時會以微妙的方式做出反應。 這可以從微微發光的 UI 元素到緩慢綻放的花朵,再到開始回頭看用戶並搖尾巴的虛擬狗。 這種互動可以在您的應用程式中提供有趣的連結感和滿意度。
注意力追蹤
有關用戶在何處查看或查看什麼的信息可能是一個非常強大的工具。 它可以幫助評估設計的可用性並識別工作流程中的問題,以提高效率。 眼動追蹤視覺化和分析是各個應用領域的常見做法。 借助 HoloLens 2,我們為這種理解提供了一個新的維度;3D 全像投影可以放置在現實世界環境中並相應地進行評估。
Mixed Reality 工具組提供記錄和載入眼球追蹤資料的基本範例,以及如何視覺化它們。
Microsoft 致力於促進創新,同時確保使用者對如何使用眼動追蹤資訊有知情且透明的體驗。 我們將繼續與開發人員和使用者體驗團隊合作,為第三方提供指導,以確保體驗以使用者為中心。
該領域的其他應用可能包括:
- 遠端眼睛注視視覺效果: 視覺化遠端協作者正在查看的內容。 這可以提供即時回饋並促進更準確的資訊處理。
- 用戶研究: 注意力追蹤可以深入了解使用者如何在不干擾的情況下感知和參與自然環境。 這可以幫助開發人員設計更本能的人機互動。 眼動追踪可以提供研究參與者沒有直接表達的信息,並且很容易被研究人員錯過。
- 培訓和績效監控: 透過更有效地識別執行流程中的瓶頸來練習和優化任務的執行。 眼動追蹤可以提供自然、即時和客觀的信息,有助於提高工作場所的培訓、生產力和安全性。
- 設計評估、行銷和消費者研究: 眼動追蹤使商業公司能夠在現實環境中進行行銷和消費者研究,或分析什麼吸引了用戶的注意力,以改進產品或空間設計。
其他使用案例
- 遊戲: 你有沒有想過擁有超能力? 你的機會來了!
您可以透過凝視全息影像來懸浮它們。
從你的眼睛發射激光束。
將敵人變成石頭或凍結他們。
使用您的 X 射線視覺探索建築物。
你的想像力是極限! 不過,請注意不要讓用戶不知所措。 若要深入瞭解,請參閱我們的 眼睛注視型輸入設計指導方針。
富有表現力的頭像: 眼動追踪通過使用實時眼動追踪數據為化身的眼睛製作動畫並使它們跟隨用戶正在觀看的內容,有助於製作更具表現力的 3D 化身。
文字輸入: 眼動追蹤可以用作輕鬆文字輸入的替代方案,特別是當語音或手部不方便使用時。
使用眼睛注視進行互動
建立利用快速移動的眼睛瞄準的互動可能具有挑戰性。 由於眼睛可以快速移動,如果您不小心如何使用眼睛注視輸入,使用者可能會發現體驗讓人不知所措或分散注意力。 但這是非常值得挑戰的,因為眼動追踪可以讓您創造真正神奇的體驗,讓您的用戶興奮不已! 為了協助您,請查看我們的主要優勢、挑戰概觀,以及 互動用眼睛注視的設計建議。
眼動追蹤無法使用時的後援解決方案
在極少數情況下,眼動追蹤資料可能無法使用。 發生這種情況的原因有很多,最常見的原因如下:
- 系統無法 校準使用者。
- 使用者略過 校準。
- 使用者已校準,但決定不授予您的應用程式使用其眼球追蹤資料的權限。
- 使用者有獨特的眼鏡或系統尚不支援的某些眼睛狀況。
- 抑制可靠眼球追蹤的外部因素,例如 HoloLens 遮陽板或眼鏡上的污跡、強烈的陽光直射,以及因為眼前的頭髮而造成遮擋。
開發人員應確保這些使用者有適當的後援支援。 在 DirectX 中的眼球追蹤 頁面上,我們說明偵測眼球追蹤資料是否可用所需的 API。
一些用戶可能認為,對他們來說,更大的隱私比眼動追蹤可以提供的改進體驗更重要,因此他們故意撤銷對眼動追蹤資料的存取。 然而,在某些情況下,這種撤銷可能是無意的。 如果您的應用程式使用眼球追蹤,而且這是體驗的重要部分,建議您清楚傳達給使用者。 向使用者說明眼動追蹤如何釋放應用程式的全部潛力,可協助他們更瞭解自己放棄的內容。 如果眼動追蹤已開啟但無法運作,請使用上述檢查清單作為指南,協助使用者識別並解決問題。 例如,如果您可以偵測到系統支援眼球追蹤,且使用者已校準並已給予許可,但未收到眼球追蹤資料,這可能指出污跡或眼睛被遮擋等問題。
在極少數情況下,眼動追蹤對某人不起作用,而且沒有明顯的原因。 請尊重這一點,允許使用者關閉或停用在應用程式中啟用眼動追蹤的提醒。
回復使用眼睛注視作為主要輸入指標的應用程式
如果您的應用程式使用眼睛注視作為指標輸入,以快速選取場景中的全像投影,但眼球追蹤資料無法使用,建議您回復至頭部注視,並顯示頭部注視游標。 我們建議使用逾時 (,例如 500–1500 毫秒) 來決定是否要切換。 此動作可防止每次系統可能因為快速眼球運動或眨眼和眨眼而短暫失去追蹤時出現游標。 如果您是 Unity 開發人員,則已在 Mixed Reality 工具組中處理自動回退至頭部注視。 如果您是 DirectX 開發人員,則需要自行處理此開關。
後援其他眼球追蹤特定應用程式
您的應用程式可能會以專為眼睛量身打造的獨特方式使用眼睛注視,例如,為虛擬人偶的眼睛製作動畫,或依賴視覺注意力的精確資訊的眼睛型注意力熱圖。 在這類情況下,沒有明確的後備方案。 如果眼動追蹤無法使用,則可能需要停用這些功能。 同樣地,建議您清楚傳達給使用者,因為使用者可能不知道這項功能無法運作。
本頁面希望為您提供良好的概觀,讓您開始瞭解 HoloLens 2 的眼球追蹤和眼球注視輸入的角色。 若要開始開發,請查看我們與 全像投影互動的眼睛注視角色、 Unity 中的眼睛注視 和 DirectX 中的注視角色的資訊。