谷歌研究院正式公佈了一項名為 SensorFM 的基礎模型,旨在從海量可穿戴裝置感測器資料中學習人類生理與行為模式的通用表徵。該模型由超過 500 萬 名 Fitbit 與 Pixel Watch 使用者的 超一萬億分鐘 多模態感測器資料預訓練而成,資料覆蓋全球 100 多個國家,涉及 20 多款 不同裝置型號。研究團隊稱,這是迄今為止用於訓練此類模型的最大規模、最多樣化的可穿戴資料集。
SensorFM 的核心理念是打破當前健康監測功能的“孤島”模式。現有可穿戴裝置上的健康功能通常各自為政——一個模型專門檢測睡眠階段,另一個評估心血管風險,再一個分析壓力或代謝指標。谷歌試圖用一個共享的 AI 基礎層取而代之,使其能夠理解連續、常帶有缺失的感測器資料,應對多種健康問題,同時大幅降低對昂貴標註資料的依賴,並最終為 AI 健康助手提供個性化上下文。
在技術實現上,SensorFM 處理來自五種感測器型別的 34 個特徵,包括光學心率監測(PPG)、加速度、皮膚電導、皮膚溫度和氣壓高度,涵蓋心率、心率變異性、血氧飽和度、睡眠階段和運動資料等。模型採用一種名為“自適應與繼承掩碼”(AIM)的自監督訓練方法,通過重建被刻意遮蔽的資料片段來學習,同時標記真實缺失值與人工隱藏值,從而學會處理兩種型別的資料缺口。
研究團隊測試了從約 10 萬到 1 億引數 不等的四種模型規模,訓練資料集從 5000 人到 500 萬人 不等。結果顯示,當模型規模與資料量同步增長時,效能系統性地提升。在最大訓練資料集上,最大模型的重建誤差比最小模型低 31%,且在大多數下游預測任務中表現最佳。
在下游任務評估中,研究者使用了來自三項獨立研究、共計 13,985 名 參與者的資料——這些資料在預訓練階段從未被模型見過。他們測試了涵蓋心血管與代謝健康、心理健康、睡眠、人口統計學和生活方式的 35 項 預測任務。即便是在 SensorFM 學習到的表徵之上構建的簡單任務專用頭部模型,也在 34 項任務 上超越了使用手工設計可穿戴特徵的監督基線。
縮放預訓練還使 SensorFM 在標註效率上優於監督基線:模型能以相對較少的標註樣本適應新任務,且隨著規模增大,對額外人口統計資訊的依賴降低。研究者認為,這種能力對於個體間差異大、難以測量的特徵(如抑鬱和焦慮症狀)尤其有價值。
為將 SensorFM 的表徵適配到新任務,研究團隊還構建了一個由競爭與協作的 大語言模型智慧體 組成的“教室”,這些智慧體反覆生成、測試並最佳化下游預測模型程式碼,累計執行超過 3 萬次 實驗。由此找到的模型在 35 項預測任務中的 28 項 上,優於基於相同 SensorFM 表徵的簡單線性頭部模型。
在應用層面,研究者將 SensorFM 整合進一個個人健康智慧體,並比較了三種變體:所有變體均獲得人口統計資訊和從穿戴資料計算出的每日摘要(涵蓋活動、睡眠、血氧、皮膚溫度等);其中一個變體額外獲得 SensorFM 對各種健康指標的預測,另一個獲得這些指標的真實已知值,第三個則無任何額外資訊作為基線。由 四位臨床醫生 對 31 個 真實參與者檔案生成的 93 份 健康摘要進行評估,耗時超過 40 小時,產生 1860 個 獨立評分。結果顯示,融入 SensorFM 預測的摘要在所有五個評估領域均顯著優於基線版本。
儘管 SensorFM 展現出成為谷歌 AI 健康教練底層引擎的潛力,但谷歌目前尚未宣佈任何具體的產品整合計劃。這一研究為可穿戴健康資料的通用 AI 化處理提供了新的技術範式,其後續產品化路徑值得產業界持續關注。