1. 程式人生 > 資訊 >亞馬遜家用機器人被曝缺陷:人員識別靠不住,還可能摔下樓梯

亞馬遜家用機器人被曝缺陷:人員識別靠不住,還可能摔下樓梯

9 月 30 日訊息,據 VICE 旗下科技頻道 Motherboard 報道,亞馬遜剛剛釋出的家庭助理機器人 Astro 可以通過識別和追蹤/跟蹤進入使用者家中的陌生人,並錄製陌生人的音訊和視訊,來履行其監控和助手職責。

此外,Motherboard 還報道了 Astro 機器人的設計理念和工作流程,這些資訊是來源於亞馬遜 Astro 機器人軟體開發會議視訊以及會議上提交的內部開發檔案。

不過,參與 Astro 機器人專案的訊息人士透露,該機器人的人員識別系統存在嚴重缺陷,並且在室內巡邏中遇到樓梯時會有跌落風險。

Astro 機器人先識別後跟蹤,還可記錄陌生訪客影音資訊

亞馬遜在其釋出的視訊中說,Astro 機器人的設計理念是為其擁有者提供“安心體驗”。

Astro 機器人是一款監視裝置,可以追蹤使用者和進入使用者家中的每個人。

使用者購買這款價值 999 美元(約 6459.44 人民幣)的機器人時,會被要求“登記”自己的面部和聲音資訊以及可能到其家裡來的任何人的面部和聲音資訊,這樣 Astro 機器人就知道哪些人是被允許進入到使用者家中的。

一份 Astro 機器人內部開發檔案描述了 Astro 機器人如何巡邏其使用者的住所並識別其遇到的人。

其他檔案中則提到了機器人上部署的“Sentry(哨兵)”模組,即控制裝置安全功能的元件和軟體。Sentry 模組集成了亞馬遜旗下家庭安全公司 Ring 研發的攝像頭和亞馬遜家庭安全服務 Alexa Guard。

此外,這些檔案主要使用 Astro 機器人的內部代號“Vesta”來指代 Astro 機器人。

Astro 機器人內部開發檔案中寫道:“當有陌生人在附近,Vesta 會智慧、緩慢地在使用者住所內巡邏,通過從一個掃描點(在任何指定空間中能可環顧四周的最佳位置和姿態)移動到另一個掃描點來尋找和傾聽異常狀況。”

Vesta 移動到預先確定的使用者住所內掃描點,然後調整姿勢開始掃描房間,檢視路過和前進途中的障礙物。

當 Vesta 移動過使用者住所平面掃描圖上所有掃描點後,Vesta 就完成了一次完整的巡邏。

內部檔案提到如果機器人檢測到它認為不尋常的東西,例如看到一個無法識別的人時,或者聽到像玻璃破碎或火警報警器報警聲一樣的聲音時,它將進一步進行調查,包括跟蹤不明身份的人繞屋子移動。

開啟 Sentry 模式後,Astro 機器人被設定成,應該首先嚐試識別監測到的人,如果 30 秒後,還識別為不明身份的人,Astro 機器人開始跟蹤此人,直到 Sentry 模式被關閉。

亞馬遜 Astro 機器人軟體開發會議上展示的流程圖準確地解釋了當 Astro 機器人探測到一個“presence(感覺在附近的人)”時會發生什麼,以及研究人員是如何設計 Astro 機器人來“stranger investigation(調查陌生人)”的。

如果使用者禁用 Astro 機器人的“stranger investigation”功能,機器人將忽略監測到的陌生人。如果使用者設定機器人為 Sentry 模式或者巡邏模式,Astro 機器人將靠近陌生人並跟隨他們,然後開始一系列“調查活動”。

一般來說,如果 Astro 機器人開始調查活動,它會跟隨陌生人的行動,錄製他們的音訊和視訊,然後自動上傳一段錄音,供使用者稍後檢視。

使用者可以通過配套 App 或大聲說出特定短語來告訴機器人啟動或停止巡邏,例如“Echo,讓 Astro 開始家庭監控”或“Alex 停止移動”。

此外,使用者可以將 Astro 機器人設定為“Away(離開)”模式,該模式表示使用者不在家,需要機器人定期自行巡邏。

然後,使用者可以通過其他裝置,例如手機,直播檢視機器人監測的內容。使用者還可以通過配套 App 和 Astro 機器人發起雙向視訊通話。

內部檔案中還寫道:“當 Vesta 完成一個完整迴圈巡邏時,它將建立下一次巡邏的時間表,並進行一小時的展示。”

成本高又脆弱,Astro 機器人還面臨因素和導航問題

參與開發的訊息人員說,他們開發的機器人版本執行效果不佳。

一位參與 Astro 機器人專案的人談道:“Astro 機器人很糟糕,如果遇到樓梯,幾乎肯定會摔下樓,其人員檢測功能往好裡說也靠不住,這使得其讓家庭安全的主張變得可笑。”

他補充說:“這種裝置感覺很脆弱,因為它的成本太高,mast(桅杆)在幾個裝置上斷裂,將機器人鎖定在伸展或收縮狀態,發生這種情況時也沒有辦法將其運送回亞馬遜。”

該訊息人士還透露:“亞馬遜還將 Astro 機器人作為一種輔助裝置加以推廣,但隨著其 mast 斷裂,在任何特定時刻,機器人都可能在一段樓梯上自毀,這充其量是荒謬的胡說八道和市場營銷,最壞的情況是,對於任何真正依賴它來實現可訪問性目的的人來說,它都有潛在的危險。”

另一位從事該專案的訊息人士提到隱私和導航是 Astro 機器人面臨主要問題。他說:“至於我個人對 Astro 機器人的看法,這是一場尚未準備好就釋出的災難,幾乎肯定會在現實世界使用者的家中摔下樓梯,此外,(在我看來)這也是一場隱私噩夢,是對社會和我們如何用 Vesta 等裝置,交換隱私以換取便利的控訴。”

訊息人士提到 Astro 機器人的人臉識別能力表現不佳

該機器人還將與亞馬遜的 Ring 安全系統緊密整合,包括響應上述火災報警等 Ring 事項,並在安全系統設定為離開模式時開始巡邏。

關於 Astro 機器人的人員識別能力,亞馬遜負責裝置和服務的高階公關經理克里斯蒂・施密特(Kristy Schmidt)通過一封電子郵件告訴 Motherboard:“除了諮詢幾位專攻計算機視覺的亞馬遜學者外,我們還諮詢了演算法偏見方面的外部專家,俄亥俄州立大學工程學院院長艾安娜・霍華德(Ayanna Howard)評審了我們為提高此功能的公平性而採取的步驟。”

這個回覆是重複了亞馬遜在一篇討論該公司視覺 ID 功能的部落格文章中所說的一些話。

根據施密特的回覆,霍華德說過:“亞馬遜在資料和反饋驅動下,在設計、測試和擴充方法方面考慮周到,以儘量減少視覺 ID 功能的偏差。他們定義了與其產品用例相關的效能目標,在大量難以置信的多樣化資料上對其模型進行了培訓,並與我分享了其方法的足夠詳細資訊,以真正努力確保該功能不僅在統計上適用於所有客戶,隨著時間的推移,它也在為這些客戶提供更好的服務。”

Astro 機器人通過跟蹤使用者來優化自身

亞馬遜稱 Astro 機器人將“以傳統消費類電子產品無法實現的方式改善客戶的生活”,為了讓 Astro 機器人正常工作,該機器人必須收集有關您行為和家庭的資料。

一份解釋亞馬遜“社交機器人”哲學的檔案指出:“Astro 機器人需要學習使用者行為。”

該檔案中還說:“我們的目標是讓 Vesta 成為一個‘智慧機器人’,並允許與人進行一些簡單但神奇的互動。”

要做到這一點,Astro 機器人需要繪製使用者住所的完整地圖,建立一張顯示“瓶頸”和機器人可能被卡住或“容易被人類撞到”的地點(如走廊、門口和廚房)的熱圖。

Astro 機器人應該隨著時間的推移而學習,這意味著它必須跟蹤人類在做什麼,他們要去哪裡,以及他們可能聚集在哪裡。

一位 Vesta 專案的開發人員說:“裝置中的移動能力需要完美實現。我在這裡說完美,因為如果它不能完美地實現,我們就不能指望社交機器人(在人們的家中)受到歡迎。”

為了做到完美,Astro 機器人必須“在使用者面前顯得‘聰明’”,“需要與人良好互動,考慮到社會規範”,需要跟蹤並從客戶行為中學習,“需要有一定程度的自主權,人們需要的時候是可用的,Astro 機器人‘希望’在人類周圍,但不礙事”。

施密特告訴 Motherboard:“我們設計 Astro 機器人來控制裝置上的大量資料處理,包括它在家中移動時能處理影象和原始感測器資料,這有助於 Astro 機器人對環境做出快速反應。此外,你的視覺 ID 資料被儲存在裝置上,Astro 機器人通過基於裝置的資料處理來識別你。”

亞馬遜的程式設計師在一次會議上還提到,他們已經確定了 Astro 機器人與使用者互動的最佳距離。例如,在大多數情況下,它應該是“社交距離”,即距離使用者 1 到 1.5 米。

然而,當用戶從亞馬遜購買東西時,Astro 機器人知道(螢幕)需求處於可檢視狀態,此時,Astro 機器人靠近使用者,兩者之間距離縮小為 40 釐米。

結語:亞馬遜推動其家用機器人,大規模落地可能還要幾年

亞馬遜首款家用機器人終於在亞馬遜 2021 年秋季硬體釋出會上正式亮相。

這款 Astro 機器人是從家庭監控、室內巡邏等方面入手,提升使用者安全體驗,不過結合相關開發人員的評價來看,亞馬遜的這款家用機器人還有升級空間,比如說如何保證不在巡邏時摔下樓梯等等。

因為各種原因,亞馬遜的家用機器人沒有像其他產品一樣,產品發售,然後使用者直接購買,而是需要邀請資格才能購買,這可能意味著更多人如果想要體驗亞馬遜的家用機器人需要再等待一下,亞馬遜的家用機器人大規模落地可能還需要一段時間。