作者:Arm 物聯(lián)網(wǎng)事業(yè)部業(yè)務(wù)拓展副總裁 馬健 你聽(tīng)過(guò)莫拉維克悖論 (Moravec's paradox) 嗎?該悖論指出,對于人工智能 (AI) 系統而言,高級推理只需非常少的計算能力,而實(shí)現人類(lèi)習以為常的感知運動(dòng)技能卻需要耗費巨大的計算資源。實(shí)質(zhì)上,與人類(lèi)本能可以完成的基本感官任務(wù)相比,復雜的邏輯任務(wù)對 AI 而言更加容易。這一悖論凸顯了現階段的 AI 與人類(lèi)認知能力之間的差異。 人本來(lái)就是多模態(tài)的。我們每個(gè)人就像一個(gè)智能終端,通常需要去學(xué)校上課接受學(xué)識熏陶(訓練),但訓練與學(xué)習的目的和結果是我們有能力自主工作和生活,而不需要總是依賴(lài)外部的指令和控制。 我們通過(guò)視覺(jué)、語(yǔ)言、聲音、觸覺(jué)、味覺(jué)和嗅覺(jué)等多種感官模式來(lái)了解周?chē)氖澜,進(jìn)而審時(shí)度勢,進(jìn)行分析、推理、決斷并采取行動(dòng)。 經(jīng)過(guò)多年的傳感器融合和 AI 演進(jìn),機器人現階段基本上都配備有多模態(tài)傳感器。隨著(zhù)我們?yōu)闄C器人等邊緣設備帶來(lái)更多的計算能力,這些設備正變得愈加智能,它們能夠感知周?chē)h(huán)境,理解并以自然語(yǔ)言進(jìn)行溝通,通過(guò)數字傳感界面獲得觸覺(jué),以及通過(guò)加速計、陀螺儀與磁力計等的組合,來(lái)感知機器人的比力、角速度,甚至機器人周?chē)拇艌?chǎng)。 邁入機器人和機器認知的新時(shí)代 在 Transformer 和大語(yǔ)言模型 (LLM) 出現之前,要在 AI 中實(shí)現多模態(tài),通常需要用到多個(gè)負責不同類(lèi)型數據(文本、圖像、音頻)的單獨模型,并通過(guò)復雜的過(guò)程對不同模態(tài)進(jìn)行集成。 而在 Transformer 模型和 LLM 出現后,多模態(tài)變得更加集成化,使得單個(gè)模型可以同時(shí)處理和理解多種數據類(lèi)型,從而產(chǎn)生對環(huán)境綜合感知能力更強大的 AI 系統。這一轉變大大提高了多模態(tài) AI 應用的效率和有效性。 雖然 GPT-3 等 LLM 主要以文本為基礎,但業(yè)界已朝著(zhù)多模態(tài)取得了快速進(jìn)展。從 OpenAI 的 CLIP 和 DALL·E,到現在的 Sora 和 GPT-4o,都是向多模態(tài)和更自然的人機交互邁進(jìn)的模型范例。例如,CLIP 可理解與自然語(yǔ)言配對的圖像,從而在視覺(jué)和文本信息之間架起橋梁;DALL·E 旨在根據文本描述生成圖像。我們看到 Google Gemini 模型也經(jīng)歷了類(lèi)似的演進(jìn)。 2024 年,多模態(tài)演進(jìn)加速發(fā)展。今年二月,OpenAI 發(fā)布了 Sora,它可以根據文本描述生成逼真或富有想象力的視頻。仔細想想,這可以為構建通用世界模擬器提供一條頗有前景的道路,或成為訓練機器人的重要工具。三個(gè)月后,GPT-4o 顯著(zhù)提高了人機交互的性能,并且能夠在音頻、視覺(jué)和文本之間實(shí)時(shí)推理。綜合利用文本、視覺(jué)和音頻信息來(lái)端到端地訓練一個(gè)新模型,消除從輸入模態(tài)到文本,再從文本到輸出模態(tài)的兩次模態(tài)轉換,進(jìn)而大幅提升性能。 在今年二月的同一周,谷歌發(fā)布了 Gemini 1.5,將上下文長(cháng)度大幅擴展至 100 萬(wàn)個(gè)詞元 (Token)。這意味著(zhù) 1.5 Pro 可以一次性處理大量信息,包括一小時(shí)的視頻、11 小時(shí)的音頻、包含超過(guò)三萬(wàn)多行代碼或 70 萬(wàn)個(gè)單詞的代碼庫。Gemini 1.5 基于谷歌對 Transformer 和混合專(zhuān)家架構 (MoE) 的領(lǐng)先研究而構建,并對可在邊緣側部署的 2B 和 7B 模型進(jìn)行了開(kāi)源。在五月舉行的 Google I/O 大會(huì )上,除了將上下文長(cháng)度增加一倍,并發(fā)布一系列生成式 AI 工具和應用,谷歌還探討了 Project Astra 的未來(lái)愿景,這是一款通用的 AI 助手,可以處理多模態(tài)信息,理解用戶(hù)所處的上下文,并在對話(huà)中非常自然地與人交互。 作為開(kāi)源 LLM Llama 背后的公司,Meta 也加入了通用人工智能 (AGI) 的賽道。 這種真正的多模態(tài)性大大提高了機器智能水平,將為許多行業(yè)帶來(lái)新的范式。 例如,機器人的用途曾經(jīng)非常單一,它們具備一些傳感器和運動(dòng)能力,但一般來(lái)說(shuō),它們沒(méi)有“大腦”來(lái)學(xué)習新事物,無(wú)法適應非結構化和陌生環(huán)境。 多模態(tài) LLM 有望改變機器人的分析、推理和學(xué)習能力,使機器人從專(zhuān)用轉向通用。PC、服務(wù)器和智能手機都是通用計算平臺中的佼佼者,它們可以運行許多不同種類(lèi)的軟件應用來(lái)實(shí)現豐富多彩的功能。通用化將有助于擴大規模,產(chǎn)生規;慕(jīng)濟效應,價(jià)格也能隨著(zhù)規模擴大而大幅降低,進(jìn)而被更多領(lǐng)域采用,從而形成一個(gè)良性循環(huán)。 Elon Musk 很早就注意到了通用技術(shù)的優(yōu)勢,特斯拉的機器人從 2022 年的 Bumblebee 發(fā)展到 2023 年三月宣布的 Optimus Gen 1 和 2023 年年底的 Gen 2,其通用型和學(xué)習能力不斷提高。在過(guò)去的 6 至 12 個(gè)月里,我們見(jiàn)證了機器人和人形機器人領(lǐng)域所取得的一系列突破。 下一代機器人和具身智能背后的新技術(shù) 毋庸置疑的是我們在具身智能達到量產(chǎn)方面還有很多工作要做。我們需要更輕便的設計、更長(cháng)的運行時(shí)間,以及速度更快、功能更強大的邊緣計算平臺來(lái)處理和融合傳感器數據信息,從而做出及時(shí)決策和控制行動(dòng)。 而且我們正朝著(zhù)創(chuàng )造人形機器人的方向發(fā)展,人類(lèi)文明數千年,產(chǎn)生出無(wú)處不在的專(zhuān)為人類(lèi)設計的環(huán)境,而人形機器人系統由于形體與人們類(lèi)似,有望能夠在人類(lèi)生存的環(huán)境中駕輕就熟地與人類(lèi)和環(huán)境互動(dòng)并執行所需的操作。這些系統將非常適合處理臟污、危險和枯燥的工作,例如患者護理和康復、酒店業(yè)的服務(wù)工作、教育領(lǐng)域的教具或學(xué)伴,以及進(jìn)行災難響應和有害物質(zhì)處理等危險任務(wù)。此類(lèi)應用利用人形機器人類(lèi)人的屬性來(lái)促進(jìn)人機自然交互,在以人為中心的空間中行動(dòng),并執行傳統機器人通常難以完成的任務(wù)。 許多 AI 和機器人企業(yè)圍繞如何訓練機器人在非結構化的新環(huán)境中更好地進(jìn)行推理和規劃,展開(kāi)了新的研究與協(xié)作。作為機器人的新“大腦”,預先經(jīng)過(guò)大量數據訓練的模型具有出色的泛化能力,使得機器人能做到見(jiàn)怪不怪,更全面地理解環(huán)境,根據感官反饋調整動(dòng)作和行動(dòng),在各種動(dòng)態(tài)環(huán)境中優(yōu)化性能。 舉一個(gè)有趣的例子,Boston Dynamics 的機器狗 Spot 可以在博物館里當導游。Spot 能夠與參觀(guān)者互動(dòng),向他們介紹各種展品,并回答他們的問(wèn)題。這可能有點(diǎn)難以置信,但在該用例中,比起確保事實(shí)正確,Spot 的娛樂(lè )性、互動(dòng)性和細膩微妙的表演更加重要。 Robotics Transformer:機器人的新大腦 Robotics Transformer (RT) 正在快速發(fā)展,它可以將多模態(tài)輸入直接轉化為行動(dòng)編碼。在執行曾經(jīng)見(jiàn)過(guò)的任務(wù)時(shí),谷歌 DeepMind 的 RT-2 較上一代的 RT-1 表現一樣出色,成功率接近 100%。但是,使用 PaLM-E(面向機器人的具身多模態(tài)語(yǔ)言模型)和 PaLI-X(大規模多語(yǔ)言視覺(jué)和語(yǔ)言模型,并非專(zhuān)為機器人設計)訓練后,RT-2 具有更出色的泛化能力,在未曾見(jiàn)過(guò)的任務(wù)中的表現優(yōu)于 RT-1。 微軟推出了大語(yǔ)言和視覺(jué)助手 LLaVA。LLaVA 最初是為基于文本的任務(wù)設計的,它利用 GPT-4 的強大功能創(chuàng )建了多模態(tài)指令遵循數據的新范式,將文本和視覺(jué)組件無(wú)縫集成,這對機器人任務(wù)非常有用。LLaVA 一經(jīng)推出,就創(chuàng )下了多模態(tài)聊天和科學(xué)問(wèn)答任務(wù)的新紀錄,已超出人類(lèi)平均能力。 正如此前提到的,特斯拉進(jìn)軍人形機器人和 AI 通用機器人領(lǐng)域的意義重大,不僅因為它是為實(shí)現規;土慨a(chǎn)而設計的,而且因為特斯拉為汽車(chē)設計的 Autopilot 的強大完全自動(dòng)駕駛 (FSD) 技術(shù)基礎可用于機器人。特斯拉也擁有智能制造用例,可以將 Optimus 應用于其新能源汽車(chē)的生產(chǎn)過(guò)程。 Arm 是未來(lái)機器人技術(shù)的基石 Arm 認為機器人腦,包括“大腦”和“小腦”,應該是異構 AI 計算系統,以提供出色的性能、實(shí)時(shí)響應和高能效。 ![]() 機器人技術(shù)涉及的任務(wù)范圍廣泛,包括基本的計算(比如向電機發(fā)送和接收信號)、先進(jìn)的數據處理(比如圖像和傳感器數據解讀),以及運行前文提到的多模態(tài) LLM。CPU 非常適合執行通用任務(wù),而 AI 加速器和 GPU 可以更高效地處理并行處理任務(wù),如機器學(xué)習 (ML) 和圖形處理。還可以集成圖像信號處理器和視頻編解碼器等額外加速器,從而增強機器人的視覺(jué)能力和存儲/傳輸效率。此外,CPU 還應該具備實(shí)時(shí)響應能力,并且需要能夠運行 Linux 和 ROS 軟件包等操作系統。 當擴展到機器人軟件堆棧時(shí),操作系統層可能還需要一個(gè)能夠可靠處理時(shí)間關(guān)鍵型任務(wù)的實(shí)時(shí)操作系統 (RTOS),以及針對機器人定制的 Linux 發(fā)行版,如 ROS,它可以提供專(zhuān)為異構計算集群設計的服務(wù)。我們相信,SystemReady 和 PSA Certified 等由 Arm 發(fā)起的標準和認證計劃將幫助擴大機器人軟件的開(kāi)發(fā)規模。SystemReady 旨在確保標準的 Rich OS 發(fā)行版能夠在各類(lèi)基于 Arm 架構的系統級芯片 (SoC) 上運行,而 PSA Certified 有助于簡(jiǎn)化安全實(shí)現方案,以滿(mǎn)足區域安全和監管法規對互聯(lián)設備的要求。 大型多模態(tài)模型和生成式 AI 的進(jìn)步預示著(zhù) AI 機器人和人形機器人的發(fā)展進(jìn)入了新紀元。在這個(gè)新時(shí)代,要使機器人技術(shù)成為主流,除了 AI 計算和生態(tài)系統,能效、安全性和功能安全必不可少。Arm 處理器已廣泛應用于機器人領(lǐng)域,我們期待與生態(tài)系統密切合作,使 Arm 成為未來(lái) AI 機器人的基石。 |