2023汽車半導(dǎo)體生態(tài)峰會(huì) || 創(chuàng)達(dá)耿增強(qiáng): AIGC時(shí)代下整車操作系統(tǒng)發(fā)展的趨勢(shì)與思考

以“鏈啟芯程 · 智造未來(lái)”為主題的“2023汽車半導(dǎo)體生態(tài)峰會(huì)暨全球汽車電子博覽會(huì)”，由廣東省工業(yè)和信息化廳、深圳市工業(yè)和信息化局、中國(guó)能源汽車傳播集團(tuán)指導(dǎo)，《中國(guó)汽車報(bào)》社主辦，愛集微承辦，于2023年9月26日至27日在深圳福田會(huì)議中心隆重召開。

在本次會(huì)議主峰會(huì)現(xiàn)場(chǎng)，中科創(chuàng)達(dá)聯(lián)合創(chuàng)始人耿增強(qiáng)帶來(lái)《AIGC時(shí)代下整車操作系統(tǒng)發(fā)展的趨勢(shì)與思考》的主題演講。以下為演講實(shí)錄：

耿增強(qiáng)：各位嘉賓，下午好！很榮幸作為唯一一個(gè)軟件廠商的代表，參加今天的半導(dǎo)體生態(tài)的論壇。今天我所分享的內(nèi)容主要是覆蓋了兩個(gè)現(xiàn)在比較熱的話題，一個(gè)是AIGC，一個(gè)是整車操作系統(tǒng)。

中科創(chuàng)達(dá)聯(lián)合創(chuàng)始人 耿增強(qiáng)

整車操作系統(tǒng)我覺(jué)得以艙駕融合為代表的整車操作系統(tǒng)，這是現(xiàn)在發(fā)展的新的趨勢(shì)，在這里對(duì)“大模型”的支持是不可回避的話題，所以今天我們可以把這兩個(gè)串在一起來(lái)看一下。

稍微一下介紹“創(chuàng)達(dá)”，我們是一直專注于智能操作系統(tǒng)的廠商，主要三個(gè)領(lǐng)域發(fā)展起來(lái)的，手機(jī)領(lǐng)域、今天的重點(diǎn)汽車和智能件領(lǐng)域。今天汽車的軟件已經(jīng)成為創(chuàng)達(dá)最主要營(yíng)收的來(lái)源。我們?cè)谌蚱囶I(lǐng)域除了特斯拉以外，所有的主要車廠都是我們的客戶。我們現(xiàn)在已經(jīng)賦能了4000萬(wàn)輛車的量產(chǎn)汽車。在座艙領(lǐng)域我們是中國(guó)的第一，是全球的TOP2廠商。大家都知道做操作系統(tǒng)技術(shù)是離不開與芯片廠商的緊密合作，所以我們和芯片廠商都分別成立了全資公司。另外在4月份大家也會(huì)看到，我們發(fā)布的跟大眾CARIAD成立合資公司，還有跟吉利、江淮集團(tuán)分別成立合資公司。目前我們是跟三家車廠均有合資公司。

對(duì)操作系統(tǒng)來(lái)說(shuō)，大家可能要知道一個(gè)發(fā)展的規(guī)律，就是每一代操作系統(tǒng)的產(chǎn)生都是伴隨著人機(jī)交互技術(shù)的革新而產(chǎn)生的。最初的大型機(jī)所使用的都是Mini交互的方式。隨后鼠標(biāo)的產(chǎn)生使得個(gè)人計(jì)算機(jī)進(jìn)行了圖形界面的時(shí)代，繼而以iPhone的出現(xiàn)使得大家跟計(jì)算機(jī)的交互變成以觸摸為核心的人機(jī)交互方式?？傮w來(lái)說(shuō)人機(jī)交互都是越變?cè)阶匀?。在下一代正在發(fā)生的事情就是以AI的自然交互，最終要產(chǎn)生人和人之間的交互，就是人跟機(jī)器的交互就會(huì)變成人與跟之間的交互，未來(lái)你無(wú)法區(qū)分你交互的是一臺(tái)計(jì)算機(jī)還是一個(gè)人，這是現(xiàn)在正在發(fā)生的，它是以大模型來(lái)使得自然的交互變成可能，使得機(jī)器第一次能夠聽懂人的自然語(yǔ)言，并且能夠用自然語(yǔ)言來(lái)回答。這樣它所產(chǎn)生的新的操作系統(tǒng)就是AI原生的操作系統(tǒng)。這個(gè)操作系統(tǒng)首先是體現(xiàn)在云端的，今天在云端大腦一步一步變成現(xiàn)實(shí)以后，云的大腦本身就會(huì)成為新一代操作系統(tǒng)。另外所有端側(cè)的操作系統(tǒng)都會(huì)跟大模型做密切的整合，使得它演化成為新一代的智能原生操作系統(tǒng)。

在很多時(shí)候大家會(huì)談到AIGC大規(guī)模的計(jì)算，是不是就應(yīng)該天然是在云端來(lái)發(fā)生呢？我們說(shuō)對(duì)人類整個(gè)知識(shí)的總集合當(dāng)然應(yīng)該在云端，端側(cè)根本放不下。第二，全局性的應(yīng)用比如像智慧城市它也應(yīng)該在云端，因?yàn)樗鼘?duì)算力和存儲(chǔ)有很高的要求。但對(duì)于實(shí)時(shí)性、私密性要求較強(qiáng)的計(jì)算就應(yīng)該在端側(cè)進(jìn)行，尤其在車?yán)锖芏嗟能噧?nèi)知識(shí)的大腦，如果我們稱為車內(nèi)大腦，它完全可以在車內(nèi)進(jìn)行。在端側(cè)與云側(cè)最終就是一個(gè)互補(bǔ)的關(guān)系，不是一個(gè)競(jìng)爭(zhēng)的關(guān)系，后面大家都會(huì)看到兩邊是一個(gè)協(xié)同計(jì)算的關(guān)系，所以我們稱之為混合AI的時(shí)代，這是今后一個(gè)很明顯的趨勢(shì)。

這塊地方我們也講了，大模型不僅僅是語(yǔ)言的模型，還有圖形圖像的模型等等，各種各樣的模型以及基于它之上的應(yīng)用整個(gè)生態(tài)是在快速發(fā)展之中的，各家芯片廠商忙于在自己的芯片去優(yōu)化主流的大模型，使得它能夠在端側(cè)運(yùn)行，主要現(xiàn)在基本上都在做這件事。我們會(huì)看到在Model支持下，現(xiàn)在都是以LLAMA2 7B來(lái)做這樣的事情，因?yàn)榻裉斓男酒诋?dāng)初研發(fā)的時(shí)候是沒(méi)有考慮到大模型的出現(xiàn)，所以坦白來(lái)講，在今天芯片上優(yōu)化去執(zhí)行這樣的東西資源是難以支撐的，所以目前能夠優(yōu)化的執(zhí)行比較好的也就是能做到7B，有的芯片廠商在下個(gè)月會(huì)做到13B，再往上現(xiàn)在的芯片就比較難了，需要等待新一代芯片的產(chǎn)生。

在車這一側(cè)7B或者13B已經(jīng)能夠執(zhí)行車內(nèi)大腦的功能，并不是說(shuō)它完全夠用了，但對(duì)于大部分今天的應(yīng)用來(lái)說(shuō)，對(duì)車內(nèi)的智能說(shuō)明書也好，還是一部分的語(yǔ)言交互也好，其實(shí)7B和13B是足以支撐這樣的應(yīng)用。

在車的架構(gòu)發(fā)展，大家都知道，隨著算力的不斷增強(qiáng)，它是在向中央計(jì)算的架構(gòu)去演化的。但是我們并不認(rèn)為很快的整個(gè)車都進(jìn)入到中央計(jì)算時(shí)代，并不是這樣。在相當(dāng)長(zhǎng)的時(shí)間這個(gè)域的架構(gòu)和中央計(jì)算的架構(gòu)它會(huì)是并存的關(guān)系，因?yàn)樗旧淼哪Ｊ绞歉饔袃?yōu)劣。但大模型的產(chǎn)生因?yàn)樗哟偈勾蠹覍?duì)大算力芯片的需求，當(dāng)大算力芯片更多被應(yīng)用到車?yán)镏?，它反過(guò)來(lái)也促使更進(jìn)一步向中央計(jì)算的演化，這點(diǎn)是很有趣的。所以會(huì)看到，其實(shí)大模型的產(chǎn)生以及車端側(cè)對(duì)大模型的支持會(huì)加速大家從域的Model變成中央計(jì)算的Model，這對(duì)于芯片廠商來(lái)說(shuō)是需要意識(shí)到的。

今天我們看到能夠支持摻雜一體的運(yùn)算，無(wú)論是高端的英偉達(dá)的平臺(tái)，還是高通面向中低端的8775平臺(tái)，還有A/D能夠支撐高端游戲的摻雜一體的平臺(tái)，目前來(lái)說(shuō)我覺(jué)得對(duì)AI這一側(cè)的支持優(yōu)化還不夠好。在這個(gè)演化過(guò)程中，對(duì)車廠來(lái)說(shuō)，核心的動(dòng)力主要來(lái)自于降本和增效這兩點(diǎn)，尤其是在降本，在車廠終端側(cè)的壓力之下，如果能夠通過(guò)中央計(jì)算去有一個(gè)明顯的降本效應(yīng)，這是他們使用中央計(jì)算的核心動(dòng)力。但很快大家會(huì)看到另外一個(gè)動(dòng)力的產(chǎn)生，就是對(duì)AI的集成也會(huì)成為一個(gè)新的動(dòng)力。

我們正在開發(fā)就是“滴水OS”，是我們面向中央計(jì)算時(shí)代的整車操作系統(tǒng)。在這里面它所承擔(dān)的最主要的是兩個(gè)職責(zé)，一個(gè)是要支持艙駕融合，既要把對(duì)實(shí)時(shí)性要求高的自動(dòng)駕駛或者說(shuō)輔助駕駛的任務(wù)，還有對(duì)豐富的人機(jī)交互支持的座艙系統(tǒng)我們把它放在一臺(tái)SOC上去運(yùn)行。這對(duì)底下的虛擬化以及Containers技術(shù)的應(yīng)用，以及多域之間實(shí)行確定性通信的支持，以及對(duì)今天AI的Model尤其是開源開放Model的支撐，這幾點(diǎn)都是我們?cè)陂_發(fā)滴水OS核心的技術(shù)指標(biāo)。

我們目前“滴水OS”已經(jīng)實(shí)現(xiàn)了下一代整車操作系統(tǒng)所要求的關(guān)鍵的技術(shù)特性，包括面向下一代的中央計(jì)算架構(gòu)，包括它需要支撐AI時(shí)代自然語(yǔ)言的人機(jī)交互，以及大家經(jīng)常被忽略的，作為核心操作系統(tǒng)它要發(fā)展起來(lái)，它所具備的核心特征是它要具備生態(tài)的中立性，也就是說(shuō)它向下一定要支持所有的芯片，向上又能夠支持所有的各家應(yīng)用，在這里是不能有偏向性，同時(shí)支持到所有的車廠。所以生態(tài)的中立性往往是一個(gè)操作系統(tǒng)要成功的關(guān)鍵的要素之一。另外支持整個(gè)實(shí)時(shí)性和確定性的通信，要支持這樣的中間件以及支持域之間大規(guī)模數(shù)據(jù)的通信的中間件。另外對(duì)安全可靠的要求，以及對(duì)車運(yùn)一體算力動(dòng)態(tài)可擴(kuò)張的需求，車內(nèi)通過(guò)插卡的方式，云端對(duì)于算力彈性伸縮需求的方式，實(shí)現(xiàn)車運(yùn)一體和算力可伸縮。

這是我們?cè)?0天前在慕尼黑的論壇上全球車展上發(fā)布的新一代滴水OS，在滴水OS里我們已經(jīng)全面實(shí)現(xiàn)了艙駕融合，并且打破了過(guò)去大家在座艙里所看到的上一代的封屏式的設(shè)計(jì)，而是完全實(shí)現(xiàn)一鏡到底的沉浸式的體驗(yàn)，而且是全3D的。另外它已經(jīng)實(shí)現(xiàn)了以LLAMA2 7B為代表的自然語(yǔ)言的AI的交互。還有對(duì)底層的Hypervisor+Container的支撐，以及對(duì)CarPlay、Android Auto等等多種車機(jī)互聯(lián)的支持，以及360度的AVM，DMS等等艙內(nèi)艙外視覺(jué)算法的支撐。在OS在論壇上發(fā)布以后，我們現(xiàn)在已經(jīng)跟三家全球車廠展開了合作，國(guó)內(nèi)車廠已經(jīng)開始合作POC比三家會(huì)更多。

大家會(huì)看到我們貫穿了所有的主要的場(chǎng)景，從整車廠出發(fā)，再到高速場(chǎng)景里，再到泊車的360度AVM的場(chǎng)景里，“滴水OS”把所有的關(guān)鍵場(chǎng)景已經(jīng)用沉浸式體驗(yàn)全面把它貫穿起來(lái)了。這是我們?cè)诮衲曛攸c(diǎn)或者跟車廠合作的產(chǎn)品，也是我們現(xiàn)在跟各家芯片廠商正在密切優(yōu)化的參考設(shè)計(jì)里它所提供的操作性的基礎(chǔ)。我們也希望跟更多的車廠合作伙伴能夠圍繞滴水OS打造下一代整車操作系統(tǒng)。謝謝大家。