4月1日，中國(guó)電子學(xué)會(huì)主辦的第十六屆中國(guó)電子信息年會(huì)在廣東省珠海市召開(kāi)，以“電子新時(shí)代·強(qiáng)國(guó)新征程”為主題，眾多院士、專家學(xué)者和企業(yè)代表圍繞基礎(chǔ)研究、前沿技術(shù)及應(yīng)用、青年人才培養(yǎng)等議題展開(kāi)了學(xué)術(shù)交流和技術(shù)研討。中國(guó)電子學(xué)會(huì)副理事長(zhǎng)、百度首席技術(shù)官王海峰出席主論壇并作報(bào)告，闡釋了大模型技術(shù)發(fā)展與產(chǎn)業(yè)模式。

大模型成人工智能發(fā)展熱點(diǎn)

人工智能已經(jīng)成為新一輪科技革命和產(chǎn)業(yè)變革的重要驅(qū)動(dòng)力量，具有效果好、泛化性強(qiáng)、研發(fā)流程標(biāo)準(zhǔn)化程度高等典型特征的大模型正推動(dòng)產(chǎn)業(yè)應(yīng)用蓬勃發(fā)展，隨著大模型快速演進(jìn)，能理解、有邏輯、會(huì)推理、能創(chuàng)作、有情感的大語(yǔ)言模型有望帶來(lái)人工智能創(chuàng)新的爆發(fā)式增長(zhǎng)。

王海峰介紹，百度自2019年開(kāi)始深耕預(yù)訓(xùn)練模型研發(fā)，經(jīng)過(guò)近4年積累和迭代，文心大模型已經(jīng)形成了系統(tǒng)性的大模型技術(shù)體系，包括自然語(yǔ)言處理、視覺(jué)、跨模態(tài)、生物計(jì)算等大模型，面向行業(yè)需求構(gòu)建的系列行業(yè)大模型，以及支撐大模型應(yīng)用的工具平臺(tái)，具備知識(shí)增強(qiáng)和產(chǎn)業(yè)級(jí)兩大特色。

據(jù)了解，文心知識(shí)增強(qiáng)大語(yǔ)言模型基于ERNIE及PLATO系列模型研發(fā)，是文心大模型家族的新成員，其關(guān)鍵技術(shù)包括有監(jiān)督精調(diào)、人類反饋的強(qiáng)化學(xué)習(xí)、提示等大語(yǔ)言模型都會(huì)采用的技術(shù)，以及知識(shí)增強(qiáng)、檢索增強(qiáng)和對(duì)話增強(qiáng)等百度已有技術(shù)優(yōu)勢(shì)的再創(chuàng)新。文心知識(shí)增強(qiáng)大語(yǔ)言模型通過(guò)知識(shí)內(nèi)化和知識(shí)外用兩種方式實(shí)現(xiàn)知識(shí)增強(qiáng)。知識(shí)內(nèi)化，是從大規(guī)模知識(shí)和無(wú)標(biāo)注數(shù)據(jù)中，基于語(yǔ)義單元學(xué)習(xí)，利用知識(shí)構(gòu)造訓(xùn)練數(shù)據(jù)，將知識(shí)學(xué)習(xí)到模型參數(shù)中。知識(shí)外用，是引入外部多源異構(gòu)知識(shí)，做知識(shí)推理、提示構(gòu)建等等。文心知識(shí)增強(qiáng)大語(yǔ)言模型的檢索增強(qiáng)，基于以語(yǔ)義理解與語(yǔ)義匹配為核心技術(shù)的新一代搜索架構(gòu)，通過(guò)引入搜索結(jié)果，為大模型提供時(shí)效性強(qiáng)、準(zhǔn)確率高的參考信息，更好地滿足用戶需求。在對(duì)話增強(qiáng)方面，基于對(duì)話技術(shù)和應(yīng)用積累，文心知識(shí)增強(qiáng)大語(yǔ)言模型具備記憶機(jī)制、上下文理解和對(duì)話規(guī)劃能力，實(shí)現(xiàn)更好的對(duì)話連貫性、合理性和邏輯性。

打通大模型產(chǎn)業(yè)化路徑

大模型依賴算法、算力和數(shù)據(jù)的綜合支撐，產(chǎn)業(yè)化還面臨許多挑戰(zhàn)，比如，模型體積大，訓(xùn)練難度高；算力規(guī)模大，性能要求高；數(shù)據(jù)規(guī)模大，數(shù)據(jù)質(zhì)量參差不齊。

對(duì)此，王海峰表示，具有算法、算力和數(shù)據(jù)綜合優(yōu)勢(shì)的企業(yè)，可以將模型生產(chǎn)的復(fù)雜過(guò)程封裝起來(lái)，通過(guò)低門檻、高效率的生產(chǎn)平臺(tái)，為千行百業(yè)提供大模型服務(wù)。

大模型帶來(lái)的三大產(chǎn)業(yè)機(jī)會(huì)已經(jīng)浮現(xiàn)，第一類是新型云計(jì)算，云的主流商業(yè)模式變?yōu)镸aaS，模型即服務(wù)（ModelasaService）；第二類是進(jìn)行行業(yè)模型精調(diào)的企業(yè)，可以調(diào)用通用大模型能力，基于行業(yè)知識(shí)和經(jīng)驗(yàn)為客戶提供解決方案；第三類是基于大模型底座進(jìn)行文本生成、圖像生成、音頻生成、視頻生成、數(shù)字人、3D等場(chǎng)景相關(guān)應(yīng)用開(kāi)發(fā)的企業(yè)，即應(yīng)用服務(wù)提供商。

大模型帶來(lái)的智能化創(chuàng)新熱潮才剛剛開(kāi)始，它距離AGI（通用人工智能）還有多遠(yuǎn)？

王海峰認(rèn)為，正如人造衛(wèi)星永遠(yuǎn)不會(huì)和月球這樣的自然衛(wèi)星畫等號(hào)一樣，人工智能永遠(yuǎn)不會(huì)直接跟人類的智能完全畫等號(hào)，人工智能是模擬、延伸和拓展人的智能，最終目的是服務(wù)于人類更美好的生活和社會(huì)的發(fā)展。人工智能的通用性越來(lái)越強(qiáng)，部分能力已經(jīng)達(dá)到或超越人的水平，可以認(rèn)為AGI在一定程度上已經(jīng)實(shí)現(xiàn)了，但比起這個(gè)概念本身，人工智能為人類帶來(lái)的價(jià)值才是我們努力的方向。