每經(jīng)記者｜文巧    每經(jīng)編輯｜高涵    

圖片來(lái)源：視覺(jué)中國(guó)

當(dāng)?shù)貢r(shí)間3月9日，據(jù)德國(guó)科技媒體報(bào)道，在一場(chǎng)名為“AI in Focus - Digital Kickoff”的活動(dòng)上，微軟德國(guó)公司的首席技術(shù)官安德烈亞斯•布勞恩（Andreas Braun）透露了一個(gè)重磅消息——GPT-4將于下周正式推出，并提到了一個(gè)關(guān)鍵細(xì)節(jié)，GPT-4將是多模態(tài)的。

語(yǔ)言模型的多模態(tài)意味著什么？基本上，這個(gè)模型可以管理不同語(yǔ)言數(shù)據(jù)的輸入和輸出，也能夠同時(shí)輸出文本、圖像甚至視頻，而目前的ChatGPT版本只能生成文本。正如布勞恩所說(shuō)，“GPT-4將是一個(gè)多模態(tài)模型，它會(huì)提供完全不同的可能性——例如視頻。”

據(jù)外媒分析，如果將這種可能性（多模態(tài)）轉(zhuǎn)移到ChatGPT上，用戶可以用西班牙語(yǔ)提出請(qǐng)求，但生成的文本是英文的。顯然，這一功能對(duì)翻譯工具也有很大幫助。

布勞恩將大型語(yǔ)言模型稱為一個(gè)“游戲規(guī)則改變者”，這項(xiàng)技術(shù)已經(jīng)發(fā)展到基本上“適用于所有語(yǔ)言”。借助多模態(tài)，微軟（和OpenAI）將使模型變得更全面。

值得注意的是，百度的類ChatGPT產(chǎn)品發(fā)布也進(jìn)入倒計(jì)時(shí)，預(yù)計(jì)將于3月16日（下周四）推出“文心一言”。這意味著，下周，“文心一言”將與GPT-4正面對(duì)決。

《每日經(jīng)濟(jì)新聞》記者注意到，此前，有傳聞稱GPT-4模型擁有多達(dá)100萬(wàn)億的參數(shù)。不過(guò)，在此前接受外媒采訪時(shí)，OpenAI首席執(zhí)行官薩姆•阿特曼（Sam Altman）曾進(jìn)行辟謠，稱這個(gè)傳言為“徹頭徹尾的胡說(shuō)八道”。

“GPT-4有一座‘謠言工廠’，這很荒謬。我不知道這一切是從哪里來(lái)的，”阿特曼說(shuō)道， “人們期待我們已經(jīng)擁有真正的通用人工智能，但事實(shí)是我們還并沒(méi)有。”

在此前被問(wèn)及GPT-4的發(fā)布時(shí)間時(shí)，阿特曼并未回應(yīng)具體的時(shí)間，但他表示，“當(dāng)我們有信心可以安全和負(fù)責(zé)任地做到這一點(diǎn)時(shí)，它會(huì)在某個(gè)時(shí)候出現(xiàn)。”隨著GPT-4即將于下周公布的消息曝出，這意味著，OpenAI已經(jīng)對(duì)此有了足夠多的信心。

在9日的活動(dòng)上，布勞恩并未透露更多GPT-4的細(xì)節(jié)，而目前OpenAI和微軟也仍未公布有關(guān)GPT-4的細(xì)節(jié)信息。根據(jù)已有信息，外媒對(duì)GPT-4的模型參數(shù)和性能等方面做了預(yù)測(cè)。

尺寸

根據(jù)此前阿特曼的說(shuō)法，GPT-4不會(huì)比GPT-3大很多。因此模型大小將不會(huì)是GPT-4的一個(gè)顯著特征，預(yù)計(jì)GPT-4大約將有1750億~2800億個(gè)參數(shù)，或與Deepmind的Gopher模型類似。值得注意的是，參數(shù)大并不代表性能更高。阿特曼此前曾表示，公司正專注于讓更小的模型表現(xiàn)得更好。

最優(yōu)性

與GPT-3相比，GPT-4需要更多的算力。該模型在參數(shù)化和規(guī)模理論上，將實(shí)施更新的優(yōu)化性見(jiàn)解。

稀疏性（指模型具有非常大的容量，但只有模型用于給定任務(wù)、樣本或標(biāo)記的某些部分被激活。這樣，能夠顯著增加模型的容量和能力，而不必增加計(jì)算量。）

GPT-4 將是一個(gè)密集模型，這意味著所有參數(shù)都將用于處理任何給定的輸入，這一點(diǎn)上遵循GPT-2和GPT-3設(shè)定的趨勢(shì)。

對(duì)齊（指引導(dǎo)AI系統(tǒng)的行為，使其符合設(shè)計(jì)者的利益和預(yù)期目標(biāo)。）

GPT-4 將比GPT-3更接近用戶的利益，它將從InstructGPT中學(xué)到的東西集合在一起，InstructGPT根據(jù)用戶的反饋數(shù)據(jù)進(jìn)行訓(xùn)練。

封面圖片來(lái)源：視覺(jué)中國(guó)