5.29 日，OpenAI 的 CEO-Sam Altman 在一次采訪中，透露了 OpenAI 當(dāng)下遇到的問(wèn)題與未來(lái) 1-2 年內(nèi)的發(fā)展計(jì)劃。

(資料圖片)

OpenAI 目前受到 GPU 算力限制

在采訪中，一個(gè)普遍的主題是 OpenAI 目前極其受到 GPU 算力的限制，這延遲了許多短期計(jì)劃的實(shí)現(xiàn)。最大的客戶抱怨是 API 的可靠性和速度，同時(shí)還不能向更多用戶推出更長(zhǎng)的 32k 上下文，Sam 承認(rèn)了他們的擔(dān)憂，并解釋說(shuō)這個(gè)問(wèn)題的大部分原因是由于 GPU 短缺造成的。

精調(diào) API（更加個(gè)性化與專業(yè)化的）目前也受到 GPU 可用性的瓶頸限制。他們還沒(méi)有使用像適配器或 LoRa 這樣的高效微調(diào)方法，因此微調(diào)非常計(jì)算密集，需要耗費(fèi)大量的計(jì)算資源來(lái)運(yùn)行和管理，但更好的微調(diào)支持將來(lái)會(huì)出現(xiàn)。當(dāng)前的 OpenAI 提供 API 的分類與價(jià)格

GPT-4 的迅速版 750 個(gè)單詞約為 0.03 美金（2 毛錢）

目前 OpenAI 的云計(jì)算服務(wù)是由微軟的 Azure 云來(lái)支持，突如其來(lái)的 Ai 熱潮，讓服務(wù)器長(zhǎng)期處于滿負(fù)載的狀態(tài)，同時(shí)算力開(kāi)始出現(xiàn)緊張，但伴隨 NVIDIA 高性能服務(wù)器級(jí)別的算力卡，比如 H100/GXH200 等產(chǎn)品發(fā)布；應(yīng)用，相信 GPU 算力在未來(lái)一段時(shí)間內(nèi)可以逐漸被平衡。

專用容量提供也受到 GPU 算力的限制。OpenAI 還將向客戶提供專用容量，為客戶提供模型的私有版本（如企業(yè)版）。要訪問(wèn)此服務(wù)，客戶必須愿意預(yù)付 100,000 美元（約合 68.7 萬(wàn)人民幣）

OpenAI 的近期路線圖

2023 年：

更便宜、更快的 GPT-4- 這是 OpenAI 的首要任務(wù)?？偟膩?lái)說(shuō)，OpenAI 的目標(biāo)是盡可能地降低 "Ai 的成本 "，因此他們將努力繼續(xù)隨著時(shí)間的推移降低普通用戶與 API 使用的成本。

在未來(lái)，Ai 智能助手可能會(huì)伴隨我們?nèi)粘５墓ぷ魃畹拿恳惶庁?Midjourney

更長(zhǎng)的上下文窗口 - 在不久的將來(lái)，高達(dá) 100 萬(wàn)個(gè)字符的上下文窗口是可能的。（寫(xiě)小說(shuō)的時(shí)代來(lái)臨）

Midjourney

精調(diào) API 將擴(kuò)展到最新的模型，但具體形式將根據(jù)開(kāi)發(fā)人員實(shí)際需要來(lái)確定。

有狀態(tài)的 API- 當(dāng)調(diào)用聊天 API 時(shí)，必須不斷地通過(guò)相同的對(duì)話歷史記錄并不斷支付相同的標(biāo)記。將來(lái)會(huì)有一個(gè)記住對(duì)話歷史的版本。

2024 年：

多模態(tài)（包含語(yǔ)音識(shí)別、圖像識(shí)別、視頻識(shí)別等）這是 GPT-4 發(fā)布的一部分，但在更多 GPU 算力上線之前無(wú)法擴(kuò)展到所有用戶。

GPT-4 發(fā)布時(shí)提及的圖片識(shí)別能力，仍未開(kāi)放

OpenAI 除了 ChatGPT 之外，不會(huì)發(fā)布更多的競(jìng)爭(zhēng)產(chǎn)品

相當(dāng)多的開(kāi)發(fā)者表示，當(dāng) OpenAI 可能會(huì)發(fā)布與他們競(jìng)爭(zhēng)的產(chǎn)品時(shí)，他們對(duì)使用 OpenAI API 進(jìn)行構(gòu)建感到緊張。Sam 說(shuō) OpenAI 除了 ChatGPT 之外，不會(huì)發(fā)布更多的競(jìng)爭(zhēng)產(chǎn)品。他說(shuō)，有許多偉大的平臺(tái)公司都有一個(gè)殺手級(jí)應(yīng)用程序，而 ChatGPT 將允許他們成為自己產(chǎn)品的客戶，從而使 API 更好。ChatGPT 的愿景是成為一個(gè)超級(jí)智能的工作助手，但還有許多其他 GPT 用例 OpenAI 不會(huì)涉及。

需要監(jiān)管，但開(kāi)源也很重要

盡管 Sam 呼吁對(duì)未來(lái) Ai 模型進(jìn)行監(jiān)管，但他認(rèn)為現(xiàn)有模型并不危險(xiǎn)，認(rèn)為監(jiān)管或禁止它們將是一個(gè)巨大的錯(cuò)誤。他重申了他對(duì)開(kāi)源的重要性的信念，并表示 OpenAI 正在考慮開(kāi)源 GPT-3。他們還沒(méi)有開(kāi)源的部分原因是他對(duì)有多少個(gè)人和公司有能力托管和提供大型 LLM 持懷疑態(tài)度。 ( 擔(dān)心有人使用開(kāi)源后的 GPT-3 干壞事）

擴(kuò)展定律仍然有效

OpenAI 的內(nèi)部數(shù)據(jù)表明，模型性能的擴(kuò)展定律仍然有效，而且使模型更大仍將產(chǎn)生更好的性能。但由于 OpenAI 在幾年內(nèi)已經(jīng)使模型變得大了數(shù)百萬(wàn)倍，繼續(xù)保持這樣的擴(kuò)展速度將不可持續(xù)。這并不意味著 OpenAI 不會(huì)繼續(xù)努力使模型更大，只是表示它們可能每年只會(huì)增加兩到三倍的大小，而不會(huì)呈幾個(gè)數(shù)量級(jí)的增長(zhǎng)。

標(biāo)簽：