相信很多大家對(duì)每天免費(fèi)100萬(wàn)token，GPT-4o新增微調(diào)功能還不知道吧，今天菲菲就帶你們一起去了解一下~.~！

OpenAI向所有開(kāi)發(fā)者推出GPT-4o數(shù)據(jù)微調(diào)功能，可以使用自己的數(shù)據(jù)打造準(zhǔn)確率、輸出模式更好的個(gè)性化ChatGPT助手。

例如，韓國(guó)最大電信運(yùn)營(yíng)商SK Telecom通過(guò)OpenAI的數(shù)據(jù)微調(diào)功能，打造了特定的AI助手，使對(duì)話總結(jié)準(zhǔn)確率提高了35%，意圖識(shí)別率提升了33%，客戶滿意度大幅度提升。

同時(shí)OpenAI宣布從今天到9月23日，每天免費(fèi)提供100萬(wàn)token微調(diào)額度，推理成本每100萬(wàn)token輸入3.75美元，每100萬(wàn)token輸出15美元。

什么是數(shù)據(jù)微調(diào)

通常大模型是在超大規(guī)模數(shù)據(jù)上進(jìn)行預(yù)訓(xùn)練的，以學(xué)習(xí)通用的語(yǔ)言知識(shí)和輸出模式。由于數(shù)據(jù)過(guò)于雜亂，模型可能在金融、法律、醫(yī)療等業(yè)務(wù)中的表現(xiàn)并不理想，因?yàn)闆](méi)有針對(duì)特定領(lǐng)域進(jìn)行專門優(yōu)化。

而數(shù)據(jù)微調(diào)可以將與特定任務(wù)或領(lǐng)域相關(guān)的新數(shù)據(jù)融合到模型中，并使用這些數(shù)據(jù)來(lái)調(diào)整模型的參數(shù)，使模型能夠更好地理解和處理這些特定的數(shù)據(jù)。

在微調(diào)過(guò)程中，將收集到的特定任務(wù)數(shù)據(jù)輸入到預(yù)訓(xùn)練模型中，然后通過(guò)反向傳播、梯度下降、監(jiān)督學(xué)習(xí)等技術(shù)，調(diào)整模型的參數(shù)使其在特定任務(wù)上的表現(xiàn)優(yōu)化，模型會(huì)逐步學(xué)會(huì)識(shí)別和處理特定任務(wù)的數(shù)據(jù)模式。

例如，GPT-4o模型只能生成一般性的寬泛文本，但我們想要將其應(yīng)用于情感分析領(lǐng)域，以判斷文本的情感傾向是積極、消極還是中性。

我們就可以收集大量帶有情感標(biāo)注的文本數(shù)據(jù)，并使用這些數(shù)據(jù)對(duì)模型進(jìn)行微調(diào)。在微調(diào)過(guò)程中，模型可以更好地學(xué)習(xí)如何根據(jù)文本中的詞匯、語(yǔ)法和語(yǔ)義信息來(lái)判斷情感傾向。

實(shí)際微調(diào)案例

Genie是上周 AI Agent代碼領(lǐng)域殺出的一匹大黑馬，其性能超過(guò)了同類的Devin、Amazon Q、Swe-agent+GPT-4等，而該產(chǎn)品便是基于Genie自有數(shù)據(jù)在GPT-4o上微調(diào)而成。

Genie能夠?qū)崿F(xiàn)跨復(fù)雜平臺(tái)端到端的進(jìn)行推理，能夠像人類那樣來(lái)修改和檢測(cè)代碼。在GPT-4o的幫助下，Genie 在OpenAI新發(fā)布的SWE-bench Verified 基準(zhǔn)測(cè)試中實(shí)現(xiàn)了43.8% SOTA得分。還在 SWE-bench Full 基準(zhǔn)測(cè)試中取得了30.08% 的得分，也是目前最高的評(píng)分。

Harvey是一家專門為律師提供類ChatGPT助手的服務(wù)商，為了更好的提升法律內(nèi)容輸出與準(zhǔn)確率，使用了OpenAI的GPT-4進(jìn)行數(shù)據(jù)微調(diào)。

在微調(diào)的過(guò)程中，他們使用了10億token的數(shù)據(jù)，并對(duì)模型訓(xùn)練過(guò)程的每一步都進(jìn)行了修改。最終，該AI助手的回答準(zhǔn)確率提升了83%，使得律師們更喜歡這種微調(diào)的助手。

Distyl是一家為財(cái)富500強(qiáng)企業(yè)提供 AI 解決方案的合作伙伴，最近在 BIRD-SQL 基準(zhǔn)測(cè)試中獲得了第一名，這是領(lǐng)先的文本到 SQL 基準(zhǔn)測(cè)試。

Distyl的微調(diào) GPT-4o 模型在排行榜上實(shí)現(xiàn)了71.83% 的執(zhí)行準(zhǔn)確率，并在查詢重構(gòu)、意圖分類、思維鏈和自我糾正等任務(wù)中表現(xiàn)出色，尤其是在 SQL 生成方面表現(xiàn)尤為突出。

以上就是關(guān)于【每天免費(fèi)100萬(wàn)token，GPT-4o新增微調(diào)功能】的相關(guān)內(nèi)容，希望對(duì)大家有幫助！