近期，領(lǐng)先的客戶互動和營銷科技服務(wù)商極光宣布推出GPTBots平臺，該平臺支持一鍵接入多個主流大模型，同時支持開發(fā)者將LLM（大語言模型）與企業(yè)數(shù)據(jù)、服務(wù)能力無縫連接，建構(gòu)企業(yè)自己的AI Bot服務(wù)，并開放注冊。

“人工智能是未來10年最大的生產(chǎn)力變革機(jī)會，每一個企業(yè)都要擁抱它，未來能不能用好AI，是一個非常核心的競爭力。”

極光CEO羅偉東認(rèn)為，生成式AI正迎來爆炸式增長，其應(yīng)用領(lǐng)域涉及Microsoft、微軟、Salesforce、Meta以及Adobe等知名企業(yè)。這為企業(yè)帶來了巨大的發(fā)展機(jī)遇，但同時也存在認(rèn)知與技術(shù)鴻溝。

在他看來，許多企業(yè)使用GPT等技術(shù)時，往往僅限于生成文章或圖像，而未能充分利用其內(nèi)部數(shù)據(jù)和知識。這導(dǎo)致了巨大的機(jī)會和潛在的利益損失。企業(yè)需要將GPT等技術(shù)整合到其業(yè)務(wù)流程中，以提高效率并創(chuàng)造新機(jī)會。

當(dāng)前，國內(nèi)大模型正蓬勃發(fā)展，無論是百度、阿里、字節(jié)等大廠都推出了自己的大模型。但在應(yīng)用方面，生成式AI還存在幻覺問題，許多通用大語言模型缺乏垂域知識，導(dǎo)致無法解決復(fù)雜任務(wù)。

對于企業(yè)而言，應(yīng)用AI模型涉及合規(guī)、數(shù)據(jù)、算力、工程和算法等多個環(huán)節(jié)，任一環(huán)節(jié)出現(xiàn)質(zhì)量問題都會影響到應(yīng)用場景的實施。

舉例來說，在醫(yī)療問答場景中，通常需要涉及患者的敏感個人信息，如醫(yī)保卡賬號、病歷記錄和藥物使用情況。如果AI應(yīng)用系統(tǒng)出現(xiàn)數(shù)據(jù)調(diào)用錯誤，可能會對后續(xù)的診斷產(chǎn)生不良影響。在這種情況下，專門設(shè)計用于醫(yī)療場景的AI模型可以起到關(guān)鍵作用，它能夠標(biāo)記潛在的隱私或關(guān)鍵病歷信息，并提醒后臺醫(yī)生或客服人員進(jìn)行審核，這種功能將降低問診的成本，同時減少了潛在風(fēng)險。

在羅偉東看來，這些問題可以通過創(chuàng)建自定義的AI BOT（或AI Agent）

來解決，結(jié)合企業(yè)內(nèi)部數(shù)據(jù)和領(lǐng)域知識，并通過API集成到流程業(yè)務(wù)中。這種方法不僅適用于大型企業(yè)，即使沒有大量研發(fā)資源的小型公司也可以輕松應(yīng)用。企業(yè)應(yīng)積極探索如何利用這些技術(shù)，無論是否擁有大量數(shù)據(jù)。

他表示，正是看到了企業(yè)的需求，極光基于多年開發(fā)者服務(wù)積累，推出了GPTBots開發(fā)平臺。極光GPTBots平臺上，開發(fā)者只需要具備生成式AI和相關(guān)領(lǐng)域知識，就可以構(gòu)建自己的AI Bot，并將其接入企業(yè)服務(wù)，其中包括開箱即用的LLMs、Plugins、長/短期記憶、知識庫和flow等功能，幫助企業(yè)量身定制AI Bot應(yīng)用。

未來，生成式AI將成為企業(yè)提升效率和節(jié)省成本的工具。不過，羅偉東認(rèn)為，在最大程度地利用生成式人工智能，企業(yè)間并非是縮小差距，反而會因為AI應(yīng)用的落地拉大差距。

每一個革命性技術(shù)的誕生到落地應(yīng)用，都需要一定的接受時間，同時也面臨用戶的隱私和數(shù)據(jù)安全，其次是算法的優(yōu)化和模型的迭代。對于企業(yè)而言，需要深入研究如何最大程度將生成式AI技術(shù)與自身業(yè)務(wù)相結(jié)合，才避免被時代淘汰。

以下是采訪實錄（原文基礎(chǔ)上有刪改）：

Q：ChatGPT爆紅之后，許多企業(yè)高層都會有很大的焦慮感。您的感受是什么？

極光CEO羅偉東：我認(rèn)為將其比作iPhone時刻一點也不夸張，我是連續(xù)創(chuàng)業(yè)者，我清晰地記得當(dāng)年iPhone問世的那一刻，這兩個感受非常相似。不過，我也相信它還需要時間來實現(xiàn)各種應(yīng)用的成熟，就像iPhone問世后，一年以后才出現(xiàn)應(yīng)用市場，應(yīng)用生態(tài)也是2、3年后才逐漸起來。

Q：極光發(fā)布了GPTBots，您是看到了什么機(jī)會？

極光CEO羅偉東：許多企業(yè)使用GPT等技術(shù)時，往往僅限于生成文章或圖像，而未能充分利用其內(nèi)部數(shù)據(jù)和知識。這導(dǎo)致了巨大的機(jī)會和潛在的利益損失。企業(yè)需要將GPT等技術(shù)整合到其業(yè)務(wù)流程中，以提高效率并創(chuàng)造新機(jī)會。這可以通過創(chuàng)建自定義的AI BOT來實現(xiàn)，結(jié)合企業(yè)內(nèi)部數(shù)據(jù)和領(lǐng)域知識，并通過API集成到流程業(yè)務(wù)中。

這種方法不僅適用于大型企業(yè)，即使沒有大量研發(fā)資源的小型公司也可以輕松應(yīng)用。企業(yè)應(yīng)積極探索如何利用這些技術(shù)，無論是否擁有大量數(shù)據(jù)。基于企業(yè)這樣的困擾，我們推出了GPTBots開發(fā)平臺。

Q：可以詳細(xì)說下 GPTBots 的插件功能嗎？

極光CEO羅偉東：首先，我們要了解什么是LLMs的插件：LLMs插件區(qū)別于傳統(tǒng)插件，它獨立、靈活、自由、功能強(qiáng)大，大語言模型插件的核心是Web API，因此大語言模型插件完全擁抱互聯(lián)網(wǎng)，同時，沒有開發(fā)語言“歧視”，無論開發(fā)者的語言棧是Python、Java、Go、PHP等，只要可以開發(fā)HTTP協(xié)議接口，遵循RESTful規(guī)則，就可以構(gòu)建大語言模型插件。GPTBots插件融合了ChatGPT插件創(chuàng)建規(guī)范（通用的OpenAPI規(guī)范）和函數(shù)調(diào)用功能，讓開發(fā)者只需專注于自身功能接口開發(fā)，同時GPTBots也會自動兼容市面上主流已支持插件能力的 LLM。

舉個例子，考慮一個郵件服務(wù)的情況，如果有客戶想要從新加坡寄一封信到美國，他們可能會詢問該服務(wù)的費用。這個價格可能是不斷變化的，存儲在結(jié)構(gòu)化的數(shù)據(jù)庫中在這種情況下，我們可以提供一個價格查詢插件，通過它可以調(diào)用并獲取這個動態(tài)數(shù)據(jù)。

開發(fā)者可以根據(jù)需求創(chuàng)建插件自定義，通常用于處理企業(yè)內(nèi)部的結(jié)構(gòu)化數(shù)據(jù)服務(wù)。例如，企業(yè)的 HR 部門可以開發(fā)一個插件，用于查詢員工的假期余額。

Q：企業(yè)目前要應(yīng)用大模型存在哪些問題？ GPTBots是如何幫助企業(yè)解決這些問題的？

極光CEO羅偉東：企業(yè)要開發(fā)一個AI Bot，開發(fā)者需要具備一定的技術(shù)技巧和相關(guān)領(lǐng)域知識。從學(xué)術(shù)理論到商業(yè)產(chǎn)品，涉及到機(jī)器學(xué)習(xí)工具、編程語言、框架、前后端工程師、運(yùn)維工程師等多個方面的專業(yè)知識。這對于企業(yè)來說是一個挑戰(zhàn)。

我們的平臺上，開發(fā)者只需要具備生成式AI和相關(guān)領(lǐng)域知識，就可以構(gòu)建自己的AI Bot，并將其接入企業(yè)服務(wù)。我們提供了簡單、高效和安全的LLMOps平臺，其中包括開箱即用的LLMs、Plugins、長/短期記憶、知識庫和flow等功能，幫助開發(fā)者為其業(yè)務(wù)量身定制AI Bot應(yīng)用。

Q：如何看待開源跟閉源大模型的關(guān)系？GPTBots 是否都會支持？

極光CEO羅偉東：開源在AI領(lǐng)域的發(fā)展確實非常強(qiáng)大，而且開源社區(qū)在不斷創(chuàng)新和迭代，迎頭趕上了一些領(lǐng)先的原生技術(shù)。未來，開源很可能成為主流，原因在于它滿足了不同規(guī)模的企業(yè)和需求。

對于中小型企業(yè)，他們可以使用OpenAI、百度或阿里的云端服務(wù)，在滿足其需求的同時還降低了技術(shù)關(guān)稅。而對于大型企業(yè)和政府部門，他們可能更傾向于使用私有化部署開源模型以確保數(shù)據(jù)隱私和安全。所以，GPTBots 也提供了支持和開源模型結(jié)合的私有化部署的解決方案，可以滿足不同規(guī)模和性質(zhì)客戶的需求。

Q：大型企業(yè)普遍擔(dān)心的數(shù)據(jù)安全性問題，我們有什么辦法？

極光CEO羅偉東：對于企業(yè)擔(dān)心的安全問題，我們提供了一些解決方案。如果企業(yè)使用公有的模型，他們可以采取一些措施來保證數(shù)據(jù)的安全性，例如在傳輸時提取用戶的敏感信息。如果用戶在醫(yī)療問答中詢問有關(guān)個人身體癥狀的問題，企業(yè)可以對其中的敏感信息進(jìn)行脫敏處理，如姓名和醫(yī)療卡號，再將脫敏后的數(shù)據(jù)提交給GPT模型。然后，GPT返回答案，并將答案中的敏感信息進(jìn)行替換，以保護(hù)用戶的隱私。

另一個解決方案是在企業(yè)內(nèi)部進(jìn)行數(shù)據(jù)過濾，以確保敏感信息不被提交給模型。企業(yè)需要自行處理這一過程來規(guī)避風(fēng)險。企業(yè)還可以選擇本地化部署開源模型，但這樣需要更高的成本，包括硬件和GPU。

Q：GPTBots的盈利模式是什么樣的？

極光CEO羅偉東：對于公用版本，我們采用包年訂閱的方式，并根據(jù)使用量和功能進(jìn)行不同的定價。我們提供了標(biāo)準(zhǔn)的SAAS模式，這是我們之前一直在使用的模式。如果企業(yè)選擇本地化部署，我們提供私有化版本的定價以及相關(guān)的服務(wù)。私有化版本的價格通常會包括硬件和服務(wù)成本。

Q：您最后還有什么想分享的嗎？

極光CEO羅偉東：人工智能是未來10年最大的生產(chǎn)力變革機(jī)會，每一個企業(yè)都要擁抱它，未來能不能用好AI，是一個非常核心的競爭力。而AI-BOT開發(fā)平臺的出現(xiàn)，不僅為企業(yè)提供了應(yīng)用實踐的機(jī)會，也為整個AI行業(yè)的發(fā)展帶來了新的動力。