您猜怎么著？云計算會議現(xiàn)在是生成式AI會議。怎么會這樣？很簡單，云提供商將生成式AI視為銷售更多云服務(wù)的最佳方式了。

隨著企業(yè)界轉(zhuǎn)向AI驅(qū)動的生態(tài)系統(tǒng)，這一幕主要在云計算環(huán)境中上演。在這里您通?？梢哉业阶钕冗M(jìn)的生成式AI系統(tǒng)、可擴(kuò)展性、可訪問性和成本效益。當(dāng)我們踏上這段旅程時，企業(yè)應(yīng)該如何有效地運行這些系統(tǒng)？我們應(yīng)該考慮哪些最佳實踐？

了解云端生成式AI

簡而言之，生成式AI模型是從輸入數(shù)據(jù)中獲取模式和結(jié)構(gòu)以生成新型原創(chuàng)內(nèi)容的系統(tǒng)。這些內(nèi)容是輸出數(shù)據(jù)，它可以是任何類型的結(jié)構(gòu)化或非結(jié)構(gòu)化信息。

如果要在現(xiàn)有模式的基礎(chǔ)上進(jìn)行構(gòu)建，這是一個數(shù)據(jù)操作問題。然而存在重大的差異，包括處理頻繁得多，以及數(shù)據(jù)輸入和輸出性能決定了云端生成式AI系統(tǒng)的性能。

基于云的生成式AI系統(tǒng)的流程

不妨定義一個基本流程或一系列最佳實踐。運營人員喜歡核對清單，以下是我給出的核對清單。

設(shè)計系統(tǒng)。您的AI和云解決方案必須協(xié)同擴(kuò)展，生成式AI模型需要有效地管理存儲和計算資源。您編寫的應(yīng)用程序必須盡可能地利用云原生服務(wù)。這樣既經(jīng)濟(jì)高效，又簡化了操作。這時候Devops就有了用武之地，與開發(fā)團(tuán)隊協(xié)作優(yōu)化代碼。

其想法是，如果系統(tǒng)一開始就設(shè)計正確，您就不需要處理操作問題。我遇到的大多數(shù)關(guān)于操作的問題都?xì)w結(jié)為系統(tǒng)的核心設(shè)計。

垃圾輸入等于垃圾輸出。為了從AI中獲得有意義的輸出，應(yīng)該將高質(zhì)量和適當(dāng)格式的數(shù)據(jù)輸入到系統(tǒng)。管理、驗證和保護(hù)饋送到AI引擎的這些數(shù)據(jù)至關(guān)重要，從這些系統(tǒng)收集數(shù)據(jù)也很重要。這個階段實現(xiàn)自動化將大大節(jié)省時間，包括在攝取訓(xùn)練數(shù)據(jù)之前檢查數(shù)據(jù)質(zhì)量。我發(fā)現(xiàn)大多數(shù)生成型AI的幻覺都源于不到位和低質(zhì)量的數(shù)據(jù)。

定期檢查。生成式AI軟件不是一種安裝后就可以撒手不管的工具。這項技術(shù)從一開始就需要定期的性能調(diào)優(yōu)和優(yōu)化。AI的動態(tài)性需要持續(xù)監(jiān)控，以確保參數(shù)提供最佳的操作結(jié)果。這意味著要經(jīng)常調(diào)整系統(tǒng)，可能每天都要調(diào)整。

借助嚴(yán)格的訪問控制解決安全問題。由于您的生成式AI系統(tǒng)在云端，因此安全性必須包括數(shù)據(jù)加密和定期審計。最好確保那些合規(guī)策略落實到位，您在部署到生產(chǎn)環(huán)境期間和之后需要使這些策略實現(xiàn)自動化。其想法是將盡可能多的不穩(wěn)定因素放到一個單獨的域中，從而廣泛使用策略以處理合規(guī)和安全參數(shù)。公共云上的生成式AI系統(tǒng)更是如此。

設(shè)置系統(tǒng)故障警報。密切關(guān)注使用模式，執(zhí)行定期維護(hù)，并保持補丁和新版本的更新，這些工作必不可少。自動化可以再次發(fā)揮作用，減輕負(fù)擔(dān)，并提高效率。不過，您仍得盡量提高自動化程度，以跟上需要實施的變更的數(shù)量。

準(zhǔn)備、瞄準(zhǔn)、開火!

先讓系統(tǒng)正常運行起來。這意味著在部署之前做好設(shè)計和更改代碼。在許多情況下，企業(yè)試圖一下子推出系統(tǒng)，希望運營團(tuán)隊能夠解決導(dǎo)致性能和穩(wěn)定性問題的設(shè)計缺陷，并確保整個系統(tǒng)的準(zhǔn)確性。太多的企業(yè)對云端生成式AI采取了“準(zhǔn)備、開火、瞄準(zhǔn)”的做法。這種做法不僅花費太多的錢，還因基本上可以避免的生產(chǎn)問題而降低了這些系統(tǒng)的價值。

我們應(yīng)該通過部署第一代基于云的系統(tǒng)來正視這個問題，而且愿意解決許多技術(shù)問題。這些系統(tǒng)出差錯帶來的后果嚴(yán)重得多。我們盡量不要制造問題，不然問題在操作過程中只會愈加嚴(yán)重。