釋放非結(jié)構(gòu)化數(shù)據(jù)力量的八個技巧
充分利用企業(yè)數(shù)據(jù)是當(dāng)今IT領(lǐng)導(dǎo)者最關(guān)心的問題。隨著企業(yè)尋求在業(yè)務(wù)決策中更多地以數(shù)據(jù)為導(dǎo)向,IT領(lǐng)導(dǎo)者必須制定數(shù)據(jù)戰(zhàn)略,以便從數(shù)據(jù)中創(chuàng)造價值,無論數(shù)據(jù)位于何處或以何種形式存在。
對于許多企業(yè)來說,文本、視頻、音頻、社交媒體、圖像、傳感器和其他格式的非結(jié)構(gòu)化數(shù)據(jù)仍然是難以捉摸和未開發(fā)的。根據(jù)Foundry的研究,雖然行業(yè)研究估計高達(dá)90%的企業(yè)數(shù)據(jù)是非結(jié)構(gòu)化的,但61%的IT領(lǐng)導(dǎo)者表示,管理非結(jié)構(gòu)化數(shù)據(jù)對其企業(yè)來說是一個問題,另有24%的人甚至不將非結(jié)構(gòu)化數(shù)據(jù)包括在他們的數(shù)據(jù)和分析候選列表中。
非結(jié)構(gòu)化數(shù)據(jù)資源對于獲得業(yè)務(wù)洞察和解決問題非常有價值,關(guān)鍵是弄清楚如何創(chuàng)造這種價值。熟練利用這些海量信息資源的企業(yè)可以在向關(guān)鍵業(yè)務(wù)流程提供可操作的洞察方面獲得顯著優(yōu)勢。
以下是當(dāng)今創(chuàng)造性企業(yè)如何將非結(jié)構(gòu)化數(shù)據(jù)轉(zhuǎn)化為業(yè)務(wù)價值,以及如何將非結(jié)構(gòu)化數(shù)據(jù)應(yīng)用于你的企業(yè)的一些提示。
加強(qiáng)創(chuàng)意過程
移動游戲開發(fā)公司RetroStyle Games的數(shù)據(jù)分析師伊萬·科諾瓦爾表示,在該公司,非結(jié)構(gòu)化數(shù)據(jù)已被證明是一座“金礦”,直接為業(yè)務(wù)增長和游戲改進(jìn)做出了貢獻(xiàn)。
在RetroSyle Games使用非結(jié)構(gòu)化數(shù)據(jù)的眾多方式中,可能影響最大的是概念藝術(shù)收集和音頻數(shù)據(jù)。
“我們的游戲開發(fā)者的創(chuàng)作過程往往始于素描、意境板或概念藝術(shù),”科諾瓦爾說“這些作品雖然不是結(jié)構(gòu)化的,但抓住了我們想要在游戲中表達(dá)的精髓。為了確保這些作品不會在其他作品中丟失,并在未來制作游戲續(xù)集時很容易找到,我們使用了先進(jìn)的圖像識別工具。”
這些工具對藝術(shù)品的各種元素進(jìn)行分類和標(biāo)記,無論是角色、風(fēng)景還是其他元素??浦Z瓦爾說:“這使我們的藝術(shù)家和開發(fā)人員能夠快速找到相關(guān)的藝術(shù)品,從而提供設(shè)計一致性,并加快開發(fā)進(jìn)程。此外,這個系統(tǒng)還允許我們存儲有關(guān)公司藝術(shù)品發(fā)展的信息,這在培訓(xùn)新員工時非常有用。”
關(guān)于音頻數(shù)據(jù),語音表演在玩家在游戲世界中的體驗中扮演著關(guān)鍵角色,科諾瓦爾說。“我們從游戲中的對話、背景聲音和玩家語音聊天中收集了大量數(shù)據(jù),”他說,“使用語音識別和聲音分析,我們可以提取情緒和情緒等細(xì)微差別。”
例如,如果某個對話框?qū)е峦婕沂冀K興奮地輸入語音聊天,開發(fā)人員會注意到這一點,類似地,識別并處理與環(huán)境不匹配的異常情況,例如背景噪音。
科諾瓦爾說:“從這些音頻數(shù)據(jù)中得出的見解直接有助于改善游戲的音頻體驗,確保玩家不斷地在游戲中投入情感,并與環(huán)境互動。”
科諾瓦爾說,游戲是動態(tài)的,它們產(chǎn)生的數(shù)據(jù)也是動態(tài)的。游戲中聊天情緒分析等功能需要實時處理,以過濾玩家的不當(dāng)行為。“我們已經(jīng)通過利用像阿帕奇·卡夫卡這樣的流處理框架解決了這個問題,”他說,“這使得我們的游戲主持人可以對任何新出現(xiàn)的模式和問題做出實時回應(yīng)。”
科諾瓦爾說,隨著游戲的每一次發(fā)布和更新,處理的非結(jié)構(gòu)化數(shù)據(jù)量都會呈指數(shù)級增長。“海量的數(shù)據(jù)在存儲和高效處理方面構(gòu)成了嚴(yán)峻的挑戰(zhàn)。”他說。
為了解決這個問題,RetroStyle Games投資了數(shù)據(jù)湖??浦Z瓦爾說:“這不僅使我們能夠存儲大量的非結(jié)構(gòu)化數(shù)據(jù),還能高效地對其進(jìn)行查詢和分析,為我們的數(shù)據(jù)科學(xué)家和開發(fā)人員提供對所需信息的即時訪問。”
為GenAI提供動力
分析和執(zhí)行總監(jiān)杰西·哈里奧特表示,員工識別和體驗軟件提供商WorkHuman正在其基于云的平臺上以多種方式利用非結(jié)構(gòu)化數(shù)據(jù)。
哈里奧特說:“非結(jié)構(gòu)化數(shù)據(jù)是最普遍的數(shù)據(jù)形式,但也是最難有效使用的。”
工作人員云包含來自世界各地員工的數(shù)百萬條認(rèn)可信息,分享對同事的積極反饋。
哈里奧特說:“他們用自己的話做這件事,所以每個識別時刻都是獨一無二的。我們使用這些數(shù)據(jù)來支持人工智能模型,幫助公司更好地定義員工如何在他們的企業(yè)中協(xié)作,哪些話題在消息中出現(xiàn)得最頻繁,以及整個企業(yè)的表彰獎勵是否公平。”
該公司還使用大型語言模型來總結(jié)隨著時間的推移的識別趨勢,并為有效的識別消息建議語言。
哈里奧特說:“我特別自豪的一項倡議是我們的工具包含顧問,這是一個基于即時人工智能的指導(dǎo)工具,它在將獎項語言發(fā)送給獲獎?wù)咧埃R別并建議對無意識偏見的糾正。”
從非結(jié)構(gòu)化數(shù)據(jù)中獲取價值的最大挑戰(zhàn)之一是,對于企業(yè)關(guān)注的業(yè)務(wù)用例,對可靠有效的培訓(xùn)數(shù)據(jù)的訪問受到限制。
“你可以擁有大量的非結(jié)構(gòu)化數(shù)據(jù),但如果沒有有效的訓(xùn)練數(shù)據(jù)來創(chuàng)建和驗證模型,進(jìn)度和質(zhì)量將受到影響,”哈里奧特說,“利用LLM當(dāng)然可以在這方面有所幫助,但現(xiàn)有LLM無法有效地捕獲許多業(yè)務(wù)用例。”
此外,哈里奧特說:“在LLM中,培訓(xùn)數(shù)據(jù)中仍然可能存在偏見的問題。”WorkHuman有一個語言團(tuán)隊,負(fù)責(zé)數(shù)據(jù)注釋、增強(qiáng)和驗證,以處理其中的一些問題。“我們還與我們的大型跨國客戶合作,以確保模型產(chǎn)生有意義和有用的結(jié)果。”哈里奧特說。
將非結(jié)構(gòu)化數(shù)據(jù)轉(zhuǎn)化為價值的一些提示
Harriott、Konoval和其他數(shù)據(jù)專家就如何在處理非結(jié)構(gòu)化數(shù)據(jù)時確保成功提供了建議。
將計劃與業(yè)務(wù)成果聯(lián)系起來。Harriott說,IT領(lǐng)導(dǎo)者應(yīng)該確保利用非結(jié)構(gòu)化數(shù)據(jù)的計劃與業(yè)務(wù)需求緊密結(jié)合,并得到高管的支持。
哈里奧特說:“通常情況下,一個團(tuán)隊可能對非結(jié)構(gòu)化數(shù)據(jù)有一個創(chuàng)造性的用例,但與關(guān)鍵業(yè)務(wù)結(jié)果的聯(lián)系對其他人來說并不明顯,可能會失去支持。領(lǐng)導(dǎo)者有責(zé)任讓企業(yè)了解為什么用例很重要,以及它如何直接或間接地推動業(yè)務(wù)利益。”
認(rèn)清這段旅程。此外,數(shù)據(jù)領(lǐng)導(dǎo)者應(yīng)該在達(dá)到計劃里程碑時設(shè)置并慶祝它們,特別是考慮到使用非結(jié)構(gòu)化數(shù)據(jù)創(chuàng)造價值的挑戰(zhàn)是多么困難。
哈里奧特說:“讓非結(jié)構(gòu)化數(shù)據(jù)具有可操作性可能需要比企業(yè)預(yù)期更多的時間和精力。通過承認(rèn)里程碑,領(lǐng)導(dǎo)者讓其他利益相關(guān)者了解正在取得的進(jìn)展,并確保他們的團(tuán)隊成員對他們?yōu)槭狗墙Y(jié)構(gòu)化數(shù)據(jù)可操作所做的努力感到贊賞。”
質(zhì)量是第一要務(wù),成功的另一個關(guān)鍵是確定數(shù)據(jù)質(zhì)量的優(yōu)先順序。
科諾瓦爾說:“諺語‘垃圾進(jìn)來,垃圾出來’再合適不過了。 “在沒有確保數(shù)據(jù)質(zhì)量的情況下進(jìn)行分析可能會適得其反,我們一直采取這樣的做法:清理數(shù)據(jù),刪除不必要的數(shù)據(jù),并確保其符合質(zhì)量標(biāo)準(zhǔn)。”
科諾瓦爾說,在游戲行業(yè),“錯誤的決策可能會導(dǎo)致昂貴的功能開發(fā),玩家可能不會與之產(chǎn)生共鳴,更糟糕的是,錯誤可能會玷污我們的聲譽(yù)。我們嚴(yán)格的數(shù)據(jù)治理框架確保了我們的分析基礎(chǔ)堅如磐石。”
將可行動的與信息性的分開。確定業(yè)務(wù)用戶可以對其采取行動的數(shù)據(jù)的優(yōu)先順序也至關(guān)重要。主機(jī)托管和數(shù)據(jù)服務(wù)提供商數(shù)據(jù)庫的首席運(yùn)營官喬·米納里克表示:“重要的是數(shù)據(jù)量,并能夠分析哪些是可操作的,哪些是有用的。”
為了強(qiáng)調(diào)這一點的重要性,米納里克舉了一個使用非結(jié)構(gòu)化數(shù)據(jù)進(jìn)行系統(tǒng)監(jiān)控的例子。他說:“必須優(yōu)先考慮和迅速解決可行的方面。由于系統(tǒng)的許多方面都受到監(jiān)視,因此單個問題可能會從下游設(shè)備生成警報和信息,從而導(dǎo)致需要篩選過多的警報、警報和信息,以確定真正需要解決的單個方面。”
充分利用人工智能。繼續(xù)他的例子,米納里克指出了人工智能和機(jī)器學(xué)習(xí)在分析隨時間推移的非結(jié)構(gòu)化數(shù)據(jù)流方面所發(fā)揮的寶貴作用。“它可以幫助你建立系統(tǒng)關(guān)聯(lián),”他說,“這讓你可以放下雜音,立即解決問題的根源。”
例如,企業(yè)可以部署命名實體識別(NER),這是自然語言處理(NLP)的一個組件,它側(cè)重于識別非結(jié)構(gòu)化文本中的命名實體并對其進(jìn)行分類,并使用諸如“Person”、“Organization”或“Location”等標(biāo)簽。
米納里克說:“實際上,實體識別在眾多應(yīng)用中扮演著至關(guān)重要的角色。”其中包括索引和企業(yè)內(nèi)容的信息檢索系統(tǒng)、在文本中定位答案的問答系統(tǒng),以及根據(jù)識別的實體對內(nèi)容進(jìn)行個性化的內(nèi)容推薦引擎。
“通過識別和分類命名實體,NER使數(shù)據(jù)分析師和系統(tǒng)工程師能夠從收集的海量數(shù)據(jù)中獲得有價值的見解。”米納里克說。
通過可視化確保價值。米納里克說,使非結(jié)構(gòu)化數(shù)據(jù)可用的過程不會隨著分析而結(jié)束,它的最終結(jié)果是報告和傳達(dá)調(diào)查結(jié)果。
米納里克說:“報告通常包括對關(guān)鍵發(fā)現(xiàn)、方法和分析的影響的結(jié)構(gòu)化陳述??梢暬?,如圖表、圖形和儀表板,有助于以可理解的格式傳達(dá)復(fù)雜的數(shù)據(jù)。可視化表示不僅有助于理解,還使利益相關(guān)者更容易識別趨勢、離群值和關(guān)鍵洞察力,確保及時做出數(shù)據(jù)驅(qū)動的決策。”
邊走邊監(jiān)控。米納里克說,另一個有時被忽視的關(guān)鍵做法是需要持續(xù)監(jiān)測和維護(hù)。他說:“現(xiàn)實生活中的數(shù)據(jù)是動態(tài)的、不斷演變的。持續(xù)監(jiān)控和維護(hù)對于確保數(shù)據(jù)在一段時間內(nèi)保持可用至關(guān)重要。”
米納里克說,關(guān)鍵是定期清理和進(jìn)行質(zhì)量檢查,以保持?jǐn)?shù)據(jù)的準(zhǔn)確性和可靠性。必須及時識別和糾正數(shù)據(jù)異常、不一致和重復(fù),以防止歪曲或錯誤的分析。
保持團(tuán)隊技能的敏銳性。最后,投資于正確技能的開發(fā)是一個很好的實踐——考慮到底層工具的不斷發(fā)展,這一努力必須持續(xù)下去。
“數(shù)據(jù)分析的世界是動態(tài)的,尤其是圍繞非結(jié)構(gòu)化數(shù)據(jù),”科諾瓦爾說,“最小的優(yōu)勢,比如一支精通最新圖像識別技術(shù)和分析概念藝術(shù)的團(tuán)隊,可能是一款游戲成功或失敗的區(qū)別。我們已經(jīng)看到了先進(jìn)技術(shù)的結(jié)果如何影響了我們游戲的故事講述和設(shè)計,從而產(chǎn)生了積極的反饋,增加了玩家的參與度。”
- 上一篇
如何看待大數(shù)據(jù)云原生發(fā)展之路
作為一個大數(shù)據(jù)從業(yè)者,在公有云和容器化發(fā)展的大趨勢下,我們關(guān)注的重點已經(jīng)不僅僅是大模型,大數(shù)據(jù)在未來幾年發(fā)展的重點方向是什么,大數(shù)據(jù)的技術(shù)演進(jìn)路線會如何。
- 下一篇
避免云應(yīng)用遷移陷入困境的方法
一旦企業(yè)承諾在云中運(yùn)行業(yè)務(wù)關(guān)鍵型應(yīng)用程序,它們很少轉(zhuǎn)向其他提供商,一個很大的原因是:他們經(jīng)常被鎖定在他們選擇的供應(yīng)商的生態(tài)系統(tǒng)中。Gartner云服務(wù)和技術(shù)副總裁希德·納格表示,遷移成本實在太高了,他說:“但如果你的規(guī)劃工作做得很好,你就不會到處移動你的申請?!?/p>