科技 > 互聯(lián)網(wǎng) > 正文
字號:大 中 小
大數(shù)據(jù)也有問題:數(shù)據(jù)量增加遠超摩爾定律需要“智能遺忘”
- 發(fā)布時間:2016-06-13 14:46:32 來源:大河網(wǎng) 責任編輯:張潔欣
大數(shù)據(jù)的問題之一是太過于關(guān)注當前,而忽略了即使最近的過去。
我們需要更好地確定哪些數(shù)據(jù)值得優(yōu)先保存
據(jù)國外媒體報道,在經(jīng)濟領(lǐng)域和人類行為的大量數(shù)據(jù)采集中,存在著一個違反直覺的弊端,而這會使我們忽略歷史的教訓(xùn)。
你或許很熟悉這樣一個統(tǒng)計結(jié)論:世界90%的數(shù)據(jù)是過去幾年里產(chǎn)生的。事實上,過去三十年中,全世界的數(shù)據(jù)量大約每兩年增加10倍——遠遠超過了計算機領(lǐng)域的摩爾定律。
這樣的信息增長速率會帶來一些問題,其中之一便是現(xiàn)時的數(shù)據(jù)量總是遠遠超過即使最近的過去。想象你正在通過一本相片簿回顧人生的頭18年,假設(shè)在兩歲時你有兩張照片,如果信息增長速率與世界數(shù)據(jù)量相同,那么在你6到8歲時,你會有驚人的2000張照片;10到12歲時有20萬張照片;而在16到18歲時,照片數(shù)量會達到2億張,相當于在最后兩年中,每秒有3張以上的照片。
當然,這并非是全球數(shù)據(jù)增長情況的完美類比。首先,世界大部分數(shù)據(jù)的增長源于有更多的人創(chuàng)造出了更多的信息來源,同時伴隨更大、更精細的格式。不過,有關(guān)比例的觀點還是成立的。如果你像前述的例子那樣回顧以往的記錄,或者試圖進行分析,那距離越久遠的過去就會變得越無關(guān)緊要。
這就是目前采集和分析大數(shù)據(jù)時所面臨的問題。當你開始以更長遠的視角往前回溯時,會發(fā)現(xiàn)近期的事情太多,而以前的事情太少。短視是結(jié)構(gòu)性的,對短期趨勢的過度估計是壓倒性的,同時卻忽略了歷史的經(jīng)驗教訓(xùn)。
為了理解這個問題的重要性,需要考慮社會科學(xué)中有關(guān)“近期偏差”(recency bias,又稱近因效應(yīng))的研究發(fā)現(xiàn)。近期偏差是指在判斷趨勢時,認為未來事件與近期體驗更加類似。這可以說是某種“可利用性法則”(availability heuristic) ——不恰當?shù)匾宰钊菀妆恢X到的信息來作為思考的基礎(chǔ)。這還是一種普遍的心理學(xué)特征。舉例來說,如果在你居住的地方,過去幾年中夏季都異乎尋常地寒冷,你 可能會認為夏天正在變得更冷——或者說你當?shù)氐臍夂蛘谧兝洹J聦嵣?,你不?yīng)當把任何東西都塞到數(shù)據(jù)里分析。你需要有一個長遠的視角,才能認識真正有意義的氣候趨勢。在短時期內(nèi),你最好不進行任何猜測。不過,我們之中又有誰能真正做到這點呢?
現(xiàn)實生活中大部分復(fù)雜的趨勢正是如此:股票市場、經(jīng)濟發(fā)展、企業(yè)的成功或失敗、戰(zhàn)爭或和平、國家關(guān)系、帝國的崛起和衰落等等。短期分析不僅不夠扎實,而且毫無益處甚至?xí)碚`導(dǎo)??纯?009年金融危機即將到來的時候,還有那么多經(jīng)濟學(xué)家信誓旦旦地宣稱這一事件不會發(fā)生。認為從那種時間尺度的數(shù)據(jù)就能做出扎實的預(yù)測,本身就有很大的問題。
我們還應(yīng)當記住,在決定哪些數(shù)據(jù)是保存還是刪除的時候,新穎性往往會成為主要的考慮因素。舊的淘汰,新的進來,在這個搜索算法本質(zhì)上偏向于新鮮事物的數(shù)字世界中,這是明顯的趨勢。從高等法院的裁決,到所有的社交媒體服務(wù)平臺上,我們到處都可以看到已經(jīng)失效的網(wǎng)址。對當前的偏好已經(jīng)滲透到我們身邊幾乎所有的技 術(shù)中,大多數(shù)人已經(jīng)習(xí)慣用個四五年就把原本光鮮亮麗的機器拋棄。
怎么辦?這不僅是一個如何更好保存舊數(shù)據(jù)的問題——盡管這并不是個壞主意,想想我們現(xiàn)在還有什么東西能保留10年的。更重要的是,這個問題關(guān)系到確定哪些東西值得優(yōu)先保存,如何在知識的名義下,確定哪些信息最有意義。
或許我們需要的是“智能遺忘”:讓我們的工具變得更會放棄最近的過去,從而在整體視角上保持更大的連續(xù)性。這有點像是重新組織一本相片簿,盡管加上了更多的 數(shù)學(xué)方法。什么時候兩百萬張照片的價值比兩千張照片更低?什么時候較大的樣品覆蓋的范圍反而較?。渴裁磿r候細節(jié)水平能提供有用的質(zhì)疑證據(jù),而不是虛假的自信?
許多數(shù)據(jù)集是無法縮減的,而且在完整的情況下才最寶貴,比如,基因序列、人口統(tǒng)計學(xué)數(shù)據(jù)、地理和物理學(xué)的原始觀測數(shù)據(jù)等??茖W(xué)性越弱,數(shù)據(jù)規(guī)模與數(shù)據(jù)的質(zhì)量更可能呈現(xiàn)負相關(guān),此時時間本身就成為更加重要的過濾工具。我們?nèi)绻蛔屑氝x擇過去保存下來的有價值、有意義的東西,那它們就會悄無聲息地淹沒在如今日益增長的噪音之中。
今天的企業(yè)、個人和政府機構(gòu)都能夠獲得比以往(甚至就在幾年前)大許多數(shù)量級的數(shù)據(jù),但這些數(shù)據(jù)并沒有獲得更多的處理時間。利用越來越高效的工具,董事會成員、首席執(zhí)行官、政府官員等決策者可以就已有的信息提出更有意義的問題。單純的堆積不是問題的答案。在一個數(shù)據(jù)量越來越大的時代,如何選擇不知道哪些事情,與選擇做什么事情一樣重要。