DAV数字音视工程网_会议系统、指挥调度、演艺科技、智能楼宇等音视频工程信息行业门户

DAV首頁
數(shù)字音視工程網(wǎng)

微信公眾號

數(shù)字音視工程網(wǎng)

手機DAV

null
null
null
卓華,
招商,
null
null
null
快捷,
null

我的位置:

share

存儲數(shù)據(jù)分級的方式

來源:中國數(shù)字音視網(wǎng)     作者:cofee    編輯:數(shù)字音視工程    2010-09-08 00:00:00     加入收藏    咨詢

咨詢
所在單位:*
姓名:*
手機:*
職位:
郵箱:*
其他聯(lián)系方式:
咨詢內(nèi)容:
驗證碼:
不能為空 驗證碼錯誤
確定

存儲數(shù)據(jù)分級的方式

  眾所周知,當數(shù)據(jù)量達到一定的級別之后,通過提高設備性能或者增加設備,效果往往不會很明顯。一方面存儲設備的性能有優(yōu)劣之分,如磁帶的性能就比不上硬盤的性能。另一方面,用戶數(shù)據(jù)使用的頻率也是不同的。如訂單等信息可能需要經(jīng)常用到,而視頻監(jiān)控信息可能一年都不會訪問一次。在這種情況下,如果能夠將用戶經(jīng)常需要用到的數(shù)據(jù)放到硬盤上,而將使用頻率低的數(shù)據(jù)放到性能欠佳的磁帶設備上。那么就可以提高數(shù)據(jù)查詢的命中率,從而提高數(shù)據(jù)查詢與處理的效率。

  一、利用離線存儲來提高設備的使用壽命。

  存儲在磁帶設備上的數(shù)據(jù)一般可能很少用到。如企業(yè)需要對數(shù)據(jù)庫等應用軟件的數(shù)據(jù)進行備份。此時可以將數(shù)據(jù)備份到磁帶設備上。根據(jù)慣例,一般一天24個小時這個磁帶設備可能就只需要半個小時。在這種情況下,如果磁帶設備仍然一天24個小時運行著,那么是相當浪費的。不僅會浪費電源,而且還會影響磁帶設備的使用壽命。

  而如果在分級存儲中采用離線存儲的話,那么就可以解決這個問題。離線存儲簡單的說,就是平時磁帶設備是處于休眠狀態(tài)。當需要用到的時候,可以將磁帶設備喚醒。然后往磁帶設備上讀取或者寫入數(shù)據(jù)。等到操作完成之后,磁帶系統(tǒng)就會自動再轉為休閑狀態(tài)。設計的好的話,可以將磁帶設備的運行時間控制在最短時間之內(nèi),如一個小時之內(nèi)。從而可以提高設備的使用壽命。

  通常情況下,離線存儲主要是用在對在線存儲的數(shù)據(jù)進行備份,以防范可能發(fā)生的數(shù)據(jù)災難。為此在分級存儲中,也將離線存儲叫做備份級別的存儲。這里需要注意的是,離線存儲介質(zhì)上的數(shù)據(jù)在讀寫時是按順序進行的。當需要數(shù)據(jù)讀取時,需要將帶子卷到頭,然后再進行定位。當需要對已寫入的數(shù)據(jù)進行修改時,所有的數(shù)據(jù)都需要全部進行改寫。所以離線海量存儲的效率是比較低的。但是其最大的優(yōu)點就是可以以比較低的成本實現(xiàn)海量存儲。

  為此離線存儲并不適合所有的情況。通常情況下,離線存儲主要用來存儲那些不經(jīng)常使用的數(shù)據(jù),如數(shù)據(jù)備份等等。而且一般在分級存儲中結合使用離線存儲,用來提高設備的使用效率。

  二、考慮如何有效的對數(shù)據(jù)進行分級?

  為什么有時候采用數(shù)據(jù)分級存儲策略能夠提高比較好的效果,而有時候效果又不明顯呢?筆者認為,這其中有一個很重要的原因是數(shù)據(jù)分級策略的指標不合適。也就是說,將什么魚放養(yǎng)在哪個魚塘中,是由存儲系統(tǒng)根據(jù)一定規(guī)則來決定的。如果這個規(guī)則設置不當,如只根據(jù)魚的大小來決定,那么同一個魚塘中就可能會有各種各樣的魚。此時就不利于數(shù)據(jù)的查詢與管理。可見,這個分級的規(guī)則相當?shù)年P鍵。

  筆者建議,在使用數(shù)據(jù)分級存儲產(chǎn)品的時候,最好能夠選擇那些基于多指標的數(shù)據(jù)分級策略。

  也就是說,根據(jù)基于數(shù)據(jù)的生命周期、上次訪問的時間、大小、訪問頻率等等多個參數(shù)對數(shù)據(jù)的價值進行分級。具體的來說,在數(shù)據(jù)分級時需要考慮到如下內(nèi)容。

  一是最好在數(shù)據(jù)創(chuàng)建的時候就能夠確定數(shù)據(jù)的級別。因為如果數(shù)據(jù)一創(chuàng)建就能夠預測其訪問特性而進行適當?shù)姆旨墸湍軌驕p少不必要的數(shù)據(jù)轉移而帶來的麻煩。這也就是說,在日常管理中我們可以對于一些數(shù)據(jù)進行手工的分級,而不需要讓系統(tǒng)來進行分級。如根據(jù)以前的經(jīng)驗,可以預測用戶對于近1個月的郵件數(shù)據(jù)需要經(jīng)常訪問。那么就可以指定,對于最近一個月的數(shù)據(jù)指定為級別高的數(shù)據(jù)。而其他時間的郵件數(shù)據(jù)則根據(jù)一定的規(guī)則讓系統(tǒng)自動進行判斷。手工指定與系統(tǒng)自動判斷結合,往往可以起到不錯的效果。

  二是根據(jù)數(shù)據(jù)的靜態(tài)特征和動態(tài)特征來進行分級也能夠起到不錯的效果。如可以通過以下方式來判斷文件是靜態(tài)的還是動態(tài)的。一是根據(jù)文件系統(tǒng)的靜態(tài)特征(如文件大小的分布),二是根據(jù)文件系統(tǒng)的宏觀訪問規(guī)律(如大小文件的訪問次數(shù)分布),三是根據(jù)根據(jù)文件之間的訪問關聯(lián)特征(如同一作業(yè)中的一個文件被訪問,則可能會帶動其他文件也被訪問),四是文件個性的訪問模式(如是否具有訪問的局限性)。在實際工作中,可以根據(jù)這些特征對文件進行手工的歸類。也可以在選購的時候,判斷系統(tǒng)中是否有對應的分級策略。

  三、如何有效降低遷移過程中的沖突?

  分級存儲另一個特點,就是會根據(jù)數(shù)據(jù)的訪問級別,在不同設備之間進行數(shù)據(jù)的遷移。如剛開始一些數(shù)據(jù)是存儲在硬盤或者磁盤陣列中的。后來分級存儲系統(tǒng)發(fā)現(xiàn)其已經(jīng)有近半年沒有被訪問了,此時就會將數(shù)據(jù)從硬盤或者磁盤陣列中遷移到磁帶中。這種遷移也叫做降級遷移(將數(shù)據(jù)從性能高的設備中遷移到性能低的設備中)。相反,當用戶在一段時間內(nèi)突然頻繁訪問存放在磁帶中的數(shù)據(jù),此時分級存儲系統(tǒng)就會將數(shù)據(jù)從磁帶中遷移到硬盤或者磁盤陣列中,這就叫做升級遷移(數(shù)據(jù)有慢速存儲設備和低一級存儲設備往快速存儲設備或者高一級存儲設備遷移)。

  這里需要注意,在遷移的過程中可能會發(fā)生沖突。根據(jù)筆者的經(jīng)驗,一般來說在降級遷移中設備的輸入輸出沖突并不是很嚴重。但是在升級遷移中,則必須要考慮數(shù)據(jù)遷移帶來的I/Q沖突。因為根據(jù)測試發(fā)現(xiàn),數(shù)據(jù)遷移發(fā)生的時候,基本上是對應設備I/Q最密集的時候。為此在分級系統(tǒng)設計的時候,必須要考慮到,如何才能夠最大程度的降低數(shù)據(jù)遷移過程中的I/Q沖突,降低對其他用戶數(shù)居訪問的不利影響。現(xiàn)在常用的一種手段是盡量保證只在磁帶與磁盤陣列之間進行數(shù)據(jù)的升級遷移。因為相對來說,可以通過增加硬盤的數(shù)量來增加數(shù)據(jù)輸入輸出的吞吐量,從而降低I/Q沖突。而減少在磁帶與單塊硬盤之間的數(shù)據(jù)遷移操作。根據(jù)筆者的測試發(fā)現(xiàn),及時性能最高的硬盤,在發(fā)生數(shù)據(jù)升級遷移的過程中,不可避免的會遇到I/O沖突的情況。

  在數(shù)據(jù)遷移的過程中,除了要考慮數(shù)據(jù)沖突之外,還需要注意數(shù)據(jù)的一致性。根據(jù)現(xiàn)在的技術,最常用的手段是通過讀寫鎖來確保數(shù)據(jù)的一致性。系統(tǒng)的遷移進程會為當前的數(shù)據(jù)塊申請讀寫鎖,以保證遷移進程與寫操作進程之間的數(shù)據(jù)一致性。通常情況下,則也是選擇分級存儲產(chǎn)品中必須要考慮一個指標。

  以上提到的這三個內(nèi)容,不僅僅是大家在部署的時候需要注意的問題,而且在選購產(chǎn)品的時候,也可以以這些標準來進行評估。
 

免責聲明:本文來源于中國數(shù)字音視網(wǎng),本文僅代表作者個人觀點,本站不作任何保證和承諾,若有任何疑問,請與本文作者聯(lián)系或有侵權行為聯(lián)系本站刪除。(原創(chuàng)稿件未經(jīng)許可,不可轉載,轉載請注明來源)
掃一掃關注數(shù)字音視工程網(wǎng)公眾號

相關閱讀related

評論comment

 
驗證碼:
您還能輸入500
    主站蜘蛛池模板: 陕西筱润智能科技有限公司 干部人事智能档案柜 智能密集架 智能档案柜 部队选层文件智能柜 智能枪弹柜 财务智能档案柜 边防武警智能密集架 医院智能档案柜 部队选层文件智能柜智能枪弹柜 学校医院文件柜 企事业单位公检法智能文件柜 生产厂家-筱润智能科技有限公司 RFID射频智能密集架 全自动智能选层档案柜 智能密保柜 枪柜部队营房营具床桌椅办公家具 办公用品档案盒设备货架 全自动智能选层柜生产厂家-筱润智能科技有限公司 | 润滑油展会 沈阳 南京 润滑油 展会 西安 润滑脂 中国国际润滑油 全国润滑油 汽配_中国国际润滑油、脂、养护用品及技术设备展览会 | 金相切割机-金相磨抛机-显微/维氏/布氏/洛氏硬度计-自准直仪-金相显微镜-万能材料试验机-清洁度检测仪-淋雨试验机-上海中研精密仪器制造有限公司 | 首页 网络安全与数据治理(原《信息技术与网络安全》) | 深圳市金正电器有限公司| 廊坊保安公司_廊坊市万帮保安服务有限公司 | 苏州注册公司-代理工商注册-苏州及财企业服务有限公司 | 联系我们果博东方在线开户客服电话:19038688886 - 黑龙江旺广机械设备有限公司 | 无尘车间_洁净车间_净化车间_洁净室工程一站式净化服务商-深圳市美克威尔环境科技有限公司 | 武晋工程_江苏武晋工程咨询有限公司 | 重庆中医针灸推拿培训_产后康复理疗师培训_重庆市六合职业培训学校 | 潍坊卓瑞机械有限公司,输送设备,石灰消化设备,餐厨垃圾设备,化机浆设备,污泥脱水 | 数控机床市场网-专业的数控机床网站 | 深圳人才网_深圳招聘网_【官方网站】| 排水PVC管-PVC排污管-给水PVC管-电线PVC管-米阳建材pvc管厂 | 小程序定制,小程序开发,北京小程序公司,网站建设,网站制作,北京网站建设,北京网站制作 | 双合金螺杆|注塑机螺杆|挤出机螺杆|双合金料管—东莞市精耐螺杆机械有限公司 | 免费的动态思维导图软件,脑图大师,思维导图制作软件 - 万彩脑图大师官网 | 室内通风系统,新风系统专卖,建筑通风系统专卖_绿岛风官网 | 深圳市佳顺优印印刷有限公司,佳顺优印,画册印刷,海报印刷,封套印刷,手提袋印刷,包装盒印刷,彩盒印刷,无碳纸印刷,不干胶印刷,信封印刷,便笺印刷,笔记本印刷,台历印刷,挂历印刷,国际会展中心附近印刷厂,宝安印刷厂,宝安教材印刷厂 | 华药药业集团|华药修医师|修医师浸膏|河南华药药业有限公司 | 黑料网 - 黑料大事记-黑料门 黑料社最新 今日黑料 热门黑料 最新反差免费-黑料网今日黑料首页_黑料网 - 黑料大事记-黑料门 黑料社最新 今日黑料 热门黑料 最新反差免费-黑料网今日黑料首页 | 济南牛皮癣专科研究院_「济南市银屑病医院」_济南治牛皮癣医保医院_济南正规的银屑病医院 | 机械设备回收_二手机器回收_设备拆除回收_广州益美机械设备回收公司 | 膜结构车棚厂家-张拉膜景观棚-汽车充电桩停车棚-嘉兴铭邦膜结构公司 | 欧路哲门窗|佛山欧路哲门窗有限公司|专业门窗定制品牌 | 浙江健朗-舒华跑步机|公园运动器材|商用健身设备|户外健身器材厂家 | 河北万岁药业有限公司| 湖南净声源环保科技有限公司是一家专业从事噪声治理和建筑声学设计生态环境综合治理服务的企业,专业从事株洲电梯隔音治理,湘潭中央空调降噪处理,衡阳邵阳冷却塔噪音治理,岳阳常德大型风机噪声隔音降噪,张家界空压机噪声治理,益阳配电房变压器噪声治理,专业郴州永州工厂企业车间噪声治理,怀化娄底专业机械设备减振降治理,武汉噪音治理隔音降噪公司,孝感噪音治理,立式球磨机的噪声控制,专业隔音降噪公司,、以及各类机械动力设备减振降噪噪声治理的公司,同时为客户提供咨询与解决方案 | 天津翻译公司盖章|022-58385822| 翰文博译(天津)商务咨询有限公司 | 蒸汽孔板流量计-法兰式孔板流量计-一体化标准孔板流量计-金湖中原仪表有限公司 | 扬州华工电气有限公司|环氧树脂管|金刚石绝缘板|U型绝缘槽|电解槽绝缘材料 | 木材粉碎机,树枝粉碎机,木材破碎机厂家 | 上饶市蚂蚁搬家有限公司,上饶搬家公司,上饶同城搬家,上饶同城搬家电话,上饶搬家哪家好,上饶搬家公司电话 | 聚丙烯酰胺,聚合氯化铝,重金属捕捉剂,污泥调理剂,活性氧化铝,生石灰,反渗透阻垢剂,工业葡萄糖,硫酸铝,果壳活性炭,柱状活性炭,蜂窝活性炭,石英砂,锰砂-北京雁归来环保科技有限公司-以真诚为立足之本,以质量为生存之本,愿与海内外同仁共创双赢。雁归来人一路走来,气贯长虹,勇锐盖过怯弱,进取压倒苟安!我们紧扣时代脉搏,专注水处理、继往开来! | 鲁氏罗茨风机-三叶罗茨鼓风机厂家-沉水式鼓风机-[瑞柘环保] | 深圳浪琴维修服务中心_浪琴售后保养服务网点_地址 | 贴膜机厂家|高精度|手机贴膜机|全自动|半自动|无边覆膜机-深圳荷花自动化 | 行李快递安检机-便携式X光安检仪-行李安检机-液体-爆炸物探测仪-安天下安检设备 | 砂金设备-淘金机械-金矿选矿设备厂家-青州冠诚重工机械有限公司 砂浆生产线_干混砂浆设备_干混砂浆生产线-苏州一工机械有限公司 | 全自动清洗过滤器_网式盘式过滤器_石英砂过滤器_叠片过滤器-湖南多灵过滤系统科技有限公司 |