《電子技術(shù)應(yīng)用》
您所在的位置:首頁 > 嵌入式技術(shù) > 設(shè)計應(yīng)用 > 歷史數(shù)據(jù)庫的設(shè)計與實(shí)現(xiàn)
歷史數(shù)據(jù)庫的設(shè)計與實(shí)現(xiàn)
2015年微型機(jī)與應(yīng)用第17期
王立爍,,張興波
(北京國際系統(tǒng)控制有限公司,,北京 100083)
摘要: 針對Wonderware平臺自帶的歷史數(shù)據(jù)服務(wù)無法滿足大量歷史數(shù)據(jù)同時存儲的問題,,對該平臺的歷史數(shù)據(jù)服務(wù)進(jìn)行了研究和分析,,在保證Wonderware平臺存儲歷史數(shù)據(jù)的正確性,、及時性和完整性的前提下,,結(jié)合Wonderware平臺與.NET能夠兼容的特性,,設(shè)計了一種新的歷史數(shù)據(jù)存儲方法,,使用C#語言完成了基于.NET的自定義歷史數(shù)據(jù)庫的開發(fā)并投入實(shí)際使用,,運(yùn)行效果良好。
Abstract:
Key words :

  摘  要: 針對Wonderware平臺自帶的歷史數(shù)據(jù)服務(wù)無法滿足大量歷史數(shù)據(jù)同時存儲的問題,,對該平臺的歷史數(shù)據(jù)服務(wù)進(jìn)行了研究和分析,,在保證Wonderware平臺存儲歷史數(shù)據(jù)的正確性,、及時性和完整性的前提下,結(jié)合Wonderware平臺與.NET能夠兼容的特性,,設(shè)計了一種新的歷史數(shù)據(jù)存儲方法,,使用C#語言完成了基于.NET的自定義歷史數(shù)據(jù)庫的開發(fā)并投入實(shí)際使用,運(yùn)行效果良好,。

  關(guān)鍵詞: Wonderware,;歷史數(shù)據(jù)服務(wù);自定義歷史數(shù)據(jù)庫,;C#

0 引言

  美國Wonderware公司創(chuàng)建于1987年4月,,致力于開發(fā)基于IBM PC及其兼容計算機(jī)的、應(yīng)用于工業(yè)及過程自動化領(lǐng)域的人機(jī)界面(HMI)軟件,,是一家領(lǐng)先的工業(yè)自動化與信息軟件解決方案供應(yīng)商[1],。Wonderware平臺是美國Wonderware公司為適應(yīng)嚴(yán)格的實(shí)時工業(yè)環(huán)境而開發(fā)的產(chǎn)品,其提供了一個工業(yè)化的應(yīng)用服務(wù),、一個強(qiáng)大的歷史數(shù)據(jù)庫服務(wù),、一個易于使用的信息服務(wù)、以及無與倫比的連通性[2],。但是在實(shí)際使用過程中發(fā)現(xiàn),當(dāng)歷史數(shù)據(jù)的數(shù)據(jù)量多到一定程度時,,該平臺自帶的歷史數(shù)據(jù)庫服務(wù)無法滿足同時存儲這些數(shù)據(jù)的要求,,歷史服務(wù)器的日志中會出現(xiàn)告警和錯誤。針對該問題,,本文深入研究了Wonderware平臺收集歷史數(shù)據(jù)的體系結(jié)構(gòu),,摒棄了平臺自帶的歷史數(shù)據(jù)庫服務(wù),并在此基礎(chǔ)上研發(fā)了一種新的歷史數(shù)據(jù)庫,,保證了在數(shù)據(jù)量巨大的情況下歷史數(shù)據(jù)仍然能夠正常進(jìn)行存儲,。

1 歷史數(shù)據(jù)存儲體系結(jié)構(gòu)

  1.1 Wonderware平臺配置歷史數(shù)據(jù)庫服務(wù)

  在Wonderware平臺的IDE中可以實(shí)現(xiàn)對整個平臺服務(wù)的配置,在Platfrom級別和Engine級別的對象下包含歷史數(shù)據(jù)服務(wù)的配置[3],。如圖1所示,,選中“Enable Storage To Historian”后,就開啟了歷史數(shù)據(jù)服務(wù)功能,,經(jīng)過正確配置后就可將該引擎下所有的歷史數(shù)據(jù)存入歷史服務(wù)器,。

001.jpg

  通過圖1中的幾個關(guān)鍵配置項,可以實(shí)現(xiàn)歷史數(shù)據(jù)的存儲,。其中Historian用來配置歷史數(shù)據(jù)服務(wù)器名稱,,Storeforward deletion threshold用來配置存儲轉(zhuǎn)發(fā)數(shù)據(jù)塊的刪除臨界值,Storeforward minimum duration用來配置存儲轉(zhuǎn)發(fā)最小間隔,,F(xiàn)orwarding chunk size用來配置轉(zhuǎn)發(fā)數(shù)據(jù)塊大小,。通過這些配置可以發(fā)現(xiàn),,Wonderware自帶歷史數(shù)據(jù)服務(wù)的關(guān)鍵是通過存儲轉(zhuǎn)發(fā)完成歷史數(shù)據(jù)的存儲,即通過簡潔的界面配置就可在系統(tǒng)各平臺內(nèi)進(jìn)行歷史數(shù)據(jù)存儲,。但是,,在實(shí)際運(yùn)行中發(fā)現(xiàn),當(dāng)Wonderware平臺接入的數(shù)據(jù)點(diǎn)非常多時,,歷史數(shù)據(jù)服務(wù)存在低概率出現(xiàn)錯誤的可能性,,會影響系統(tǒng)的正常使用。

  1.2 自定義歷史數(shù)據(jù)庫的數(shù)據(jù)存儲結(jié)構(gòu)

  數(shù)據(jù)庫連接是一種關(guān)鍵的,、有限的昂貴資源,,建立一個數(shù)據(jù)庫連接需要消耗大量系統(tǒng)資源,頻繁地創(chuàng)建數(shù)據(jù)庫連接會大大削弱應(yīng)用性能,,所以在自定義的歷史數(shù)據(jù)庫中,,如何盡可能減少數(shù)據(jù)庫的連接是關(guān)鍵所在。通過研究Wonderware平臺自帶的歷史數(shù)據(jù)服務(wù)可以發(fā)現(xiàn),,歷史數(shù)據(jù)通過存儲轉(zhuǎn)發(fā)策略進(jìn)行存庫,。同樣,在自定義歷史數(shù)據(jù)庫中也采用這種存儲轉(zhuǎn)發(fā)的策略,,使用ADO.NET技術(shù),,將系統(tǒng)接收的數(shù)據(jù)連續(xù)存入中轉(zhuǎn)文件[4],然后再將中轉(zhuǎn)文件內(nèi)容復(fù)制到歷史數(shù)據(jù)庫,,每一個中轉(zhuǎn)文件一旦被成功讀取并將數(shù)據(jù)存儲到數(shù)據(jù)庫后就被刪除,,這樣就在極大程度上節(jié)省了寶貴的數(shù)據(jù)庫資源,降低了系統(tǒng)負(fù)載,,杜絕歷史數(shù)據(jù)存庫的失敗,。本文中,在遙測對象中增加腳本程序,,使用接口函數(shù)接收數(shù)據(jù),,對數(shù)據(jù)進(jìn)行周期性和突發(fā)性地存儲,然后將數(shù)據(jù)存入本地文件,。在引擎中增加腳本程序,,使用接口函數(shù)獲取本地文件,將本地文件周期性存入歷史數(shù)據(jù)庫,,然后刪除已經(jīng)被讀取過的文件,。流程如圖2。

002.jpg

2 自定義歷史數(shù)據(jù)庫的設(shè)計

  Wonderware平臺以開發(fā)工具包的形式擴(kuò)展了Microsoft Visual Studio.NET,,并且在腳本中支持絕大部分 .NET函數(shù),。但是由于在腳本中進(jìn)行代碼編輯不方便,并且有些函數(shù)和類庫使用起來不如在.NET中簡單,,所以此處采用編寫外部函數(shù)庫的方法,,使用C#語言完成自定義函數(shù)庫的開發(fā),。數(shù)據(jù)庫平臺選用SQL Server。

  2.1 將歷史數(shù)據(jù)存入中轉(zhuǎn)文件

  歷史數(shù)據(jù)分為周期性存儲和突發(fā)性存儲,,定義周期性存儲間隔為5 s,,當(dāng)歷史數(shù)據(jù)發(fā)生突變并且變化范圍超過閾值時,進(jìn)行突發(fā)性存儲,。在每一個對象的Function Script中獲取數(shù)據(jù)后,,將數(shù)據(jù)用“,”分隔,,拼接成string類型的字符串,,先放在動態(tài)數(shù)組里。動態(tài)數(shù)組是C#提供的一種優(yōu)秀的數(shù)據(jù)結(jié)構(gòu),,可以動態(tài)地分配存儲空間,,而不是像普通數(shù)組那樣必須先定義好數(shù)組長度,所以使用List可以有效節(jié)省內(nèi)存,。

  代碼如下:

  string combinedata=time+“,,”+name+“,”+value+“,,”+quality,;

  public static List<string> Liststr=new List<string>();

  Liststr.Add(combinedata),;

  中轉(zhuǎn)文件可以采用多種格式,,此處采用TXT文件,按照存儲周期為1 min將數(shù)組存入TXT文件,。TXT文件被特定的命名格式(如“站名-點(diǎn)名-時間精確到分”)存放在D盤的名為“Data”的文件夾下,。代碼如下:

  string Path="D:\\中轉(zhuǎn)文件\\Engine_"+EngineName+"_當(dāng)前時間"+"("+DateTime.Now.ToString("yyyyMMdd_HHmm")+").txt",;//時間精確到分鐘

  2.2 將中轉(zhuǎn)文件數(shù)據(jù)存入數(shù)據(jù)庫

  如果是用readline方法來逐行讀取TXT中的數(shù)據(jù)無疑是最容易被想到的辦法,,但是這樣會大大降低數(shù)據(jù)存儲速度,并且會持續(xù)性占用大量數(shù)據(jù)庫連接資源,。所以需要一種更加優(yōu)化的方法來進(jìn)行數(shù)據(jù)的存儲,。

  利用ADO.NET中的Datatable技術(shù)和SqlBulkCopy類,將TXT文本文件中的數(shù)據(jù)存儲到數(shù)據(jù)表中,,然后將數(shù)據(jù)表中的數(shù)據(jù)復(fù)制到數(shù)據(jù)庫中,。雖然使用SqlBulkCopy類只能向SQL Server表寫入數(shù)據(jù),但數(shù)據(jù)源不限于SQL Server,,可以使用任何數(shù)據(jù)源,,只要數(shù)據(jù)可加載到DataTable實(shí)例或可使用IDataReader實(shí)例讀取數(shù)據(jù)即可[5]。此方法可以大量節(jié)省數(shù)據(jù)庫資源,,是一種高效的處理方式,。

  創(chuàng)建DataTable實(shí)例:

  DataTable dt=new DataTable(),;

  dt.Columns.Add(new DataColumn("時間"));

  dt.Columns.Add(new DataColumn("名稱")),;

  dt.Columns.Add(new DataColumn("數(shù)據(jù)")),;

  dt.Columns.Add(new DataColumn("質(zhì)量"));

  …

  SqlBulkCopy將DataTable復(fù)制到數(shù)據(jù)庫中:

  System.Data.SqlClient.SqlBulkCopy sbc=new

  System.Data.SqlClient.SqlBulkCopy(SQL

  ConnectionString),;

  {

  …

  sbc.BulkCopyTimeout=5000,;

  sbc.BatchSize=dt.Rows.Count;

  sbc.DestinationTableName="中轉(zhuǎn)文件",;

  sbc.WriteToServer(dt),;

  …

  }

3 結(jié)束語

  使用C#語言設(shè)計的基于.NET平臺的歷史數(shù)據(jù)庫具有存儲速度快、占用資源少,、保證數(shù)據(jù)完整性的優(yōu)點(diǎn),,與Wonderware自帶的歷史數(shù)據(jù)庫服務(wù)相比具有更優(yōu)良的海量數(shù)據(jù)存儲性能。目前該數(shù)據(jù)庫已經(jīng)應(yīng)用到遠(yuǎn)動監(jiān)控系統(tǒng)中,,運(yùn)行效果良好,。

  參考文獻(xiàn)

  [1] Invensys Systems, Inc. Alarm toolkit guide[R]. UK: Invensys Systems,, Inc,, 2009.

  [2] Invensys Systems, Inc. IT alarms and events[R]. UK: Inven sys Systems,, Inc,, 2009.

  [3] Anon. Wonderware[EB/OL]. (2013-12-19)[2015-05-10]. http://www.baike.baidu.com.

  [4] NAGEL C.Professional C#4 and .NET 4[M].李銘,譯.北京:清華大學(xué)出版社,,2010.

  [5] 張奇,,李律松,衛(wèi)建偉,,等.Visual C#數(shù)據(jù)庫項目案例導(dǎo)航[M].北京:清華大學(xué)出版社,,2005.


此內(nèi)容為AET網(wǎng)站原創(chuàng),未經(jīng)授權(quán)禁止轉(zhuǎn)載,。