C# 使用 SqlBulkCopy 類批量復制數據到數據庫
阿新 • • 發佈：2017-05-21
ger try 總結 settings 查詢 我會 pan 映射 未使用
最近公司需要優化導入的問題，由於之前使用的方式是生成 Insert 語句插入數據庫，數據量小的時候還行，但是隨著發展數據量漸漸大了，之前的方法性能就跟不上了，於是發現了 SqlBulkCopy 這個類。
使用 SqlBulkCopy 類只能向 SQL Server 表寫入數據。但是，數據源不限於 SQL Server；可以使用任何數據源，只要數據可加載到 DataTable 實例或可使用 IDataReader 實例讀取數據。
public class Conn { private static string StrConn {get { return ConfigurationManager.ConnectionStrings["StrConn"].ToString(); //return ConfigurationManager.AppSettings["StrConn"].ToString(); } } public static SqlConnection SqlConn { get {return new SqlConnection(StrConn); } } } public class SqlHelper { public DataTable GetDataTable(string sql) { DataTable dt = new DataTable(); SqlConnection conn = null; SqlDataAdapter sda = null; try { conn= Conn.SqlConn; sda = new SqlDataAdapter(sql, conn); conn.Open(); sda.Fill(dt); } catch (Exception ex) { } finally { if (conn != null) { conn.Close(); conn.Dispose(); } if (sda != null) { sda.Dispose(); } } return dt; } public DataSet GetDataSet(string sql) { DataSet ds = new DataSet(); SqlConnection conn = null; SqlDataAdapter sda = null; try { conn = Conn.SqlConn; sda = new SqlDataAdapter(sql, conn); conn.Open(); sda.Fill(ds); } catch (Exception ex) { } finally { if (conn != null) { conn.Close(); conn.Dispose(); } if (sda != null) { sda.Dispose(); } } return ds; } /// <summary> /// 使用事務插入方法 /// </summary> /// <param name="dt">源數據</param> /// <param name="tableName">目標表名</param> public void InsertO(DataTable dt, string tableName) { using (SqlConnection conn = Conn.SqlConn) { using (SqlBulkCopy sqlBuleCopy = new SqlBulkCopy(conn.ConnectionString, SqlBulkCopyOptions.CheckConstraints | SqlBulkCopyOptions.Default | SqlBulkCopyOptions.UseInternalTransaction)) { try { //設置目標表名，即數據庫表名 sqlBuleCopy.DestinationTableName = tableName; //設置每一批次的行數，即達到指定的行數就插入一次數據庫 sqlBuleCopy.BatchSize = 100000; //設置超時之前完成的時間（秒） sqlBuleCopy.BulkCopyTimeout = 3600; for (int i = 0; i < dt.Columns.Count; i++) { //設置源數據列與目標表的列的映射關系，第一個參數為源數據列，第二個參數為目標表列 sqlBuleCopy.ColumnMappings.Add(dt.Columns[i].ColumnName, dt.Columns[i].ColumnName); } sqlBuleCopy.WriteToServer(dt); } catch (Exception) { } } } } /// <summary> /// 未使用事務插入方法 /// </summary> /// <param name="dt">源數據</param> /// <param name="tableName">目標表名</param> public void InsertT(DataTable dt, string tableName) { using (SqlConnection conn = Conn.SqlConn) { using (SqlBulkCopy sqlBuleCopy = new SqlBulkCopy(conn)) { try { conn.Open(); //設置目標表名，即數據庫表名 sqlBuleCopy.DestinationTableName = tableName; //設置每一批次的行數，即達到指定的行數就插入一次數據庫 sqlBuleCopy.BatchSize = 100000; //設置超時之前完成的時間（秒） sqlBuleCopy.BulkCopyTimeout = 3600; for (int i = 0; i < dt.Columns.Count; i++) { //設置源數據列與目標表的列的映射關系，第一個參數為源數據列，第二個參數為目標表列 sqlBuleCopy.ColumnMappings.Add(dt.Columns[i].ColumnName, dt.Columns[i].ColumnName); } sqlBuleCopy.WriteToServer(dt); } catch (Exception) { conn.Close(); conn.Dispose(); } finally { conn.Close(); conn.Dispose(); } } } } }
我的源數據是使用 Excel 導入的數據，導入的方法就不說了，不是這裏的重點，之後我會專門總結一下 Excel 導入的方法。然後查詢目標表需要插入數據的字段，修改源數據表的字段名和類型，然後調用批量插入的方法。
protected void btnImport_Click(object sender, EventArgs e) { try { //獲取導入的數據 DataSet ds = BI.ExecleDs(savePath, ""); if (ds != null && ds.Tables.Count > 0) { DataTable dt = ds.Tables[0]; //查詢目標表需要插入的字段 string sql = " select U_No,U_Name,U_Pwd,P_Id from UserInfo "; DataTable dt1 = sqlhelper.GetDataTable(sql); if (dt1 != null) { for (int i = 0; i < dt1.Columns.Count; i++) { //修改源數據表的字段類型和字段名稱 dt.Columns[i].DataType = dt1.Columns[i].DataType; dt.Columns[i].ColumnMapping = dt1.Columns[i].ColumnMapping; dt.Columns[i].ColumnName = dt1.Columns[i].ColumnName; } sqlhelper.InsertO(dt, "UserInfo"); } } } catch (Exception ex) { throw; } }
如果源數據表的列和目標表的列的順序或列名不相同，那就必須使用 ColumnMappings.Add() 方法設置映射關系。
參考：
http://www.cnblogs.com/zfanlong1314/archive/2013/02/05/2892998.html
C# 使用 SqlBulkCopy 類批量復制數據到數據庫