数据库中海量文件的批量转移方法

事情的经过是这样子的!数据库A表添加一条记录,**系统中B目录下就会多出5n个文件。随着系统运行3年多,B目录中的文件数已高达2M多,而这些文件恰恰又是用户高度频繁访问的。于是问题就来了,一方面是用户访问文件速度变慢了;另一方面是文件太多,很难维护。

怎么办呢?思许良久,发现A表中有个录入时间字段是不会变更的。如果截取录入时间的年份+月份组成,用来创建B目录下的子目录名,把当年当月新增的文件统一归档于该子目录下,不就可以吗?新增的文件好处理,可对于旧文件归档需要费点周折,因为文件得迁移到新的子目录里。

下面是关于文件迁移的主要代码:

 
 
 
 
  1.  static void Main(string[] args)   
  2. {   
  3.    string paperPath = ConfigurationManager.AppSettings["PaperBuildPath"];   
  4.   Console.WriteLine(string.Format("试卷目录:{0}", paperPath));   
  5.  Console.WriteLine();   
  6.   Console.WriteLine("目录是否正确? 正确请按任意键......");   
  7.   Console.WriteLine();   
  8.  Console.ReadKey();   
  9.   string[] files = Directory.GetFiles(paperPath);   
  10.  int num = 0;   
  11.   PublicExam[] list = Gateway.Default.FindArray<PublicExam>();   
  12.  foreach (PublicExam publicExam in list)   
  13. {   
  14.   foreach (string file in files)   
  15.     {   
  16.       //源文件名(去除路径后)   
  17.       string fileName = file.Split('\\').Last();   
  18.  if (fileName.StartsWith(publicExam.FGuid.ToString(), StringComparison.CurrentCultureIgnoreCase))   
  19.       {   
  20.          //目标文件夹   
  21.          string destFilePath = paperPath + publicExam.FInputTime.ToString("yyyyMM");   
  22.       if (Directory.Exists(destFilePath) == false)   
  23.            Directory.CreateDirectory(destFilePath);   
  24.       //目标文件名   
  25.        string destFileName = destFilePath + "\\" + fileName;   
  26.       if (File.Exists(destFileName))   
  27.           File.Delete(destFileName);   
  28.          Console.WriteLine(string.Format("正在迁移文件:{0}", fileName));   
  29.       //迁移文件   
  30.        File.Move(file, destFileName);   
  31.       num++;   
  32.        }   
  33.      }   
  34.     }   
  35.   Console.WriteLine();   
  36.  Console.WriteLine(string.Format("共迁移{0}个文件,请按任意键退出......", num));   
  37.    Console.ReadKey();   
  38.  }  

上面例子参考了MSDN 关于File Class 和 Directory Class 的使用方法。

执行效果图如下:

Tips:

目录名(年份+月份) 如:201101

c#   => DateTime.Now.ToString("yyyyMM")

SQL => convert(varchar(6),getdate(),112)

当然仅仅文件迁移是不够的,还有很多工作要做,比如修改程序;更新数据库表记录等等。我知道,这次“手术”不符合开放-关闭原则。

原文链接:http://www.cnblogs.com/hailibu/archive/2011/01/05/1926361.html

【编辑推荐】

带您了解Oracle文件系统机制

详解MongoDB实现存储物理文件和SQUID加速

对DB2外部文件格式的阐述

DB2外部文件格式浅析

Oracle数据库文件管理经验谈

 

THE END