一. 清除冗余数据，优化字段结构

2000W数据中，能作为查询条件的字段我们是预知的。所以将这部分数据单独创建新的字段，对于有规则的数据合理改变字段结构，比如身份证就是varchar(18)。对于不重要的数据我们合并后存在一个结构为text的字段。

对于一些有关联的数据我们需要计算，常见的比如身份证种能获取到准确的性别，出生地、生日、年龄。

二. 数据迁移

我们从数据库中取出一条旧数据，再通过计算处理后得到想要的新数据，最后将新数据插入新表。不过在获取新数据时遇到如下问题。

1.数据量太大，无法一次获取（2000W数据扔到内存挺可怕的）；

我们可以通过MySQL的limit语法分批获取。比如每次获取50000，SQL语句如下：

select * from table_name limit 15000000,50000;

通过这种方法能解决数据量太大的问题，但是随着limit的第一个参数越来越大，查询速度会慢的吓人（上面这条SQL执行会花35秒）。

时间就是生命，于是我们开始优化SQL语句，优化后变成下面这样：

select * from table_name order by id desc limit 5000000,50000;

可通过二分法拆分2000W数据，当执行到1000W数据时，将数据倒序。优化后SQL执行效率显著提升，从35秒降到9秒；

不过还是很慢，时间就是生命……还好我们有自增ID（创建数据表第一条定律，一定要有自增字段），优化后的SQl如下：

1. select * from table_name where id>15000000 and id<15050000;
2. select * from table_name where id>15000000 limit 50000;

为了直观演示，我写了两条功能一样的SQL。相比第一条，第二条的limit会导致SQL的索引命中变差，效率同样也会下降。

第一条SQL的执行时间是2毫秒，第二条执行时间5毫秒（我取的平均值）。每次数据的查询速度直接从35秒降到2毫秒……

2.数据量太大并且数据无法预估，某些特殊数据会导致数据导入失败；

我们有三种方案去将新数据存入新表，分别如下：

2.1一条一条插入数据；

开始肯定会想这种方案一定不行，因为每次插入都会有一次数据库IO操作。但是该方案有个好处是能及时发现有问题的数据，修改后再继续执行；

在Oracle中使用『绑定变量』能带来性能提升，正好MySQL也提供了『绑定变量』的功能。于是在不改变逻辑的情况下，尝试优化数据存储速度。代码如下：

public function actionTest(array $data)
{
   $mysqli = new mysqli("192.168.1.106", "username", "password", "test");
   $sql = "insert into table_name(name,identity) values (?,?)";
   $stmt = $connection->prepare($sql);
   $name = "";
   $identity = "";
   //使用绑定变量
   $stmt->bind_param("si", $name, $identity);
   foreach($data as $val)
   {
      $name = $val[name];
      $identity = $val[card_id];
      //执行
      $stmt->execute();
   }
   $stmt->close();
}