在所有具有性能优化的数据结构中,我想大家使用最多的就是hash表,是的,在定位查找场景上具有O(1)的常量时间,多么的简洁优美,
但是在特定的场合下:
①:对10亿个不重复的整数进行排序。
②:找出10亿个数字中重复的数字。
当然我只有普通的服务器,就算2G的内存吧,在这种场景下,我们该如何更好的挑选数据结构和算法呢?
一:问题分析这年头,大牛们写的排序算法也就那么几个,首先我们算下放在内存中要多少G: (10亿 32)/(1024102410248)=3.6G,可怜的2G内存直接爆掉,所以各种神马的数据结构都玩不起来了,当然使用外排序还是可以解决问题的,由于要走IO所以暂时剔除,既然是数据结构和算法,所以高性能是必须的,想想可不可以在二进制位上做些手脚?比如我要对 {1,5,7,2}
这四个byte类型的数字做排序,该怎么做呢?大家知道byte是占用8bit,转变思路可以将数组中的值作为bit位的key,value用”0,1“来标识该key是否出现过?下面看图:
从图中我们精彩的看到,数组值都已经作为byte中的key了,最后我只要遍历对应的bit位是否为1就可以了,那么自然就成了有序数组。可能有人说,我增加一个13怎么办?很简单,一个字节可以存放8个数,那两个byte是不是就可以存16个数?刚好了覆盖了13个,画图如下:
可以看出我将一个线性的数组变成了一个bit位的二维矩阵,最终需要的空间仅仅是:3.6G/32=0.1G即可,要注意的是bitmap排序不是O(N)的,而是取决于待排序数组中的最大值,有时候必须要加速的话,可以开10个线程去读byte数组,那么复杂度为:O(Max/10)。
二:代码我想bitmap的思想大家都清楚了,这一次又让我们见证了二进制的魅力,当然这些移位都是位运算的工作了,熟悉了你就玩转了。
1:Clear方法(将数组的所有bit位赋值0)比如要将当前4对应的bit位赋值0的话,只需要1左移4位取反与B[0] & 即可。
/// <summary>
/// 初始化所用的bit位为0
/// </summary>
/// <param name="i"></param>
static void Clear(byte i)
{
//相当于 i%8 的功能
var shift = i & 0x07;
//计算应该放数组的下标
var arrindex = i >> 3;
//则将当前byte中的指定bit位取0,&后其他对方数组bit位必然不变,这就是 1 的妙用
var bitPos = ~(1 << shift);
//将数组中的指定bit位置一 “& 操作”
a[arrindex] &= (byte)(bitPos);
}
2:Add方法(将bit置1操作)同样也很简单,要将当前4对应的bit位赋值1的话,只需要1左移4位与B[0] | 即可。
/// <summary>
/// 设置相应bit位上为1
/// </summary>
/// <param name="i"></param>
static void Add(byte i)
{
//相当于 i%8 的功能
var shift = i & 0x07;
//计算应该放数组的下标
var arrindex = i >> 3;
//将byte中的 1 移动到i位
var bitPos = 1 << shift;
//将数组中的指定bit位置一 “| 操作”
a[arrindex] |= (byte)bitPos;
}
3:Contain方法(判断当前bit位是否是1)如果看懂了Clear和Add,我相信最后一个方法已经不成问题了。
/// <summary>
///判断当前的x在数组的位中是否存在
/// </summary>
/// <param name="i"></param>
/// <returns></returns>
static bool Contain(byte i)
{
var j = a[i >> 3] & (1 << (i & 0x07));
if (j == 0)
return false;
return true;
}
4. 最后上总的代码: using System;
using System.Collections.Generic;
using System.Linq;
using System.Text;
using System.Diagnostics;
using System.Threading;
using System.IO;
namespace ConsoleApplication2
{
public class Program
{
static byte n = 7;
static byte[] a;
public static void Main()
{
//节省空间的做法
a = new byte[(n >> 3) + 1];
for (byte i = 0; i<n; i++)
Clear(i);
Add(4);
Console.WriteLine("插入4成功!");
var s = Contain(4);
Console.WriteLine("当前是否包含4:{0}", s);
s = Contain(5);
Console.WriteLine("当前是否包含5:{0}", s);
Console.Read();
}
#region 初始化所用的bit位为0
/// <summary>
/// 初始化所用的bit位为0
/// </summary>
/// <param name="i"></param>
static void Clear(byte i)
{
//相当于 i%8 的功能
var shift = i & 0x07;
//计算应该放数组的下标
var arrindex = i >> 3;
//则将当前byte中的指定bit位取0,&后其他对方数组bit位必然不变,这就是 1 的妙用
var bitPos = ~(1 << shift);
//将数组中的指定bit位置一 “& 操作”
a[arrindex] &= (byte) (bitPos);
}
#endregion
#region 设置相应bit位上为1
/// <summary>
/// 设置相应bit位上为1
/// </summary>
/// <param name="i"></param>
static void Add(byte i)
{
//相当于 i%8 的功能
var shift = i & 0x07;
//计算应该放数组的下标
var arrindex = i >> 3;
//将byte中的 1 移动到i位
var bitPos = 1 << shift;
//将数组中的指定bit位置一 “| 操作”
a[arrindex] |= (byte) bitPos;
}
#endregion
#region 判断当前的x在数组的位中是否存在
/// <summary>
///判断当前的x在数组的位中是否存在
/// </summary>
/// <param name="i"></param>
/// <returns></returns>
static bool Contain(byte i)
{
var j = a[i >> 3] & (1 << (i & 0x07));
if (j == 0)
return false;
return true;
}
#endregion
}
}
非常简单的一个数据结构,您学会了吗?