webdevqa.jp.net

ハッシュセットとリストのパフォーマンス

総称HashSet<T>クラスの検索パフォーマンスが総称List<T>クラスよりも高いことは明らかです。ハッシュベースのキーをList<T>クラスの線形アプローチと比較するだけです。

しかしハッシュキーを計算することはそれ自身でいくらかのCPUサイクルを要するかもしれないので、少量の項目のために線形検索はHashSet<T>の本当の代わりになることができます。

私の質問:損益分岐点はどこですか?

シナリオを単純化するため(そして公正に)、List<T>クラスが要素を識別するために要素のEquals()メソッドを使用すると仮定しましょう。

354
Michael Damatov

HashSet<T>が常にList<T>を上回ることが実際には速度が懸念されるサイズになると、多くの人が言っていますが、それはあなたがしていることによります。

あなたがList<T>を持っているとしましょう。それは今までに平均して5つのアイテムしか持っていません。多数のサイクルにわたって、各サイクルで単一の項目が追加または削除される場合は、List<T>を使用することをお勧めします。

私は自分のマシンでこれをテストしましたが、List<T>から利点を得るには非常に小さくなければなりません。短い文字列のリストの場合、サイズ20以降のオブジェクトの場合、サイズ5の後に利点がなくなりました。

1 item LIST strs time: 617ms
1 item HASHSET strs time: 1332ms

2 item LIST strs time: 781ms
2 item HASHSET strs time: 1354ms

3 item LIST strs time: 950ms
3 item HASHSET strs time: 1405ms

4 item LIST strs time: 1126ms
4 item HASHSET strs time: 1441ms

5 item LIST strs time: 1370ms
5 item HASHSET strs time: 1452ms

6 item LIST strs time: 1481ms
6 item HASHSET strs time: 1418ms

7 item LIST strs time: 1581ms
7 item HASHSET strs time: 1464ms

8 item LIST strs time: 1726ms
8 item HASHSET strs time: 1398ms

9 item LIST strs time: 1901ms
9 item HASHSET strs time: 1433ms

1 item LIST objs time: 614ms
1 item HASHSET objs time: 1993ms

4 item LIST objs time: 837ms
4 item HASHSET objs time: 1914ms

7 item LIST objs time: 1070ms
7 item HASHSET objs time: 1900ms

10 item LIST objs time: 1267ms
10 item HASHSET objs time: 1904ms

13 item LIST objs time: 1494ms
13 item HASHSET objs time: 1893ms

16 item LIST objs time: 1695ms
16 item HASHSET objs time: 1879ms

19 item LIST objs time: 1902ms
19 item HASHSET objs time: 1950ms

22 item LIST objs time: 2136ms
22 item HASHSET objs time: 1893ms

25 item LIST objs time: 2357ms
25 item HASHSET objs time: 1826ms

28 item LIST objs time: 2555ms
28 item HASHSET objs time: 1865ms

31 item LIST objs time: 2755ms
31 item HASHSET objs time: 1963ms

34 item LIST objs time: 3025ms
34 item HASHSET objs time: 1874ms

37 item LIST objs time: 3195ms
37 item HASHSET objs time: 1958ms

40 item LIST objs time: 3401ms
40 item HASHSET objs time: 1855ms

43 item LIST objs time: 3618ms
43 item HASHSET objs time: 1869ms

46 item LIST objs time: 3883ms
46 item HASHSET objs time: 2046ms

49 item LIST objs time: 4218ms
49 item HASHSET objs time: 1873ms

これがグラフとして表示されたデータです。

enter image description here

これがコードです:

static void Main(string[] args)
{
    int times = 10000000;


    for (int listSize = 1; listSize < 10; listSize++)
    {
        List<string> list = new List<string>();
        HashSet<string> hashset = new HashSet<string>();

        for (int i = 0; i < listSize; i++)
        {
            list.Add("string" + i.ToString());
            hashset.Add("string" + i.ToString());
        }

        Stopwatch timer = new Stopwatch();
        timer.Start();
        for (int i = 0; i < times; i++)
        {
            list.Remove("string0");
            list.Add("string0");
        }
        timer.Stop();
        Console.WriteLine(listSize.ToString() + " item LIST strs time: " + timer.ElapsedMilliseconds.ToString() + "ms");


        timer = new Stopwatch();
        timer.Start();
        for (int i = 0; i < times; i++)
        {
            hashset.Remove("string0");
            hashset.Add("string0");
        }
        timer.Stop();
        Console.WriteLine(listSize.ToString() + " item HASHSET strs time: " + timer.ElapsedMilliseconds.ToString() + "ms");
        Console.WriteLine();
    }


    for (int listSize = 1; listSize < 50; listSize+=3)
    {
        List<object> list = new List<object>();
        HashSet<object> hashset = new HashSet<object>();

        for (int i = 0; i < listSize; i++)
        {
            list.Add(new object());
            hashset.Add(new object());
        }

        object objToAddRem = list[0];

        Stopwatch timer = new Stopwatch();
        timer.Start();
        for (int i = 0; i < times; i++)
        {
            list.Remove(objToAddRem);
            list.Add(objToAddRem);
        }
        timer.Stop();
        Console.WriteLine(listSize.ToString() + " item LIST objs time: " + timer.ElapsedMilliseconds.ToString() + "ms");



        timer = new Stopwatch();
        timer.Start();
        for (int i = 0; i < times; i++)
        {
            hashset.Remove(objToAddRem);
            hashset.Add(objToAddRem);
        }
        timer.Stop();
        Console.WriteLine(listSize.ToString() + " item HASHSET objs time: " + timer.ElapsedMilliseconds.ToString() + "ms");
        Console.WriteLine();
    }

    Console.ReadLine();
}
739
innominate227

あなたはこれを間違って見ています。はい、リストの線形検索は少数のアイテムのためのHashSetを打ち負かします。しかし、パフォーマンスの違いは、通常、それほど小さいコレクションには関係ありません。それは一般的にあなたが心配しなければならない大規模なコレクションです、そしてそれはあなたがいるところです Big-Oに関して考えます 。しかし、HashSetのパフォーマンスの本当のボトルネックを測定したのであれば、ハイブリッドのList/HashSetを作成することを試みることができますが、それは実証的なパフォーマンステストを多数行うことで実現できます。

67
Eloff

2つの構造を比較しても意味がありませんperformance異なる動作をします。意図を伝える構造を使用してください。たとえあなたのList<T>が重複していないと言っても、繰り返しの順序がHashSet<T>に匹敵するようにしても問題ありませんが、それでもList<T>を使うほうが悪い選択です。

とは言っても、私はその他のいくつかの側面パフォーマンスについて調べます。

+------------+--------+-------------+-----------+----------+----------+-----------+
| Collection | Random | Containment | Insertion | Addition |  Removal | Memory    |
|            | access |             |           |          |          |           |
+------------+--------+-------------+-----------+----------+----------+-----------+
| List<T>    | O(1)   | O(n)        | O(n)      | O(1)*    | O(n)     | Lesser    |
| HashSet<T> | O(n)   | O(1)        | n/a       | O(1)     | O(1)     | Greater** |
+------------+--------+-------------+-----------+----------+----------+-----------+

* Even though addition is O(1) in both cases, it will be relatively slower in HashSet<T> since it involves cost of precomputing hash code before storing it.

** The superior scalability of HashSet<T> has a memory cost. Every entry is stored as a new object along with its hash code.This articlemight give you an idea.

53
nawfal

HashSet <>またはList <>のどちらを使用するかは、 コレクションにアクセスする方法。アイテムの順序を保証する必要がある場合は、リストを使用してください。そうでない場合は、HashSetを使用してください。ハッシュアルゴリズムとオブジェクトの実装についてMicrosoftに心配させます。

HashSetはコレクションを列挙せずにアイテムにアクセスし( O(1) またはその近くの複雑さ)、Listは順序を保証するので、HashSetとは異なり、いくつかのアイテムを列挙する必要があります(複雑さ) O(n)の)。

49
core

前回の回答を説明するために、さまざまなシナリオについていくつかのベンチマークを試してみましょう。

  1. 少数(12 - 20)の小さいストリング(5から10文字の長さ)
  2. 多数(〜10K)の小さな文字列
  3. いくつかの長い文字列(200から1000文字の間の長さ)
  4. 多数(〜5K)の長い文字列
  5. いくつかの整数
  6. 多くの(〜10K)整数

そして各シナリオについて、現れる値を調べます。

  1. リストの先頭( "start"、インデックス0)
  2. リストの先頭付近(「早い」、インデックス1)
  3. リストの途中( "middle"、インデックス数/ 2)
  4. リストの終わり近く( "遅い"、インデックス数-2)
  5. リストの末尾( "end"、インデックス数-1)

各シナリオの前に、ランダムなサイズのランダムな文字列のリストを生成し、各リストをハッシュセットに渡しました。各シナリオは10,000回実行されました。

(テスト疑似コード)

stopwatch.start
for X times
    exists = list.Contains(lookup);
stopwatch.stop

stopwatch.start
for X times
    exists = hashset.Contains(lookup);
stopwatch.stop

出力例

Windows 7、12GB RAM、64ビット、Xeon 2.8GHzでテスト済み

---------- Testing few small strings ------------
Sample items: (16 total)
vgnwaloqf diwfpxbv tdcdc grfch icsjwk
...

Benchmarks:
1: hashset: late -- 100.00 % -- [Elapsed: 0.0018398 sec]
2: hashset: middle -- 104.19 % -- [Elapsed: 0.0019169 sec]
3: hashset: end -- 108.21 % -- [Elapsed: 0.0019908 sec]
4: list: early -- 144.62 % -- [Elapsed: 0.0026607 sec]
5: hashset: start -- 174.32 % -- [Elapsed: 0.0032071 sec]
6: list: middle -- 187.72 % -- [Elapsed: 0.0034536 sec]
7: list: late -- 192.66 % -- [Elapsed: 0.0035446 sec]
8: list: end -- 215.42 % -- [Elapsed: 0.0039633 sec]
9: hashset: early -- 217.95 % -- [Elapsed: 0.0040098 sec]
10: list: start -- 576.55 % -- [Elapsed: 0.0106073 sec]


---------- Testing many small strings ------------
Sample items: (10346 total)
dmnowa yshtrxorj vthjk okrxegip vwpoltck
...

Benchmarks:
1: hashset: end -- 100.00 % -- [Elapsed: 0.0017443 sec]
2: hashset: late -- 102.91 % -- [Elapsed: 0.0017951 sec]
3: hashset: middle -- 106.23 % -- [Elapsed: 0.0018529 sec]
4: list: early -- 107.49 % -- [Elapsed: 0.0018749 sec]
5: list: start -- 126.23 % -- [Elapsed: 0.0022018 sec]
6: hashset: early -- 134.11 % -- [Elapsed: 0.0023393 sec]
7: hashset: start -- 372.09 % -- [Elapsed: 0.0064903 sec]
8: list: middle -- 48,593.79 % -- [Elapsed: 0.8476214 sec]
9: list: end -- 99,020.73 % -- [Elapsed: 1.7272186 sec]
10: list: late -- 99,089.36 % -- [Elapsed: 1.7284155 sec]


---------- Testing few long strings ------------
Sample items: (19 total)
hidfymjyjtffcjmlcaoivbylakmqgoiowbgxpyhnrreodxyleehkhsofjqenyrrtlphbcnvdrbqdvji...
...

Benchmarks:
1: list: early -- 100.00 % -- [Elapsed: 0.0018266 sec]
2: list: start -- 115.76 % -- [Elapsed: 0.0021144 sec]
3: list: middle -- 143.44 % -- [Elapsed: 0.0026201 sec]
4: list: late -- 190.05 % -- [Elapsed: 0.0034715 sec]
5: list: end -- 193.78 % -- [Elapsed: 0.0035395 sec]
6: hashset: early -- 215.00 % -- [Elapsed: 0.0039271 sec]
7: hashset: end -- 248.47 % -- [Elapsed: 0.0045386 sec]
8: hashset: start -- 298.04 % -- [Elapsed: 0.005444 sec]
9: hashset: middle -- 325.63 % -- [Elapsed: 0.005948 sec]
10: hashset: late -- 431.62 % -- [Elapsed: 0.0078839 sec]


---------- Testing many long strings ------------
Sample items: (5000 total)
yrpjccgxjbketcpmnvyqvghhlnjblhgimybdygumtijtrwaromwrajlsjhxoselbucqualmhbmwnvnpnm
...

Benchmarks:
1: list: early -- 100.00 % -- [Elapsed: 0.0016211 sec]
2: list: start -- 132.73 % -- [Elapsed: 0.0021517 sec]
3: hashset: start -- 231.26 % -- [Elapsed: 0.003749 sec]
4: hashset: end -- 368.74 % -- [Elapsed: 0.0059776 sec]
5: hashset: middle -- 385.50 % -- [Elapsed: 0.0062493 sec]
6: hashset: late -- 406.23 % -- [Elapsed: 0.0065854 sec]
7: hashset: early -- 421.34 % -- [Elapsed: 0.0068304 sec]
8: list: middle -- 18,619.12 % -- [Elapsed: 0.3018345 sec]
9: list: end -- 40,942.82 % -- [Elapsed: 0.663724 sec]
10: list: late -- 41,188.19 % -- [Elapsed: 0.6677017 sec]


---------- Testing few ints ------------
Sample items: (16 total)
7266092 60668895 159021363 216428460 28007724
...

Benchmarks:
1: hashset: early -- 100.00 % -- [Elapsed: 0.0016211 sec]
2: hashset: end -- 100.45 % -- [Elapsed: 0.0016284 sec]
3: list: early -- 101.83 % -- [Elapsed: 0.0016507 sec]
4: hashset: late -- 108.95 % -- [Elapsed: 0.0017662 sec]
5: hashset: middle -- 112.29 % -- [Elapsed: 0.0018204 sec]
6: hashset: start -- 120.33 % -- [Elapsed: 0.0019506 sec]
7: list: late -- 134.45 % -- [Elapsed: 0.0021795 sec]
8: list: start -- 136.43 % -- [Elapsed: 0.0022117 sec]
9: list: end -- 169.77 % -- [Elapsed: 0.0027522 sec]
10: list: middle -- 237.94 % -- [Elapsed: 0.0038573 sec]


---------- Testing many ints ------------
Sample items: (10357 total)
370826556 569127161 101235820 792075135 270823009
...

Benchmarks:
1: list: early -- 100.00 % -- [Elapsed: 0.0015132 sec]
2: hashset: end -- 101.79 % -- [Elapsed: 0.0015403 sec]
3: hashset: early -- 102.08 % -- [Elapsed: 0.0015446 sec]
4: hashset: middle -- 103.21 % -- [Elapsed: 0.0015618 sec]
5: hashset: late -- 104.26 % -- [Elapsed: 0.0015776 sec]
6: list: start -- 126.78 % -- [Elapsed: 0.0019184 sec]
7: hashset: start -- 130.91 % -- [Elapsed: 0.0019809 sec]
8: list: middle -- 16,497.89 % -- [Elapsed: 0.2496461 sec]
9: list: end -- 32,715.52 % -- [Elapsed: 0.4950512 sec]
10: list: late -- 33,698.87 % -- [Elapsed: 0.5099313 sec]
23
drzaus

損益分岐点は、ハッシュの計算コストによって異なります。ハッシュ計算は些細であろうとなかろうと..。

10
Walden Leverich

答えは、いつものように "それは依存します"です。私はあなたがC#について話しているタグから仮定します。

あなたの最善の策は、決定することです

  1. データセット
  2. 使用要件

そしていくつかのテストケースを書いてください。

また、リストのソート方法(ソートされている場合)、どのような比較を行う必要があるか、リスト内の特定のオブジェクトに対して "Compare"操作にかかる時間、さらには使用する方法によっても異なります。コレクション。

一般的に、選択するのに最適なものは、作業しているデータのサイズにはあまり関係がありませんが、アクセス方法についてです。各データは特定の文字列に関連付けられていますか、それとも他のデータですか?ハッシュベースのコレクションがおそらく最善でしょう。格納しているデータの順序は重要ですか。それとも、すべてのデータに同時にアクセスする必要がありますか。通常のリストの方が良いかもしれません。

追加:

もちろん、上記のコメントは「パフォーマンス」がデータアクセスを意味すると仮定しています。考慮すべき何か他のもの:あなたが「パフォーマンス」を言うとき、あなたは何を探していますか?性能個人価値は上がるか?大規模な(10000、100000以上)値セットの管理ですか?データ構造をデータで満たすのはパフォーマンスですか。データを削除しますか?個々のデータにアクセスする?値を置き換える?値を繰り返しますか?メモリ使用量?データコピー速度?たとえば、文字列値でデータにアクセスするが、主なパフォーマンス要件が最小限のメモリ使用量である場合、設計上の問題が競合している可能性があります。

6
Robert P

自動的にブレークポイントを検出し、null値を受け入れるようにHybridDictionaryを使用することができます。これはHashSetと本質的に同じです。

5
Muis

場合によります。正確な答えが本当に重要な場合は、プロファイリングをして調べてください。セット内に特定の数を超える要素が存在しないことが確実な場合は、リストを使用してください。数が無制限の場合は、HashSetを使用してください。

4
Adam Rosenfield

考慮しない1つの要素は、GetHashcode()関数の堅牢性です。完璧なハッシュ関数を使えば、HashSetは明らかにより良い検索性能を持つでしょう。しかし、ハッシュ関数が小さくなるにつれて、HashSetの検索時間も短くなります。

3
JaredPar

あなたがハッシュしているものに依存します。あなたのキーが整数であるならば、あなたはおそらくHashSetが速くなる前にそれほど多くのアイテムを必要としないでしょう。あなたがそれを文字列でキーイングしているなら、それは遅くなるでしょう、そして入力文字列に依存します。

きっとあなたはかなり簡単にベンチマークを完成させることができますか?

3
Peter

多くの要因に依存します。リストの実装、CPUアーキテクチャ、JVM、ループの意味、equalsメソッドの複雑さなど...リストが十分に大きくなり(1000以上の要素)、ハッシュベースのバイナリルックアップは線形検索を逆さまにし、差はそこから拡大するだけです。

お役に立てれば!

0
Kyle