プログラムというのは、極端にいえば単にテコであって、小さな仕事で大きな仕事を生み出すだけである。データが増えれば増えるほど、プログラムの効果は強くなる。

しかしプログラムはいつも期待通りに動くとは限らない。期待通りに動いていれば、小さな仕事で、大きな利益をあげることができるが、期待通りに動かなければ、大きな損失を出すことがある。プログラムにバグがあれば、全てのデータを同じ値に間違えてアップデートしてしまうかもしれない。

プログラムに大きなバグがないとしても、プログラムというのは単にテコであって、行動の善し悪しに関わらず、それを増幅する。プログラムを使う人が使い方を間違えれば、簡単に大きな損失を被ることになる。操作でミスをすれば、プログラムに何のバグがなくても、簡単にデータは消し飛ぶ。

データが増えれば増えるほど、リターンは増えるけど、リスクも増えていく、一つのミス (プログラムのバグであれ、操作ミスであれ) で起きる事故は大きくなる。