たしか、レイヤーはそのレイヤー自体の画像に対しての描画方法（＝色の重ねかた）を選択するもので
ブラシ側のモードに関しては一度のストロークに対してその効果が与えられるものだったと思います。
通常レイヤーで描画する場合の解説になっちゃいますが…
（塗りつぶしレイヤー＝マスクに対しての描写の描画だと
マスク自体がグレースケールしか描写できないため、効果が目立たないので）
例えば、赤色や青色などいろいろな色を使って透明なキャンバスに絵を描くとき
ブラシのモードが通常モードだと、色を何度塗り重ねても選択した色が書かれます。
ここで、ブラシのモードを乗算に変えると、色が塗り重なるような効果になるんです！
同じ色や似たような色で複数回ブラシを重ねたときは、色が重なりすぎないように処理されるみたいですが
画像を作ってみましたので、これでイメージを把握していただければ…
右側はマスク時のグレースケールのイメージのために用意して見ました。
乗算だと、赤いセロファンに青いセロファン、その上に黄色いセロファンを重ねたような色の乗り方ですね～。
ブラシのモードを乗算にしていた場合、白を選択すると何度クリックしても色が乗りません。
白は色をもっていないので、下の色が透けるだけの処理になるからです！
各モードの描画方法詳細は以下のページに書いていました！
