スカラをベクトルで微分する
Eが損失関数などのスカラ、wが下のような重みベクトルだとする。
$$
\boldsymbol{w} =
\left(
\begin{array}{c}
w_1 \\
w_2 \\
\vdots \\
w_n \\
\end{array}
\right)
$$
このときスカラ(損失関数)を重みベクトルwで微分したものは、下のようなベクトルと同じ形状の、各要素が偏微分であるベクトルとなる。
$$
\frac{\partial E}{\partial \boldsymbol{w}} =
\left(
\begin{array}{c}
\frac{\partial E}{\partial w_1} \\
\frac{\partial E}{\partial w_2} \\
\vdots \\
\frac{\partial E}{\partial w_n} \\
\end{array}
\right)
$$
これは定義なので、証明はない。（なぜこうなるかなどは考えない）
また、ベクトルが横ベクトルの場合は、結果のベクトルも同様に横ベクトルになる。
