ディープラーニング シンプルなAttentionの解説 Attentionの論文 ※リンク先のPDFリンクをクリック※この論文ではAttentionという言葉は用いられていない attentionの意味は「注意」で、ディープラーニングの文脈でAttentionと言った場合、「注意機構」と呼ばれる... 2023.03.04 ディープラーニング
ディープラーニング ディープラーニング・機械学習・パターン認識を理解する上で押さえておきたい数式たち ディープラーニング(深層学習)、機械学習、パターン認識などを学習していると、突然現れ始めるベクトル(もしくは行列)と微分・積分が合体した下のような数式を解説していく。 $$ \frac{\partial E}{\partial \bolds... 2023.03.02 ディープラーニング
未分類 Transformer解説(言語モデル改造バージョン) 参考にした資料は思いつく限り一番最後に載せておきます。 ※Transformerの論文はこのリンク先のPDFというところをクリック この記事は未完成です。Transformerを理解するのに大事だと思うことから少しずつ書き足していきます。 ... 2023.02.28 未分類
未分類 モチベーションを保つ方法 タイミングを決める 何かをやると決めたら、1日のどのタイミング(時間)にやるのか決めてしまうと良い。 例えば勉強を夜8時から行うと決める。ついでにタイミングが決まったら、紙や付箋に「8時から勉強!」などと書いて、よく見えるとこに貼っておくの... 2023.02.28 未分類
未分類 行動を最適化する 行動というか習慣を最適化するのはメリットがあると思う。 簡単な最適化パラメータは行動を行う時間だ。 例えば、英単語などの暗記物は寝る前にやると良いらしい。 他にも自分の行動を行う最適な時間というのはあるはず。 -1 2023.02.27 未分類
未分類 三日坊主をやめる方法・継続する技術 下の本に全てが書いてあるので、ぜひ買って読んで欲しいですが、かいつまんで内容を紹介します。 Amazonで評価を見る 「過剰行動」と「不足行動」 まず継続したいことが過剰行動なのか不足行動なのか判断する必要があります。 過剰行動とは、喫煙な... 2023.02.27 未分類
未分類 ブログのモチベを保つ方法 記事をすぐに書けるようにブログと管理画面を(ブラウザのタブに)常に開いておく 完成度の高い記事を書こうとしない。ちょっとしたアイデアを書いた小さな記事でも良いので量産して後からそれらをまとめて集大成する -1 2023.02.27 未分類
ディープラーニング 無闇矢鱈と集めたディープラーニングの本の紹介 この記事は僕が無闇矢鱈と集めたディープラーニングに関する本を紹介していく記事です。厳選したと言うより、いろいろな需要に答えるため網羅性を重視しています。目次から自分の興味のある項目にジャンプすると読みやすいかもしれません。 ※ 随時追加しま... 2022.10.23 ディープラーニング機械学習
プログラミング ディープラーニング基礎知識まとめ(全結合層、ソフトマックス層、交差エントロピー誤差など) ディープラーニング基礎知識を復習のために全部アウトプットしました。全結合層、ソフトマックス層、交差エントロピー誤差、one-hotベクトルなどなど、手描きの図を使ってたくさん解説しています。もし間違っているところがあればコメントで教えてください。 2022.08.01 プログラミング機械学習