Books - 機械学習エンジニアのためのTransformers

Metadata

• https://www.oreilly.co.jp/books/9784873119953/

• 買ったきっかけ

  • ChatGPTに感動して、なんとなく。

  • https://twitter.com/i/web/status/1642915144320827396

Reading Log

訳者まえがき～まえがき

• Transformer アーキテクチャはGoogleの研究者らによって提案され、特にNLP周りでいい感じの成果を上げている。

  • 2017 Attention Is All You Need - https://arxiv.org/abs/1706.03762

• Transformers はライブラリ。この本もTransformersの開発者たちによって書かれた。

• 事例の言及

  • https://github.com/features/copilot/

• NLPの研究者はセサミストリートが好き。

2023/04/09

機械学習エンジニアのための、とある通り、基礎知識が必要な本だということだけど、手探りで寄り道しながら読むのもいいかなと飛び込み読書。

Other References

• https://twitter.com/Masarina002/status/1628393230206390272 suggests other resources

  • ….

• https://twitter.com/heppoko/status/1639164424773832707 suggests

  • Books - ゼロから作るDeep Learning ―Pythonで学ぶディープラーニングの理論と実装

  • and 2

• Attention Is All You Need - https://arxiv.org/abs/1706.03762

  • …