我学习俄语的主要动机是能够利用互联网上的俄语资源。我的打算就是简单地入个门，就像之前选过通识课《法语二外》一样，把语音文字系统搞明白：基本要求是遇到单词可以流利地拼出来（可以不知道意思）。这比每次查东西只会复制粘贴、丢到谷歌翻译好，还能积累一些单词。 我参考的教材是《大学俄语》。和《简明法语教程》如出一辙，前八课也是语音入门课。教材的模式是一课一课地学，每一课混杂了语音、语法、生词各种知识...

本文总结流行音乐（或普通、常见的音乐)中的和声知识。整理此文的目的是能够系统地掌握流行音乐中的和声技巧，能够从理论级别听懂歌曲中的和声。 说得更直接一点的话，就是为了系统掌握配和弦（harmonization）的方法，配和弦是为了用和声乐器（吉他、键盘、手风琴等）给歌曲伴奏。我自小便试图为各种歌曲配和弦，并在电子琴上以自动和弦的方式弹出来，积累了一些经验，这个事情在我这篇文章中有提过。而我...

本文介绍音阶，主要是推导如何系统地分类各种音阶。 构成一个音阶有几个要素： 主音（tonic）：即音阶的起点音，决定了音阶的调（key）； 相邻音的排列方式：音阶是从主音开始，按照一定的间隔排列方式，向上推演得到的。 主音决定绝对音高，排列方式决定色彩、和声功能（相对音高）。以下不讨论主音（可以都假设主音为 C），而讨论有哪些排列方式。 音阶一般要保证周期性，周期通常是一...

深度学习并不是搭了模型喂了数据就保证出货的，训练过程的各种细节需要仔细处理，通过加一些 trick，才能训得好的模型，有很多经验上的东西。本文是《学习笔记：深度学习训练理论知识》的实践篇，按照该笔记的顺序组织。 一、激活函数 激活函数一般的选择经验 ：ReLU > ReLU 变种 > Tanh > Sigmoid。 无特别情况一般选 ReLU 即可； ...

本文统一整理深度学习的训练细节的理论知识，算是给以后的科研实践打基础。具体的实践经验见另一篇笔记：《深度学习训练实践经验》。 本文按训练流程分几个主题，包括激活函数的选择、数据预处理、参数初始化、优化器的选择、超参数优化等等。我将在每个主题中介绍该主题的理论，介绍其中的各种方法、trick 及其优缺点，最后介绍实际项目中的实践经验。另外过拟合、欠拟合是深度学习的大问题，将单独抽出一章来讲解...

众所周知，Python 环境配置是一个大坑，很多人就莫名其妙地在电脑里装了大大小小十几个 Python 环境也不知道。看看这张梗图就明白了。 我也经历过这样的事情。本文就简要记录一下自己的配置历史，并留一份当前的环境状态作为备忘。 一、个人电脑（Mac 系统） 吐槽 刚买回手里的这台 MacBook 后就迫不及待去官网把 Python 装了，用 pip 装了几个包一跑程序没问题，...

本文总结一下深度学习科研里的一些常识，指的是非具体知识或技术的方法论性质的东西，涉及科研流程、论文发表等大方面。我重点介绍深度学习科研特有的，当然也有一些是所有专业科研都会涉及的。（感觉我整理癖有点强啊，连这都要整理……不过也好了，闲着没事整理一下还是对自己有好处，虽然自己还没有什么科研成果 Q_Q）希望这篇总结可以帮助到即将进入深度学习这行科研的朋友，或者纯粹对我们这行科研好奇的朋友。 ...

经典外行人疑惑 下面这些问题大概是外行人的经典疑惑，也是我在接触深度学习领域前长期悬而未决的问题。但很多事情用下面这几个 QA 就说清楚了。 Q：为什么要学习使用 Linux 系统？ A：因为要用研究组里的服务器，服务器一般是 Linux 系统。 Q：服务器是什么？ A：就是一台配置高得很的电脑，它干起活来效率很高。 Q：你用服务器做什么？ A：做深度...

本文汇总了我学习或教学数学课程时曾经做的总结性笔记，大家有需要的话可以参考。我是数学专业出身，本科阶段有复习专业课时写总结的习惯，当时是手写在草稿纸上然后扫描得到的，如有不清楚请谅解。第一个是当助教时做的复习提纲，也放进来了。 目录 高等数学D：复习提纲 高等数学D：串讲教案 数学分析：曲线积分与曲面积分总结 数学分析：无穷级数总结 数学分析：函数项级数总结 ...

Conda 几乎是深度学习领域必备的工具，以后做科研一定会用到。今天就系统学习一下。 Conda 官方文档：https://docs.conda.io 一、Conda相关概念 我觉得很多初学者分不清 Conda、Anaconda 等之间的区别，这里就先把概念整理明白吧。 Conda 是一个包管理工具，最主要的功能是方便管理一个计算机里安装的不同环境。使用的场景举例： 写某代...