Skip to content

2023 年 3 月 18 日交流

由于五一假期刚过,我在上周以游玩为主,学习的并没有太多,因此问题也没有太多。以下为本周和丁老师的聊天:

Q & A

Q1: 《深度学习入门》那本书里面,只介绍了用于训练神经网络的方法,而没有介绍为什么要使用这些方法。

A1:神经网络学习的方法和控制论类似,内部很混沌,所以往往需要通过调参来进行最优化。

和微积分一样,先有 intuition,再通过实践发现很好用,才有理论,而且理论也不是一蹴而就的。以微积分学为例,相对完备的理论(基于实数理论)直到 100 多年后才出现。

机器学习毕竟不是纯数学,不能够纯粹依托理论,还需要实践进行验证。一味追求理论(中的某个片面)最优是不可取的。 - 比如,有些理论上最坏情况可能很坏的,实践起来其实不差

建议

亚运会

可以参加杭州亚运会志愿者。丁老师当时大一时,恰逢北京奥运会,但是他没有参加(准确的说,是申请失败),他的舍友参加了,收获良多(下面将介绍),他还是后悔的。

如果你去参加了,即使在暑假不去进行科研,也可以

收获: 1. 见识不同地区的人,长见识 2. 有和不同国家的人打交道的机会