· 2 分钟读完 · Read in English

练练你的关机肌肉 译文

直到看到 MoE 模型架构,我才明白冥想的好处:MoE 会告诉你该把哪些部分关掉。

直到看到 MoE 模型架构,我才明白冥想的好处。稠密模型里,所有参数时时刻刻都开着;而 MoE 会告诉你该把哪些部分关掉。如果你跟我有点像,你可能也有这样一些念头:哪怕什么事都没发生,它们也让你身心俱疲,怎么都静不下来。这种思考没什么用,甚至对你有害;也正因为它,等你真想好好学点东西的时候,脑子已经满了,或者没电了。冥想练的就是你的“关机肌肉”。它就像括约肌,能让你暂时憋住,不至于拉在裤子里(希望你现在没在吃饭)。

稠密模型里,所有参数时时刻刻都开着;MoE 会告诉你该把哪些部分关掉。

有一点挺微妙的:要做好这件事,你并不需要盘腿打坐,因为那得专门腾出时间,还得额外花力气才能开始。你只需要练习把念头关掉,哪怕只是很短的一瞬间——刷牙的时候,或者最关键的,冒出那些没有建设性的念头的时候。

注意,这是一个你能(或者至少有可能)控制的分类器,所以别去对抗那些突然冒出来的好点子,或者你对真正在乎的事情的分析。该静音(过滤掉)的念头,是那些明明没有任何危险、却让你没安全感的念头。经验法则是:如果你感到不安,又发现前一刻还没有这种感觉,而你的处境也没有任何根本性的变化,那这份担心就是多余的。

念头分类器
突然冒出来的好点子别对抗
你对真正在乎的事情的分析别对抗
明明没有危险时的不安全感静音(过滤掉)

顺便说一句,如果你是演员,需要体验人生的各种情绪,那在把某些负面情绪静音之前,还是得三思。

总之,把你的分类器训练好,日子可能会好过一些。

评论

  1. 正在加载评论…