Attention may be all you *want*, but what you *need* is effective token mixing!
In which we replace Transformers' self-attention with FFT and it works nearly as well but faster/cheaper.
https://t.co/GiUvHkB3SK
By James Lee-Thorpe, Joshua Ainslie, @santiontanon and myself, sorta

Attention clearly works - but why? What's essential in it and what's secondary? What needs to be adaptive/learned and what can be precomputed?

The paper asks these questions, with some surprising insights.
These questions and insights echo other very recent findings like @ytay017's Pretrained CNNs for NLP
https://t.co/k0jOuYMxzz and MLP-Mixer for Vision from @neilhoulsby and co. (Like them, we also found combos of MLP to be promising).

More from All

Master Thread of all my threads!

Hello!! 👋

• I have curated some of the best tweets from the best traders we know of.

• Making one master thread and will keep posting all my threads under this.

• Go through this for super learning/value totally free of cost! 😃

1. 7 FREE OPTION TRADING COURSES FOR


2. THE ABSOLUTE BEST 15 SCANNERS EXPERTS ARE USING

Got these scanners from the following accounts:

1. @Pathik_Trader
2. @sanjufunda
3. @sanstocktrader
4. @SouravSenguptaI
5. @Rishikesh_ADX


3. 12 TRADING SETUPS which experts are using.

These setups I found from the following 4 accounts:

1. @Pathik_Trader
2. @sourabhsiso19
3. @ITRADE191
4.


4. Curated tweets on HOW TO SELL STRADDLES.

Everything covered in this thread.
1. Management
2. How to initiate
3. When to exit straddles
4. Examples
5. Videos on

You May Also Like

प्राचीन काल में गाधि नामक एक राजा थे।उनकी सत्यवती नाम की एक पुत्री थी।राजा गाधि ने अपनी पुत्री का विवाह महर्षि भृगु के पुत्र से करवा दिया।महर्षि भृगु इस विवाह से बहुत प्रसन्न हुए और उन्होने अपनी पुत्रवधु को आशीर्वाद देकर उसे कोई भी वर मांगने को कहा।


सत्यवती ने महर्षि भृगु से अपने तथा अपनी माता के लिए पुत्र का वरदान मांगा।ये जानकर महर्षि भृगु ने यज्ञ किया और तत्पश्चात सत्यवती और उसकी माता को अलग-अलग प्रकार के दो चरू (यज्ञ के लिए पकाया हुआ अन्न) दिए और कहा कि ऋतु स्नान के बाद तुम्हारी माता पुत्र की इच्छा लेकर पीपल का आलिंगन...

...करें और तुम भी पुत्र की इच्छा लेकर गूलर वृक्ष का आलिंगन करना। आलिंगन करने के बाद चरू का सेवन करना, इससे तुम दोनो को पुत्र प्राप्ति होगी।परंतु मां बेटी के चरू आपस में बदल जाते हैं और ये महर्षि भृगु अपनी दिव्य दृष्टि से देख लेते हैं।

भृगु ऋषि सत्यवती से कहते हैं,"पुत्री तुम्हारा और तुम्हारी माता ने एक दुसरे के चरू खा लिए हैं।इस कारण तुम्हारा पुत्र ब्राह्मण होते हुए भी क्षत्रिय सा आचरण करेगा और तुम्हारी माता का पुत्र क्षत्रिय होकर भी ब्राह्मण सा आचरण करेगा।"
इस पर सत्यवती ने भृगु ऋषि से बड़ी विनती की।


सत्यवती ने कहा,"मुझे आशीर्वाद दें कि मेरा पुत्र ब्राह्मण सा ही आचरण करे।"तब महर्षि ने उसे ये आशीर्वाद दे दिया कि उसका पुत्र ब्राह्मण सा ही आचरण करेगा किन्तु उसका पौत्र क्षत्रियों सा व्यवहार करेगा। सत्यवती का एक पुत्र हुआ जिसका नाम जम्दाग्नि था जो सप्त ऋषियों में से एक हैं।