Anton：有錢科學(xué)家研發(fā)的超級(jí)計(jì)算機(jī)

Sullivan Zheng

黑科技，還是要提 D.E.Shaw Research 這個(gè)奇異的存在。

要講這個(gè)黑科技，我們可能要扯遠(yuǎn)一點(diǎn)，先講講 D.E.Shaw 這個(gè)人是怎么學(xué)術(shù)、賺錢通吃，成為徹底的人生贏家。

D.E.Shaw 是個(gè)學(xué)霸，是 PhD 們的偶像：斯坦福大學(xué)計(jì)算機(jī)專業(yè)的博士，30 歲不到就進(jìn)入哥倫比亞大學(xué)做教授，專門研究超大規(guī)模并行計(jì)算。這已經(jīng)是優(yōu)秀的學(xué)術(shù)人生了。

但是 Shaw 覺(jué)得無(wú)聊。哥倫比亞大學(xué)地處紐約，遍地暴發(fā)的對(duì)沖基金男各種花天酒地，游嬉于各種 model 之間，作為一個(gè)同樣聰明的教授，卻只能坐在冷板凳上寫計(jì)算機(jī) model。雖然在科學(xué)家眼里，后者甚至還要更性感一些，但是時(shí)間長(zhǎng)了也……總之，Shaw 不干了。

于是他 1986 年放棄了鉆牛角尖的教授生涯，進(jìn)入華爾街著名投行摩根士丹利做 quant trading（可以通俗地理解為用計(jì)算機(jī)自動(dòng)炒股、債和外匯）。果然，呆博士不是搞政治斗爭(zhēng)的料子，在摩根士丹利這種錢多是非多、政治斗爭(zhēng)和技術(shù)斗爭(zhēng)同樣激烈的地方，僅僅 2 年之后他就在政治斗爭(zhēng)中失敗，被迫離開摩根士丹利（歡迎 quant trading 方面的達(dá)人來(lái)八卦，補(bǔ)全這一段故事）。但是這廝本來(lái)就不是池中物，同年，他就開辦了自己的對(duì)沖基金 D.E. Shaw & Co. LP.，專注 quant trading，利用高速計(jì)算機(jī)網(wǎng)絡(luò)和市場(chǎng)瞬間的有效性缺陷來(lái)進(jìn)行高頻統(tǒng)計(jì)套利。

和今天高頻交易人滿為患的情況不同：當(dāng)時(shí)計(jì)算機(jī)很破，內(nèi)存上兆的就是中型服務(wù)器了，計(jì)算機(jī)語(yǔ)言和組件也比較晦澀，不像今天這么普及和豐富，不會(huì)冒出來(lái)個(gè) 12 歲少年就能寫一個(gè)網(wǎng)站編一個(gè)游戲，然后對(duì)著 80 后的老頭子們說(shuō)你們不行之類的。因此，能掌握高速網(wǎng)絡(luò)編程和大型并行計(jì)算的人，除了能算彈道和模擬核爆之外，還能成為第一批做高頻交易的人，干的事情基本就是無(wú)風(fēng)險(xiǎn)套利——利用市場(chǎng)無(wú)效性，剪市場(chǎng)的羊毛，賺錢的速度僅僅取決于你能剪多快。

作為專門研究超大規(guī)模并行計(jì)算的頂級(jí)專家的 Shaw，率先殺入高頻交易，完全是流氓會(huì)武術(shù)，誰(shuí)也擋不住，剪羊毛速度世界一流，很快人生進(jìn)入了新的高峰。到 2015 年，他的個(gè)人凈值已經(jīng) 41 億美元（David Shaw - Forbes），殺入全球財(cái)富榜前 500。

說(shuō)了這么多，怎么還沒(méi)有談到計(jì)算化學(xué)？你別走，我現(xiàn)在就要說(shuō)這事了。

David Shaw 大叔 40 出頭財(cái)務(wù)自由，依照常人的想法，自然可以不再寫 model，而一頭扎進(jìn)紐約的花天酒地，去約會(huì)真的 model 了。

Geek 的基因在身體深處搖撼 Shaw 大爺功成名就之后的空虛神經(jīng)。他一個(gè)回馬槍殺回了科學(xué)世界，脫下西裝，露出了 Geek 的本色：

和《生活大爆炸》里的 Sheldon 不一樣，David Shaw 是一個(gè)破壞力驚人的土豪 geek。Shaw 現(xiàn)在再也不用跪舔 NIH、NSF 的官員，去討一點(diǎn)可憐的科研經(jīng)費(fèi)了。他想干什么就干什么；他覺(jué)得什么是前沿什么就是前沿。他拿出大規(guī)模并行計(jì)算的大砍刀，想找一個(gè)最需要計(jì)算但現(xiàn)今最不給力的領(lǐng)域一刀砍下去。

這里有個(gè)背景：計(jì)算化學(xué)發(fā)展了很多年，都處在有點(diǎn)尷尬的位置，說(shuō)得直白點(diǎn)——計(jì)算機(jī)還太弱，計(jì)算化學(xué)用于實(shí)際問(wèn)題中算不準(zhǔn)，精度還不如做實(shí)驗(yàn)。因此，無(wú)論在化學(xué)還是生物領(lǐng)域，做計(jì)算化學(xué)的不管是教授還是 PhD，要么選擇和實(shí)驗(yàn)的組合作，活在鄙視鏈的下游，要么躲到角落里小富即安地畫圈圈。

因此，Shaw 的大砍刀就落到了萎靡的計(jì)算化學(xué)上：他想制造一臺(tái)專門用于做計(jì)算化學(xué)的超級(jí)計(jì)算機(jī)，比現(xiàn)有的超級(jí)計(jì)算機(jī)強(qiáng)大幾千倍幾萬(wàn)倍。

很多人可能要問(wèn)，現(xiàn)在超級(jí)計(jì)算機(jī)動(dòng)輒就是幾十萬(wàn)個(gè) CPU 核心什么的，運(yùn)算能力很強(qiáng)大啊，為什么還要造計(jì)算化學(xué)的超級(jí)計(jì)算機(jī)呢？

答案是，一般的計(jì)算機(jī)是很聰明，但是不適合干計(jì)算化學(xué)這行。學(xué)術(shù)一點(diǎn)說(shuō)，是 general purpose computing 不能高效地來(lái)做分子動(dòng)力學(xué)模擬。

打個(gè)比方，現(xiàn)在的電腦就仿佛是個(gè)全能的機(jī)器人，你可以讓他去割麥子、做飯、踢球等等。讓他去干很多事情，他什么都能干，干得也比人快，確實(shí)也很聰明。這就是所謂的通用計(jì)算機(jī)（general purpose computing）：一個(gè)機(jī)器，寫不同的軟件，實(shí)現(xiàn)各種功能。

但是在割麥子這件事情上，這個(gè)全能機(jī)器人的速度很難超越專業(yè)的大型聯(lián)合收割機(jī)。因?yàn)榇笮吐?lián)合收割機(jī)雖然笨，但是完全為割麥子而生，因此硬件上量身定制，極度優(yōu)化。這就是所謂的特種計(jì)算機(jī)（special purpose computing）：專業(yè)定制機(jī)器，軟件也是專門定制的，只實(shí)現(xiàn)一個(gè)功能，但是兇殘而高效。

Shaw 就是要造一臺(tái)計(jì)算化學(xué)中的「大型聯(lián)合收割機(jī)」。這臺(tái)收割機(jī)，叫作 Anton。

它很貴很貴，但這正是 Shaw 的優(yōu)勢(shì)，反正他不泡妞不包二奶，錢花不完。況且，科研人員其實(shí)很便宜。

這里有一個(gè)好笑又辛酸的事情：和大眾的認(rèn)識(shí)恰好相反，在美國(guó)，純理科博士畢業(yè)之后大多數(shù)都找不到工作，雖然智商大都不低，但是如果想堅(jiān)持科研，做博士后的薪水只能勉強(qiáng)維持生活。

而 David Shaw 橫空出世，成為紐約的孟嘗君。他招了一群找不到工作的博士——這些人在經(jīng)濟(jì)上可以說(shuō)是純粹的屌絲——開出了 10 萬(wàn)美元一年的工資。

10 萬(wàn)美元一年是什么概念呢？這就是投資銀行二十一二歲小分析員的入門工資+獎(jiǎng)金，在華爾街上就是底層，外面穿著西裝，里面穿的可是開襠褲。但是對(duì)于這幫年屆三十的科學(xué)屌絲來(lái)說(shuō)，這是他們能找到研究崗位工資的 2～3 倍，是個(gè)做夢(mèng)都想不到的包養(yǎng)價(jià)。

于是一時(shí)間最頂尖的計(jì)算化學(xué)、生物物理、電子工程博士趨之若鶩，求 David Shaw 包養(yǎng)。

從 2004 年前后開始（請(qǐng)知情人指正），Shaw 成立的 DE Shaw Research（DESRES）開始正式運(yùn)營(yíng)。在 David Shaw 的精心包養(yǎng)下，30 多個(gè)失業(yè)的博士屌絲們什么也沒(méi)干，在優(yōu)雅的環(huán)境里，足足讀了一年半的論文，搞出了 Anton 的草圖。之后，更多的屌絲加入，全身心專注于 Anton 的研發(fā)。

2007 年，比預(yù)期還早了快一年，來(lái)自五湖四海的屌絲和 geek 們發(fā)布了 Anton 的第一代。計(jì)算化學(xué)的最大黑科技誕生了：它比一般的超級(jí)計(jì)算機(jī)快約 10,000 倍。比最好的超算也快 1,000 倍。

對(duì)的。變態(tài)的 10,000 倍，四個(gè)零，四個(gè)數(shù)量級(jí)。

10000 倍是什么意思呢？計(jì)算化學(xué)里面，模擬分子運(yùn)動(dòng)軌跡的持續(xù)時(shí)間的長(zhǎng)短是非常重要的。用模擬網(wǎng)球比賽來(lái)做類比：以前「超級(jí)計(jì)算機(jī)」算了一個(gè)月，我們只能模擬出擊球的 1 秒鐘的瞬間，而現(xiàn)在 Anton 出世，我們同樣花一個(gè)月，就可以模擬整場(chǎng)球賽中網(wǎng)球的軌跡了。

這是前所未有的超算能力，變態(tài)的「大型聯(lián)合收割機(jī)」，等于開了上帝視角啊親。

從 2007 年起，D.E.Shaw 的團(tuán)隊(duì)聲名鵲起，用這個(gè)收割機(jī)每年在國(guó)際頂尖的學(xué)術(shù)雜志《自然》和《科學(xué)》上灌水，學(xué)術(shù)聲譽(yù)不可阻擋。Anton 在手，高枕無(wú)憂，仿佛別人在地面用卷尺畫地圖，他們?cè)谔焐虾脚淖龅貓D?，F(xiàn)在他們又出了 Anton2，繼續(xù)吊打「過(guò)去 8 年中取得了長(zhǎng)足發(fā)展的」超級(jí)計(jì)算機(jī)。

也許純學(xué)術(shù)派對(duì)這種硬拼計(jì)算能力的方法表示不屑，但 D.E.Shaw 和他包養(yǎng)的 geek 們正用變態(tài)的 Anton 計(jì)算機(jī)把分子動(dòng)力學(xué)模擬大跨步地推向?qū)嵱谩?/p>

有錢就是任性。

網(wǎng)站：

D.E.Shaw Research

————科普結(jié)束————

關(guān)于 Anton 設(shè)計(jì)上的一些細(xì)節(jié)，參見 doi：10.1145/1273440.1250664。

關(guān)于 Anton 為什么能算這么快的一些細(xì)節(jié)，全部在下面這幾段話里，總結(jié)一下就是：整個(gè) MD simulation 的硬件計(jì)算被拆分成了硬件直接計(jì)算和可編程計(jì)算兩部分，兩者都是硬件實(shí)現(xiàn)的，速度比軟件實(shí)現(xiàn)要快萬(wàn)倍。各個(gè) node 之間通信也是特殊設(shè)計(jì)的超高速低延遲網(wǎng)絡(luò)，不是一般的網(wǎng)絡(luò)。

To simulate a millisecond within a couple of months, we must complete a time step every few microseconds, or every few thousand clock ticks. The sequential dependence of successive time steps in an MD simulation makes speculation across time steps extremely difficult. Fortunately, specialization offers unique opportunities to accelerate an individual time step using a combination of architectural features that reduce both computational latency and communication latency.

For example, we reduced computational latency by designing: 

· Dedicated, specialized hardware datapaths and control logic to evaluate the range-limited interactions and to perform charge spreading and force interpolation. In addition to packing much more computational logic on a chip than is typical of general-purpose architectures, these pipelines use customized precision for each operation.

· Specialized, yet programmable, processors to compute bond forces and the FFT and to perform integration. The instruction set architecture (ISA) of these processors is tailored to the calculations they perform. Their programmability provides flexibility to accommodate various force fields and integration algorithms.

· Dedicated support in the memory subsystem to accumulate forces for each particle.

We reduced communication latency by designing: 

· A low-latency, high-bandwidth network, both within an ASIC and between ASICs, that includes specialized routing support for common MD communication patterns such as multicast and compressed transfers of sparse data structures.

· Support for choreographed 「push」-based communication. Producers send results to consumers without the consumers having to request the data beforehand.

· A set of autonomous direct memory access (DMA) engines that offload communication tasks from the computational units, allowing greater overlap of communication and computation. l Admission control features that prioritize packets carrying certain algorithm-specific data types.

——————

發(fā)現(xiàn)喜歡這篇回答的人還挺多的。歡迎轉(zhuǎn)載，轉(zhuǎn)載請(qǐng)注明出處。

希望有更多的科學(xué)家出現(xiàn)，也希望有更多類似 D.E.Shaw 這樣的土豪科學(xué)家用黑科技摧枯拉朽地帶動(dòng)科學(xué)前進(jìn)。

歡迎留言，我會(huì)將知友知道的更多細(xì)節(jié)整合到我的回答當(dāng)中去，讓這個(gè)故事更加真實(shí)、豐滿和有趣。感謝知友 Anony mous 提供 Anton 論文全文，感謝知友王洋提供關(guān)于 DESRES 的更多故事。

2015-05-30