2月18日，DeepSeek官方在海外社交平臺(tái)X上發(fā)布了一篇純技術(shù)論文報(bào)告，論文主要內(nèi)容是關(guān)于NSA（Natively Sparse Attention，原生稀疏注意力），官方介紹這是一種用于超快速長(zhǎng)文本訓(xùn)練與推理的、硬件對(duì)齊且可原生訓(xùn)練的稀疏注意力機(jī)制。具體來(lái)說(shuō)，NSA針對(duì)現(xiàn)代硬件進(jìn)行了優(yōu)化設(shè)計(jì)，能夠加速推理過(guò)程，同時(shí)降低預(yù)訓(xùn)練成本，且不犧牲性能。記者注意到，在這篇名為《原生稀疏注意力：硬件對(duì)齊且可原生訓(xùn)練的稀疏注意力機(jī)制》（Native Sparse Attention: Hardware-Aligned and Natively Trainable Sparse Attention）的論文署名中，DeepSeek創(chuàng)始人梁文鋒也作為共創(chuàng)在列。（第一財(cái)經(jīng)） (投資界) 下載投資界APP