如安在東說念主工智能商量中產生影響力：Omar Khattab的教師共享

在學術界，撰寫論文只不外是邁出的第一步，簡直的挑戰在于如何構想和開展一項有用的商量。瀕臨照舊競爭濃烈的東說念主工智能鴻溝，許多商量生時常墮入陰晦，至極是在如何進行內容性的商量方面。東說念主們精深認為，萬古期的神氣、合理的代碼發布和空洞的基準測試難以帶來滿盈的激勵，使得許多商量者在完成某些“快速”的小神氣后，從頭回到“簡直的”商量中去。近日，斯坦福大學當然言語處理組的博士生Omar Khattab在一則博文平共享了頂尖AI學者如何進行有影響力商量的觀點，接下來就來望望他的建議。

有影響力的科研應該通過開源職責的效用來斟酌，比如模子、系統和框架等。我但愿通過這篇著述來完善我的想法，記載一些具體建議，并飽讀吹全球在評述區同樣。若是你有不容許見，接待參謀。接下來是我追想的幾個伙同原則。

專注于神氣，而非發表論文

這是一個至極熱切的理念，是其他一切的基礎。許多外行商量生至極關心我方的初度發表，這是不錯清醒的，這是他們學習商量、探索主張以及展示早期成立的步地。關系詞，長期來看，你的成立與個東說念主成長并不應只是依賴于多篇論文的數目，而是要關心商量所帶來的全體影響力。踐諾上，許多博士生通常認為產生影響的步地皆是“不值得插足的”，這讓我感到困惑，直到我意志到他們的擔憂其實在于這可能延長他們下一篇論文的發表。趕緊發表下一篇論文的熱切性并莫得遐想中那么高。問題是，你需要凝視我方行將開展的更大愿景，它所觸及的子鴻溝是什么？你的商量但愿帶來如何的不同？因此，要將每一篇論文視作全體愿景的構成部分，而非孤苦的效用，更大愿景必須卓越單篇論文，并關心尚未澈底處置的問題。圍繞你在開源鴻溝所開采的連貫職責，變成一些籌論說文會很有匡助。這種步地比起“作念幾個實驗，發個倉庫”來說老本較高，但不錯促使你去關心簡直專誠想道理的問題，確保新商量踐諾連貫且實用。

選擇具有后勁的問題

并非每一篇論文皆值得投資。許多論文只是一次探索，而咱們應該尋找不錯振蕩為較大神氣標商量主張。領先，問題必須是前沿的。搜檢東說念主工智能的熱門發展，關心那些在2-3年內能成為主流但當今仍處于“冷門”的問題。其次，問題應有平日的影響。你關心的主題應該大要就業于更多東說念主，或者對他們的商量和踐諾應用提供匡助。再次，問題要留有滿盈的膨脹空間。若是你大要提議問題，讓東說念主們關心到可能通過起勁殺青顯赫的栽種，比如效用能提高20%或更多，而不是不足輕重的小幅栽種，那就具有很大價值。

以ColBERT為例，2019年底，基于BERT的檢索技巧成為了商量熱門，但這些技巧的老本至極高，全球自關系詞然會敬愛如何栽種這類技巧的效用。它有遠景，因為不錯合理臆度到2021年，將會有越來越多的商量者會尋找基于BERT的高效檢索架構，并且，這類問題的潛在應用面廣，比如大部分東說念主皆但愿栽種檢索的效用，而不單是是個別鴻溝的需求。

提前想考，快速迭代

在選擇到相宜的問題后，切忌急于領受目前的技巧。這種時候，至少應該提前兩步想考。推敲到待處置的問題在已往成為主流的情況下，選擇解救全球的大精深可能處置旅途，識別出這條說念路的局限性。而在執行中，咱們不錯參考ColBERT的例子，詐欺BERT構建高效檢索器的直不雅技巧是將文檔編碼為向量。關系詞，直到2019年底，唯有一小部分的商量體驗到了這么的效果。若是咱們大要提前想考，就能意志到，跟著全球皆運行朝這一主張發展，單矢量技巧會帶來哪些根人性的罷休。

再來看一個案例，2022年2月，跟著提醒功能愈演愈熱，東說念主們運行尋找通過提醒來進行基于檢索的質料保證的技巧。在咱們想考可能出現的退卻之后，咱們不錯貪圖出一種有用的技巧，這便是DSPy。導師Matei Zaharia給我建議，快速迭代一個能贏得反映的問題會顯赫栽種處置障礙的可能性。這一教師關于商量生來說尤為熱切，因為開源商量的勝利不僅在于你發文的時機，更在于你給出的反映和互動。

讓想法深切東說念主心

當你發現了一個好問題，不妨專注于將效用展示給巨匠，而不是一味地追求下一篇論文。通過開源神氣與他東說念主積極互動，傳播你的想法，時常能讓你的商量產生更大的效果。常見的起步是領先在arXiv上發布預印本，再通過帖子將商量效用公之世人。在發布內容時，要確保這些內容具有針對性，能讓讀者以為你的商量值得關心。此時，發布新內容只是一個運行，發布的情景并不料味著終結，它是捏續與社區互動的早先。許多學生剛發布時并未受到滿盈關心，而這并不料味著他們的職責莫得價值。在迎難而上的探索中，好的想法需要屢次傳播，直到這個鴻溝漸漸清醒和認同。

追想

開源商量的勝利在于能否將優質商量效用振蕩為簡直的器具，帶來捏久的影響。這需要在雙重法式下進行，即進行改進且具備可行性的孝順。在這一流程中得到的回饋與資格對我而言十分可貴。科研的改進是在于對比先前效用所帶來的“增量”，而贏得平日應用的前提是這些器具自己的有用性和可用性。切記，根底主張不僅在于發布商量，更多的是要在這個流程中不斷學習，尋求逾越，創造出更多的可能性。將時間插足到開源神氣中，不僅能讓你發現新的商量問題開云kaiyun.com，更能引發新的和諧契機，為已往的商量奠定堅實基礎。