2019年12月8日，機器學(xue)(xue)習領域國際頂級會(hui)(hui)議NeurIPS于加拿大(da)溫哥華(hua)拉開帷幕，吸引了(le)全球13000余(yu)名專(zhuan)家學(xue)(xue)者(zhe)(zhe)共赴盛會(hui)(hui)。本年度，自然語言處理領域在深度學(xue)(xue)習浪潮下取得了(le)顯著成就，成為大(da)會(hui)(hui)的(de)重要(yao)議題之一(yi)。百度也成為本屆大(da)會(hui)(hui)的(de)重度參(can)與者(zhe)(zhe)，向各國參(can)與者(zhe)(zhe)展(zhan)示了(le)其最新的(de)NLP技(ji)術。
本(ben)屆(jie)NeurIPS大會共(gong)收(shou)到(dao)6743篇論(lun)文投稿，兩年時間(jian)翻了(le)一番。其(qi)中1428篇論(lun)文入選，入選率僅21.1%。百度共(gong)有8篇論(lun)文被(bei)收(shou)錄，覆蓋量化壓縮、對抗(kang)訓練等諸多前沿方向。
競(jing)賽(sai)方面，在NeurIPS 2019: Learn to Move強(qiang)化學習賽(sai)事中百度(du)(du)(du)再度(du)(du)(du)蟬聯(lian)冠軍(jun)，并受邀在Deep RL workshop中進行專(zhuan)題報告。本次比賽(sai)的(de)難度(du)(du)(du)非常大，在參賽(sai)的(de)近300支隊伍中，僅有(you)3支隊伍完(wan)成了最后挑(tiao)戰。百度(du)(du)(du)基于飛槳(jiang)的(de)強(qiang)化學習框(kuang)架PARL不僅成功(gong)完(wan)成挑(tiao)戰，還大幅領先第二(er)名（1490vs1346）。除(chu)了在Best Performance Track獲得(de)了第一，相關技術論文也在該賽(sai)事的(de)Machine Learning Track中獲得(de)了Best Paper Reward。
百(bai)(bai)度(du)(du)舉(ju)辦了(le)自然語(yu)言處理專題研討會，百(bai)(bai)度(du)(du)技術委(wei)員會主(zhu)(zhu)席、自然語(yu)言處理首席科(ke)學家吳華博士以及多名研究員和工程師，向現場參會者(zhe)全(quan)(quan)面介紹了(le)百(bai)(bai)度(du)(du)在這一領域(yu)的長期積累與全(quan)(quan)新突(tu)破(po)。基于具(ju)有完全(quan)(quan)自主(zhu)(zhu)知識產權的飛槳(jiang)平臺(tai)，百(bai)(bai)度(du)(du)自然語(yu)言處理在語(yu)義計算、閱讀理解(jie)、多輪(lun)對話、機器翻(fan)譯、開放平臺(tai)與數據等(deng)方向均(jun)取得了(le)突(tu)破(po)性進(jin)展(zhan)，并進(jin)行了(le)大規(gui)模(mo)產業(ye)化(hua)應用。
預(yu)訓(xun)練方面，百度(du)(du)提出(chu)知(zhi)識增強的語義(yi)表(biao)示模型ERNIE及持續學(xue)習(xi)語義(yi)理解框架(jia)ERNIE2.0，在(zai)共計16個中英文(wen)任(ren)務上超越BERT、XLNET，取(qu)得了 SOTA 的效果。11月，百度(du)(du)發布基(ji)于(yu)ERNIE的語義(yi)理解開(kai)發套件(jian)。從原(yuan)理、應用到開(kai)源及平(ping)臺化，百度(du)(du)在(zai)NLP預(yu)訓(xun)練領域進行了極具價值的創新及實(shi)踐。
機(ji)器(qi)閱(yue)讀理解(jie)，已(yi)成為評(ping)估機(ji)器(qi)語言理解(jie)能(neng)力的(de)重要(yao)方(fang)式，也是搜索(suo)引擎和對話系統等行業應用中的(de)關鍵(jian)技術。百(bai)度(du)建設及發(fa)布了最大(da)規(gui)模的(de)中文閱(yue)讀理解(jie)數據集DuReader；在(zai)泛(fan)化(hua)方(fang)面提出訓練框架D-NET，從多模型(xing)融合、多任(ren)務(wu)學習的(de)角度(du)提升模型(xing)的(de)泛(fan)化(hua)能(neng)力；
對于對抗樣本的攻擊，提(ti)(ti)出(chu)了(le)一種面向閱(yue)讀(du)理解的對抗訓練方(fang)法；提(ti)(ti)出(chu)文本表示和知識表示的融合模型(xing)KT-NET，以解決需要外部知識和常識的問題。其(qi)中具(ju)有高魯(lu)棒性和遷(qian)移能力的閱(yue)讀(du)理解模型(xing)在2019年MRQA閱(yue)讀(du)理解評測中奪得冠軍。
對(dui)(dui)話(hua)(hua)(hua)方面，提出(chu)了(le)(le)基于深度注意網絡的(de)多輪響(xiang)應選擇匹配模型(xing)DAM(Deep Attention Matching Network)，顯著提高了(le)(le)口語理(li)解能(neng)力(li)。在對(dui)(dui)話(hua)(hua)(hua)系統框(kuang)架(jia)中，百度一方面提供了(le)(le)可(ke)編程的(de)對(dui)(dui)話(hua)(hua)(hua)管理(li)框(kuang)架(jia)，并內置了(le)(le)多個常(chang)用標(biao)準對(dui)(dui)話(hua)(hua)(hua)范(fan)式，為(wei)在云端開(kai)發靈活可(ke)變的(de)業(ye)(ye)務(wu)對(dui)(dui)話(hua)(hua)(hua)邏輯提供了(le)(le)便利。另一方面，提供了(le)(le)需求分發和(he)全局記憶(yi)機制，支持(chi)多個對(dui)(dui)話(hua)(hua)(hua)任(ren)務(wu)的(de)集成與(yu)聯動，提高了(le)(le)對(dui)(dui)話(hua)(hua)(hua)技(ji)能(neng)的(de)可(ke)復(fu)用性，降低了(le)(le)新業(ye)(ye)務(wu)的(de)重復(fu)開(kai)發成本。百度可(ke)定制對(dui)(dui)話(hua)(hua)(hua)技(ji)術(shu)依(yi)托百度大(da)腦UNIT3.0平臺，支持(chi)5萬多個對(dui)(dui)話(hua)(hua)(hua)技(ji)能(neng)，廣(guang)泛應用于行業(ye)(ye)客(ke)戶。
機器(qi)(qi)翻(fan)(fan)譯領域(yu)，百度相繼提(ti)出(chu)了多任(ren)務學習、多智能體(ti)(ti)聯合訓(xun)練等前(qian)沿方法，并(bing)在(zai)2019年國際權威WMT評測中(zhong)取得中(zhong)英翻(fan)(fan)譯第一。機器(qi)(qi)同聲傳(chuan)(chuan)譯方面百度走在(zai)領域(yu)前(qian)沿，提(ti)出(chu)了首(shou)個具有(you)預(yu)測和可控時(shi)延的(de)(de)(de)同傳(chuan)(chuan)模型，首(shou)個語(yu)義(yi)單元(yuan)驅動的(de)(de)(de)上下文同傳(chuan)(chuan)模型，并(bing)研(yan)發(fa)了業內(nei)首(shou)個語(yu)音到語(yu)音的(de)(de)(de)同傳(chuan)(chuan)系(xi)統，為用戶提(ti)供高質(zhi)量、低(di)時(shi)延的(de)(de)(de)同傳(chuan)(chuan)體(ti)(ti)驗。值得一提(ti)的(de)(de)(de)是，基于在(zai)此領域(yu)取得的(de)(de)(de)進步(bu)，由百度主導，聯合Google、Facebook、Upenn、清華等海內(nei)外頂尖(jian)企(qi)業及高校(xiao)共(gong)同組織首(shou)屆機器(qi)(qi)同傳(chuan)(chuan)研(yan)討(tao)會(hui)，將在(zai)本領域(yu)頂級會(hui)議ACL 2020召開，并(bing)將舉辦(ban)國際首(shou)屆同傳(chuan)(chuan)評測，以進一步(bu)促進技(ji)術發(fa)展。此外，百度還將在(zai)領域(yu)權威會(hui)議EMNLP 2020中(zhong)舉辦(ban)機器(qi)(qi)同傳(chuan)(chuan)tutorial，就機器(qi)(qi)同傳(chuan)(chuan)的(de)(de)(de)原(yuan)理、方法、前(qian)沿進展進行講座(zuo)。
百度(du)(du)(du)(du)自(zi)然(ran)語(yu)言處理(li)領域產出(chu)的(de)卓(zhuo)越成果(guo)背后所運用(yong)的(de)底層框架，是自(zi)研(yan)的(de)開(kai)源深度(du)(du)(du)(du)學習(xi)(xi)平(ping)臺百度(du)(du)(du)(du)飛槳(jiang)(jiang)。近兩(liang)年(nian)來，飛槳(jiang)(jiang)圍(wei)繞深度(du)(du)(du)(du)學習(xi)(xi)框架的(de)基本功能(neng)、性(xing)(xing)能(neng)、芯片(pian)支持(chi)(chi)的(de)完備性(xing)(xing)等技(ji)術(shu)(shu)指標進行了一系(xi)列(lie)的(de)易(yi)用(yong)性(xing)(xing)開(kai)發和性(xing)(xing)能(neng)迭代，為開(kai)發者(zhe)提(ti)(ti)供了優于其他深度(du)(du)(du)(du)學習(xi)(xi)框架的(de)使用(yong)體驗。在(zai)開(kai)發能(neng)力方面(mian)，飛槳(jiang)(jiang)除了支持(chi)(chi)對常用(yong)API的(de)調用(yong)之(zhi)外，還在(zai)編程范式上(shang)同時支持(chi)(chi)聲明式編程和命令式編程，兼具很好的(de)靈活性(xing)(xing)和穩定性(xing)(xing)，可滿足不同開(kai)發者(zhe)的(de)開(kai)發習(xi)(xi)慣，更易(yi)上(shang)手(shou)。在(zai)訓(xun)練(lian)方面(mian)，飛槳(jiang)(jiang)平(ping)臺突破了超大規(gui)模(mo)(mo)深度(du)(du)(du)(du)學習(xi)(xi)模(mo)(mo)型訓(xun)練(lian)技(ji)術(shu)(shu)，研(yan)制了千億(yi)(yi)特征、萬億(yi)(yi)參數、數百節點的(de)開(kai)源大規(gui)模(mo)(mo)訓(xun)練(lian)平(ping)臺，實(shi)現了萬億(yi)(yi)規(gui)模(mo)(mo)參數深度(du)(du)(du)(du)學習(xi)(xi)模(mo)(mo)型的(de)實(shi)時更新。在(zai)自(zi)然(ran)語(yu)言處理(li)領域，PADDLE-NLP提(ti)(ti)供了面(mian)向6類(lei)任(ren)務下的(de)30+算法模(mo)(mo)型，包括上(shang)述工作中ERNIE、D-NET等多個國際競賽的(de)冠軍(jun)模(mo)(mo)型。
百度是全球較(jiao)大的(de)(de)中文(wen)(wen)搜(sou)索(suo)引(yin)擎、較(jiao)大的(de)(de)中文(wen)(wen)網站。2000年(nian)1月由李彥宏創立于北京(jing)中關村，向人(ren)們(men)提供“簡單(dan)，可依(yi)賴”的(de)(de)信(xin)息獲(huo)取(qu)方式。“百度”二字(zi)源于中國宋(song)朝(chao)詞(ci)人(ren)辛棄疾的(de)(de)《青玉案·元夕(xi)》詞(ci)句“眾里尋他(ta)千百度”，象征著百度對中文(wen)(wen)信(xin)息檢索(suo)技術的(de)(de)執著追求。而(er)“熊掌”圖(tu)標的(de)(de)想法來(lai)源于“獵人(ren)巡(xun)跡熊爪(zhua)”的(de)(de)刺激，與(yu)李彥宏博士的(de)(de)“分析(xi)搜(sou)索(suo)技術”非常相(xiang)似，從而(er)構成(cheng)百度的(de)(de)搜(sou)索(suo)概(gai)念，也成(cheng)為了百度的(de)(de)圖(tu)標形象。
1999年(nian)底(di)，身在(zai)美國硅谷的(de)(de)李彥宏看到(dao)了(le)中(zhong)國互(hu)聯(lian)網及中(zhong)文搜(sou)索(suo)引擎服務(wu)的(de)(de)巨大(da)(da)發展潛力，抱著(zhu)技術改變世界的(de)(de)夢想，他(ta)毅然(ran)辭掉硅谷的(de)(de)高薪工作，攜(xie)搜(sou)索(suo)引擎專利(li)技術，于2000年(nian)1月1日在(zai)中(zhong)關(guan)村創建了(le)百度公司。從(cong)不足10人(ren)發展至今，員工人(ren)數超過(guo)17000人(ren)。如(ru)今的(de)(de)百度，已成為中(zhong)國受歡迎、影響力較大(da)(da)的(de)(de)中(zhong)文網站。
在面對用(yong)戶的(de)搜(sou)(sou)索(suo)產品(pin)不斷(duan)豐(feng)富的(de)同時(shi)，百度(du)(du)還(huan)創(chuang)新(xin)性地推(tui)(tui)出了基于搜(sou)(sou)索(suo)的(de)營銷推(tui)(tui)廣(guang)服(fu)務，并(bing)成(cheng)為(wei)受(shou)企(qi)業(ye)(ye)青睞(lai)的(de)互聯網(wang)營銷推(tui)(tui)廣(guang)平臺。目(mu)前，中國已有數(shu)十萬家企(qi)業(ye)(ye)使用(yong)了百度(du)(du)的(de)搜(sou)(sou)索(suo)推(tui)(tui)廣(guang)服(fu)務，不斷(duan)提升著企(qi)業(ye)(ye)自身的(de)品(pin)牌及運營效率。通過持續的(de)商業(ye)(ye)模(mo)式創(chuang)新(xin)，百度(du)(du)正進一步(bu)帶動(dong)整(zheng)個互聯網(wang)行(xing)業(ye)(ye)和(he)中小企(qi)業(ye)(ye)的(de)經濟增長，推(tui)(tui)動(dong)社會(hui)經濟的(de)發展和(he)轉型。
為推動中國數(shu)百(bai)萬(wan)中小(xiao)網站(zhan)的(de)(de)發展，百(bai)度借(jie)助超大(da)(da)流量的(de)(de)平(ping)臺(tai)優勢，聯合所有優質的(de)(de)各(ge)類網站(zhan)，建立了世(shi)界(jie)上較大(da)(da)的(de)(de)網絡聯盟，使各(ge)類企業(ye)的(de)(de)搜索推廣、品牌營(ying)銷的(de)(de)價值、覆蓋(gai)面(mian)均大(da)(da)面(mian)積提升。與(yu)此(ci)同時，各(ge)網站(zhan)也在(zai)聯盟大(da)(da)家庭的(de)(de)互助下，獲得生存與(yu)發展機會。
2009年(nian)，百度更(geng)是推出框(kuang)計算技術(shu)概念(nian)，并基(ji)于此理(li)念(nian)推出百度開放平(ping)臺，幫(bang)助更(geng)多第三方利用(yong)互聯(lian)網平(ping)臺自(zi)主(zhu)創(chuang)新、自(zi)主(zhu)創(chuang)業，在大幅(fu)提升網民互聯(lian)網使用(yong)體(ti)驗的(de)同時(shi)，帶動起圍繞用(yong)戶需求進行研發(fa)的(de)產(chan)(chan)業創(chuang)新熱潮，對中國互聯(lian)網產(chan)(chan)業的(de)升級(ji)和發(fa)展產(chan)(chan)生巨大的(de)拉動效應。
這是(shi)一個(ge)充滿朝氣(qi)、求實坦誠的(de)(de)公司，以搜(sou)索改(gai)變(bian)生(sheng)活，推(tui)動(dong)人類(lei)的(de)(de)文(wen)明與(yu)進(jin)(jin)步，促進(jin)(jin)中國經濟的(de)(de)發(fa)展為己任(ren)，正朝著更為遠(yuan)大的(de)(de)目標而邁進(jin)(jin)。
隨著信息技術的突(tu)飛猛(meng)進，軟件產業(ye)在生活中的地(di)位越來越高。基于(yu)此我(wo)國(guo)把軟件產業(ye)作為發(fa)展經濟的...
二三四五發布季度報告(gao)，報告(gao)顯示，報告(gao)期營(ying)業收入同(tong)比(bi)下滑(hua)65.26%，歸(gui)屬于上(shang)市(shi)公司股(gu)東的凈...
在互聯網保險江湖(hu)中(zhong)，除了BAT（百度、阿里巴(ba)巴(ba)、騰訊）等“老牌”互聯網巨(ju)頭之外，以京(jing)東、蘇...
全球(qiu)最大的社交網絡(luo)Facebook宣布推出一(yi)項(xiang)5000萬美(mei)元的基金(jin)，與Africa No ...
近(jin)日，暴風(feng)TV的9名外地員(yuan)(yuan)工(gong)來(lai)到北京暴風(feng)集團總部，就“涉及400多(duo)名員(yuan)(yuan)工(gong)的拖欠半(ban)年(nian)工(gong)資”等(deng)...
美國(guo)雅(ya)虎公司宣布正式停止(zhi)了其在中國(guo)大陸地區的(de)所(suo)有服務，同時關閉旗下科(ke)技媒體Engadget...
微軟
華為
小米
聯想
三星
大疆
漢王
科大訊飛
海康威視
優必選
微軟
華為
聯想
三星
海康威視
優必選