據(jù)機(jī)器之心消息，知名人工智能青年學(xué)者、華盛頓大學(xué)博士陳天奇于近期參與創(chuàng)建了創(chuàng)業(yè)公司 OctoML，擔(dān)任 CTO 一職。

隨著人工智能的火熱，創(chuàng)業(yè)成為了眾多 AI 人才畢業(yè)后的選擇。

近日，機(jī)器之心了解到，機(jī)器學(xué)習(xí)領(lǐng)域知名青年學(xué)者陳天奇畢業(yè)后也參與創(chuàng)建了全新創(chuàng)業(yè)公司 OctoML，擔(dān)任 CTO 一職。

從公司的注冊(cè)信息我們了解到，這是一家數(shù)月前剛剛注冊(cè)、位于西雅圖的創(chuàng)業(yè)公司。公司主頁(yè)介紹稱，「OctoML 擁有當(dāng)前最先進(jìn)的 AI、系統(tǒng)、編程語(yǔ)言、編譯器和架構(gòu)技術(shù)，可以讓機(jī)器學(xué)習(xí)系統(tǒng)的優(yōu)化和部署變得更加容易。該公司致力于打造一個(gè)可擴(kuò)展、開放、中立的端到端棧，用于深度學(xué)習(xí)模型的優(yōu)化和部署。」

而在公司成員方面，華盛頓大學(xué)教授 Luis Ceze 擔(dān)任 OctoML 首席執(zhí)行官（CEO）一職，他也是陳天奇在華盛頓大學(xué)讀博期間合作較多的教授。Josh Fromm、Jared Roesch 等成員也都是華盛頓大學(xué)助理教授或者博士。

Jason Knight 曾為英特爾 AI 產(chǎn)品團(tuán)隊(duì)的軟件負(fù)責(zé)人，現(xiàn)擔(dān)任 OctoML 聯(lián)合創(chuàng)始人、CPO。

從公司主頁(yè)來(lái)看，OctoML 的創(chuàng)始團(tuán)隊(duì)幾乎就是著名深度學(xué)習(xí)框架 TVM 的「原班人馬」。而且，這家公司的愿景「讓機(jī)器學(xué)習(xí)可以部署在所有硬件上」，也與后者幾乎相同。這就不得不說(shuō)到機(jī)器學(xué)習(xí)領(lǐng)域的重要工具 TVM 了。

1

新一代「機(jī)器學(xué)習(xí)系統(tǒng)」TVM

2017 年 8 月，華盛頓大學(xué)陳天奇等人開源了深度學(xué)習(xí)自動(dòng)代碼生成方法 TVM，對(duì)業(yè)界產(chǎn)生了深遠(yuǎn)的影響。利用這一工具，機(jī)器學(xué)習(xí)算法可以自動(dòng)編譯成可供下層硬件執(zhí)行的機(jī)器語(yǔ)言，從而可以利用多種類型的算力。

TVM 是一個(gè)全新的框架，它可以：

• 優(yōu)化 CPU、GPU 和其他專業(yè)化硬件的常規(guī)深度學(xué)習(xí)的計(jì)算量

• 自動(dòng)轉(zhuǎn)換計(jì)算圖以最小化內(nèi)存利用率，優(yōu)化數(shù)據(jù)布局，融合計(jì)算模式

• 提供從現(xiàn)有的前端框架到裸機(jī)硬件的端到端編譯，一直到瀏覽器可執(zhí)行的 Javascript

TVM 的誕生意味著新的深度學(xué)習(xí)芯片，以及新的深度學(xué)習(xí)硬件體系成為了可能。

深度學(xué)習(xí)模型可以識(shí)別圖像、處理自然語(yǔ)言，以及在部分具有挑戰(zhàn)性的策略游戲中擊敗人類。在其技術(shù)發(fā)展的過(guò)程中，現(xiàn)代硬件穩(wěn)步推進(jìn)的計(jì)算能力扮演了不可或缺的作用。很多目前最為流行的深度學(xué)習(xí)框架，如 TensorFlow、MXNet、Caffe 和 PyTorch，支持在有限類型的服務(wù)器級(jí) GPU 設(shè)備上獲得加速，這種支持依賴于高度特化、供應(yīng)商特定的 GPU 庫(kù)。然而，專用深度學(xué)習(xí)加速器的種類越來(lái)越多，這意味著現(xiàn)代編譯器與框架越來(lái)越難以覆蓋所有的硬件。

陳天奇等人的最終目標(biāo)是讓深度學(xué)習(xí)負(fù)載可以輕松部署到所有硬件種類中：不僅包括 GPU、FPGA 和 ASIC（如谷歌 TPU），也包括嵌入式設(shè)備，這些硬件的內(nèi)存組織與計(jì)算能力存在著顯著的差異?？紤]到這種需求的復(fù)雜性，開發(fā)一種能夠?qū)⑸疃葘W(xué)習(xí)高級(jí)程序降低為適應(yīng)任何硬件后端的低級(jí)優(yōu)化代碼的優(yōu)化框架是最好的方法。

TVM 是一個(gè)端到端優(yōu)化堆棧，該端到端優(yōu)化編譯器堆?？山档秃驼{(diào)整深度學(xué)習(xí)工作負(fù)載，以適應(yīng)多種硬件后端。TVM 的設(shè)計(jì)目的是分離算法描述、調(diào)度和硬件接口。該原則受到 Halide 的計(jì)算／調(diào)度分離思想的啟發(fā)，而且通過(guò)將調(diào)度與目標(biāo)硬件內(nèi)部函數(shù)分開而進(jìn)行了擴(kuò)展。這一額外分離使支持新型專用加速器及其對(duì)應(yīng)新型內(nèi)部函數(shù)成為可能。TVM 具備兩個(gè)優(yōu)化層：計(jì)算圖優(yōu)化層和新型調(diào)度基元的張量?jī)?yōu)化層。通過(guò)結(jié)合這兩種優(yōu)化層，TVM 從大部分深度學(xué)習(xí)框架中獲取模型描述，執(zhí)行高級(jí)和低級(jí)優(yōu)化，生成特定硬件的后端優(yōu)化代碼，如樹莓派、GPU 和基于 FPGA 的專用加速器。

陳天奇表示，TVM 嘗試從更高的抽象層次上總結(jié)深度學(xué)習(xí) op 的手工優(yōu)化經(jīng)驗(yàn)，使得用戶可以快速地以自動(dòng)或半自動(dòng)的方法探索高效的 op 實(shí)現(xiàn)空間。

2陳天奇其人

陳天奇是機(jī)器學(xué)習(xí)領(lǐng)域著名的青年華人學(xué)者之一，本科畢業(yè)于上海交通大學(xué) ACM 班，碩士階段也就讀于上海交通大學(xué)，博士畢業(yè)于華盛頓大學(xué)計(jì)算機(jī)系，研究方向?yàn)榇笠?guī)模機(jī)器學(xué)習(xí)。他曾參與開發(fā)了 XGBoost、Apache MxNet、Apache TVM (https://tvm.ai/) 等著名機(jī)器學(xué)習(xí)工具，是最大開源分布式機(jī)器學(xué)習(xí)項(xiàng)目 DMLC 的發(fā)起人之一。

陳天奇與機(jī)器學(xué)習(xí)的緣分開始于高中一年級(jí)，他就讀的松陽(yáng)二中，是一所位于浙江小縣城的中學(xué)。

陳天奇曾在知乎社區(qū)的問(wèn)答中回憶自己第一次接觸計(jì)算機(jī)科學(xué)的心路歷程：「比較幸運(yùn)的是，比起其他學(xué)科競(jìng)賽，OI 社區(qū)有很多在互聯(lián)網(wǎng)上的公開資料，訓(xùn)練 OJ 和論壇社區(qū)（大榕樹和 oibh）。這些都給了像我這樣野路子的選手追尋自己的興趣的機(jī)會(huì)。

高二的時(shí)候，陳天奇靠著全部上搜索拿了 NOIP 的省二，高三又拿了省一。憑借 NOIP 成績(jī)帶來(lái)的高考加分，陳天奇進(jìn)入上海交通大學(xué)的 acm 班，開始了在計(jì)算機(jī)科學(xué)上的旅程。

在拿到博士學(xué)位之前，陳天奇曾在微軟亞洲研究院、華為諾亞方舟實(shí)驗(yàn)室等機(jī)構(gòu)實(shí)習(xí)，還曾在其母校擔(dān)任助教，講授編譯器、操作系統(tǒng)、數(shù)據(jù)庫(kù)管理系統(tǒng)、數(shù)據(jù)挖掘和機(jī)器學(xué)習(xí)實(shí)踐等課程。

碩士期間，陳天奇還獲得了 2011 年 KDD Cup 的亞軍和 2012 年 KDD Cup 的冠軍。機(jī)器之心曾經(jīng)轉(zhuǎn)載過(guò)陳天奇關(guān)于自己科研生活的自述文章《機(jī)器學(xué)習(xí)科研的十年》，一定意義上，KDDCup12 的奪冠是他決定將科研之路進(jìn)行到底的最重要因素。

2013 年，陳天奇在華盛頓大學(xué)開啟了自己六年的博士生涯。讀博期間，陳天奇遇見了要求嚴(yán)格的導(dǎo)師 Carlos，鼓勵(lì)他「只做 best paper 水平的研究」。也正是在讀博的這幾年里，陳天奇等人完成了 TVM 等重要研究。

今年，陳天奇從華盛頓大學(xué)獲得博士學(xué)位，其畢業(yè)后的去向成為備受關(guān)注的問(wèn)題。

6 月份，他在 Twitter 上宣布自己將于 2020 年秋季加入卡耐基梅隆大學(xué)（CMU）任助理教授，成為加入 CMU 的年輕華人學(xué)者之一。同樣宣布將于 2020 年加入 CMU 的還有 CycleGAN 作者朱俊彥。