OpenAI的優點之一是,它建立在不信任的基礎上。它最初是一個非營利性的研究實驗室,因為它的創始人認為,人工智慧不應該由主要受利潤驅動的商業公司來開創。
隨著發展,OpenAI變成了一個可稱為卓有成效的矛盾體的東西:一家由非營利董事會監管的營利性公司,企業文化介於兩者之間。
公司裡的許多人似乎同時受到三種激勵:科學家的探索慾望、資本家交付產品的慾望和行善者安全行事的慾望。
過去一週發生的事件——薩姆·奧爾特曼被解僱,經歷各種跌宕起伏,被重新聘用——都圍繞著一個核心問題:這種卓有成效的矛盾體能否持續下去?
廣告
一個組織或一個人能否同時保持科學家的頭腦、資本家的動力和監管機構的謹慎?或者,正如查理·沃澤爾在《大西洋月刊》(The Atlantic)上所寫的那樣,金錢總會勝出?
重要的是要記住,人工智慧與科技界的其他領域有很大不同。它(或者至少曾經是)更加學術化。人工智慧這個領域的研究歷史可以追溯到幾個世紀前。即使在今天,該領域的許多巨頭也主要是研究人員,而不是企業家——比如揚·勒昆和傑弗里·辛頓這樣的人,他們在2018年一起獲得了圖靈獎(計算機領域的諾貝爾獎),但現在,對於人工智慧將把我們帶往何方,他們意見不一
直到最近幾年,學術界的研究人員才陸續離開大學,湧向工業界。谷歌母公司Alphabet;微軟;OpenAI;還有擁有Facebook的Meta這些公司的研究人員仍然通過發表研究論文的方式相互交流,就像教授們那樣。
但這個領域的激昂與進取,與別的熱門創業領域並無不同。在過去一年左右的時間裡,當我與人工智慧研究人員交談時,我經常覺得自己站在每小時五公里的機場移動人行道上,而他們站在每小時6000公里的跑道上。研究人員不斷告訴我,人工智慧歷史的這一階段之所以如此令人振奮,正是因為沒有人能預測接下來會發生什麼。「作為人工智慧研究人員,重點是你應該了解正在發生的事情,我們不斷地感到驚訝。」史丹佛大學博士候選人裡希·博馬薩尼告訴我。
從事人工智慧的人似乎同時經歷著完全不同的大腦狀態。我發現,要寫關於人工智慧的文章非常困難,因為我們根本不知道這項技術會把我們帶到天堂還是地獄,所以我對它的態度會隨著我的情緒而改變。
播客主播、麻省理工學院科學家萊克斯·弗里德曼以科技界的懺悔之父形象出現,他表達了我曾多次遇到的那種急劇變化的情緒:「你坐下來,像父母一樣自豪,但幾乎是又驕傲又害怕,擔心這個東西會比我聰明得多。既像驕傲又像悲傷,幾乎像一種憂鬱的感覺,但最終還是喜悅。」
廣告
當我在5月份參觀OpenAI總部時,我發現那裡的文化令人印象深刻。我採訪的許多人都是在OpenAI還是一個非營利研究實驗室的時候來到這裡的,在ChatGPT的喧囂之前——當時我們大多數人都沒有聽說過這家公司。「我父母並不真正了解OpenAI是做什麼的,」產品經理喬安妮·姜(音)告訴我,「他們說,『你要離開谷歌?』」參與創造了可視化工具DALL-E 2的研究人員馬克·陳(音)也有類似的經歷。「在ChatGPT出現之前,我媽幾乎每週都會給我打電話,她會說,『嘿,你知道,你別再四處遊盪了,該去谷歌之類的公司上班了。』」這些人的主要動機並非金錢。
即使在GPT成為頭條新聞之後,置身OpenAI就像身處颶風眼一樣。「這裡感覺比世界上其他地方要平靜得多,」喬安妮·姜告訴我。「從早期開始,它確實感覺更像是一個研究實驗室,因為我們主要只招聘研究人員,」招聘人員埃琳娜·查齊亞塔納西亞杜告訴我。後來,隨著我們的發展,每個人都開始意識到,工程和研究會帶來進步。」
我在那裡沒有遇到任何「技術男」的氛圍,甚至沒有人有那種「我們正在改變世界」的不可一世——就是當我是一項技術的先驅時可能會有這種架勢。任人力副總裁的戴安·尹(音)告訴我:「我想用熱忱這個詞來形容這個團隊……熱忱的感覺。」
通常,當我作為一名記者訪問一家科技公司時,我能見到的高管很少,而我能採訪到的那些人個個守口如瓶。而OpenAI只是拿出一張登記表,然後就讓人來跟我交談了。
我承認,過去我走進這些科技公司的時候,會擺出一種防禦性的人本主義架子:我告訴自己,這些人可能懂代碼,但他們可能不懂真正重要的文學和哲學。
在OpenAI,我沒什麼優越感。戴安·尹從小跳舞,出演過莎士比亞戲劇。尼克·萊德是加州大學柏克萊分校的一名數學家,在成為OpenAI的研究員之前,他對一種叫做有限微分卷積的東西很感興趣。幾個人提到了一個研究方面的同事,他本科學習物理學,在茱莉亞音樂學院學習了兩年鋼琴,然後獲得了神經科學的研究生學位。還有人告訴我,他們最初的學術興趣是心靈哲學、語言哲學或符號系統。公司技術人員蒂娜·埃盧恩多在加入OpenAI之前學習過經濟理論,並在美聯儲工作過。
廣告
儘管他們都給人留下深刻的印象,但我記得我當時告訴自己:這不會持續太久。我覺得到處都是金錢的氛圍。這些人可能是認真的研究人員,但不管他們是否意識到這一點,他們仍在為推出產品、創造收入和成為第一而競爭。
很明顯,人們在安全問題上存在分歧。一方面,安全是每個人都關心的問題。例如,我問馬克·陳在DALL-E 2發布那天的心情。「很多時候都是這種憂慮的感覺。比如,我們是否能保證安全?」他說。另一方面,與我交談的每個人都致力於OpenAI的核心使命——創造一種能夠實現人工智慧的技術,能夠在廣泛的任務中匹配或超越人類智能。
人工智慧領域的卓越人物描繪出截然不同但又有說服力的前景。風險投資家馬克·安德森強調,它將極大地改變世界,讓世界變得更美好。認知科學家加里·馬庫斯描繪的場景同樣有說服力,他說了這一切可能會出怎樣的問題。
沒有人真正知道誰是對的,但研究人員只是繼續努力。他們的行為讓我想起了艾倫·圖靈在1950年寫的一句話:「我們只能看到前方很短的距離,但我們可以看到有很多事情需要做。」
我曾希望OpenAI能夠找到解決這種對立的辦法,然而即便在當時,就已經存在著擔憂。正如OpenAI首席運營官布拉德·萊特卡普告訴我的那樣:「最重要的是,在我們成長的過程中保持公司文化和使命導向。真要說的話,真正讓我感到不安的是,如何在規模化的過程中保持這種專注。」
這些話很有先見之明。組織文化不容易建立,卻很容易被摧毀。這個問題關係到世界的安危:剛剛被解放出來的奧爾特曼能否保持這種卓有成效的矛盾體,抑或他會屈服於拚命向前的壓力?