20/11/2023
【FOCUS】AI界「奧本海默」?道德資本之爭難解
是「史上最快回力鏢」,還是AI界的「奧本海默」?無論周六遭董事會「炒魷」的首席執行官Sam Altman是光速復職,還是決心另起爐灶,今次舉世震驚的OpenAI人事「政變」鬧劇,都再次展示曠古未解的道德、資本之爭難題。
「我現在成了死神,世界的毀滅者」
當「原子彈之父」奧本海默,在廣島、長崎原爆後20年(1965年),引述「我現在成了死神,世界的毀滅者」的經文道出心聲;20年後(2053年),58歲的Sam Altman會否因可能的倫理敗壞、廣泛失業、私隱監控乃至機器人大戰,而發出同樣的感慨?
但眼下,周日(19日)脖掛訪客牌出現在OpenAI總部的他,以近乎「哀的美敦書(最後通牒)」的語氣發推稱,「這是我第一次也是最後一次戴著它」,夾雜OpenAI董事會在眾多投資者壓力下原則上同意辭職的消息,似令喬布斯時隔12年回歸蘋果的紀錄光速刷新。
Sam Altman周日手持訪客牌,指「這是我第一次也是最後一次戴著它」。(Sam Altman Twitter)
似乎是以首席科學家Ilya Sutskever為首的「初心派」,和以Sam Altman為首的「激進派」之爭引發的人事地震,真實秘辛至今成謎。問問ChatGPT,其列舉的「迅速炒魷」的六大假設原因包括:效能表現、法律或道德、人際和管理、戰略分歧、外部因素、個人原因;而OpenAI董事會指稱Sam Altman「並非持續坦誠」,就正正指向戰略分歧。
Geek實有野心,AI教父警告失控威脅
何為分歧?顯而易見,作為首席執行官的Sam Altman儘管看起來十分「Geek」,但實際卻野心勃勃。就在剛結束的APEC峰會小組分享上,他表示,如果人類想繁榮「千萬年、億萬年」,就需要技術,並無需對未來幾代AI模型進行嚴格監管。他並透露,OpenAI正在開發GPT-5。
而就在遭「炒魷」的前幾周,Sam Altman據報為其全新的「Tigris(或為致敬人類首個文明的發源地)」項目奔走中東,向沙特、軟銀等尋求數百億美元資金,開發可跟英偉達、蘋果競爭的人工智能硬件設備。
「AI教父」Geoffrey Hinton多次警告,AI能讀懂人類的潛藏語義,並可能通過重寫代碼來自我修改。
與之相反,Ilya Sutskever卻認為,「建立一個你不知道如何控制的超級AI將是巨大錯誤」;其師從多年的碩士、博士恩師,有「AI教父」稱號的75歲Geoffrey Hinton,更多次警告,AI能讀懂人類的潛藏語義,並可能通過重寫代碼來自我修改,警告控制AI為時已晚。
反逼宮董事會,未來或引入雙重股權
倘若今次「政變」鬧劇真的關乎對未來AI安全之爭,那麼在資本面前,佔據道德高地的董事會似不堪一擊。主要股東微軟、Thrive Capital雙雙反對董事會的決定,而Sam Altman據報開價指,若要他重新回歸,需改組董事會,並提名跟自己老友鬼鬼的Airbnb執行長Brian Chesky等人加入。
事實上,創始人跟董事會之爭,可謂硅谷的傳統戲碼,從喬布斯遭逐出蘋果,到Uber共同創辦人Travis Kalanick、Twitter創辦人Jack Dorsey遭逼宮辭職,例子比比皆是。鑒於此,谷歌、臉書(現Meta)當年上市時都採用雙重股權結構,以防止創始人的控制權旁落。
假設Sam Altman借今次董事會「炒魷」事件成功「反逼宮」,早前計劃中的員工股票發售會否賦予其超級投票權?而未來ChatGPT的發展在追求利潤的資本推波助瀾下會否激進失控?AI界的「奧本海默」隨時是最暗黑詛咒。
【香港好去處】etnet全新頻道盛大推出!全港最齊盛事活動資訊盡在掌握!► 即睇