臉書即將用使用者的內容來訓練AI?臉友開始討論要跑去脆,至少那邊還組織過「青鳥行動」。問題是,這種情況能維持多久?
這是我今天在河道上看到的相關討論,而這些討論,全部都讓我想到手上正在編輯的新書:《雲端封建時代:串流平台與社群媒體背後的經濟學》。作者是雅尼斯.瓦魯法克斯(Yanis Varoufakis)。這位仁兄今年63歲,是任教於雅典大學的經濟學家,人生經歷包括希臘財政部長、遊戲公司Valve的經濟顧問、2025歐洲民主運動創辦人。
《雲端封建時代》是他的最新力作,他會在這本書中跟讀者解釋,臉書演算法的變更與AI的導入,其實全部都屬於一個更宏大時代變革的一部分。更重要的是,這一變革會讓我們這些使用二十一世紀雲端服務的文明人,在政治經濟的權力關係上,倒退回中世紀的封建時代。
以下是他書中一小段話的節錄,談的是亞馬遜Amazon的雲端助理Alexa。但只要把Alexa一字換成臉書即將推出(或早已引進)的AI演算法,整個內容就能無縫接軌地對應到你我眼前的變局。
☁️☁️☁️QUOTE☁️☁️☁️
我們訓練Alexa 為我們做事,但事情很快就脫離我們控制,變成我們無法理解也無法規管的事。因為一旦我們訓練它的演算法,向它提供有關我們習慣和欲望的資料,Alexa 就會開始反過來訓練我們。
一開始,它會溫柔地提醒我們向它提供更多想法,再根據這些資料提供它認為我們喜歡的影片、文字和音樂。以這種方式贏得我們的歡心,我們就會更容易接受引導。換句話說,Alexa 訓練我們去更好地訓練它。
下一步比較可怕,它開始幫我們規劃愛好:透過使我們接觸它挑選的圖片、文字和影片,而它挑選這些東西正是為了巧妙制約我們萌生的念頭。不久之後,它就會訓練我們去訓練它去訓練我們去訓練它去訓練我們......。
任何人或東西如果比我們更了解我們自己,我們就會容易受其傷害,這是人性使然。
事實上,相對於真實的人,我們可能更容易受我們知道是無意識的演算法傷害,因為我們更容易被一種虛假的安全感迷惑。
我們正是因為知道它不是一個人,才會讓它深入了解我們,否則我們恐怕會覺得這是令人厭惡且十分可怕的事情。
我們將它視為機械奴隸,但事實是它並非我們的奴隸,而是屬於一種雲端指揮資本。它會在你的幫助下,利用你的無償勞動,將你變成奴隸,以增進其主人的財富。
每次我們上網享受這些演算法服務時,我們都別無選擇,只能與它們的主人達成一種浮士德式交易。為了使用這些演算法提供的個性化服務,就必須接受一種基於蒐集我們的資料、追蹤我們的活動、暗中規劃我們接觸內容的商業模式。
一旦我們接受了這種商業模式,演算法就會開始向我們推銷商品,同時把我們的注意力賣給其他人。此時演算法的主人就能獲得無比強大的能力,能夠預測我們的行為、引導我們的偏好、影響我們的決定、改變我們的想法,從而使我們淪為他們的無薪僕人,為他們提供我們的資料、我們的注意力、我們的身分,以及我們的行為模式──這點尤其重要,能讓他們用來進一步訓練演算法。
☁️☁️☁️END QUOTE☁️☁️☁️
看完這段引文,我想有些讀者可能還是不大買帳。
雲端服務無所不在,這不是早就知道的事情嗎?
演算法很可怕,不也是有無數作品探討過了嗎?
《雲端封建時代》有帶來什麼新東西嗎?
老王賣瓜,自賣自瓜(誇),答案當然是有的。
《雲端封建時代》會告訴我們,在雲端經濟的影響下,我們所以為的資本主義經濟,如何「自己摧毀了自己」,在二十一世紀養出了中世紀才有的封建主義怪獸。於是平台取代了市場,租金則取代了利潤,原本掌權的資本家,開始轉為更高階級的雲端資本家服務。
至於我們這些一般網路使用者,就變成替雲端領主打工的佃農,只能用辛苦勞作的薪水,訂閱各種串流雲端服務,上繳租金,繼續養肥巨獸。
簡單來說,《雲端封建時代》要告訴我們,無所不在的雲端服務與可怕的演算法,究竟是「如何改變了今日世界的經濟秩序」,而這套秩序現在就正在影響螢幕前的你我。
當然,本書也提供了一些可能的解方,包括利用雲端的魔法來對付雲端──這點我們上禮拜在青島東路上就看過不少,我想作者或許會感到欣慰。
最棒的是,或許是受到前一本書《爸爸寄來的經濟學情書》的影響,作者這次的新作也使用了相對淺顯的譬喻、舉例與描述,至少讓我這位大學經濟學原理與實習差點被當掉的門外漢,也能夠無障礙地享受他所要分享的觀點。
不過,必須要先提醒的是,作者的分析工具包括了馬克思主義,還有一些左派的經濟學理論,這點作者也直言不諱──他用近乎真情告白的真摯方式,向讀者坦白他究竟是透過哪些方法、邏輯乃至於家學淵源,來得出這套結論。
換句話說,他是來辯ㄔㄠˇ論ㄐㄧㄚˋ的,只是情感真摯且溫柔。而他也歡迎所有不同意他的讀者,在好好讀完他的說法後,與他在思想的場域上一決高下。
總之,無論你同意或不同意雅尼斯.瓦魯法克斯的說法,或許都沒有辦法否認,這套雲端邏輯正在主導我們的生活。
否則我們為什麼要考慮遷離臉書,為什麼脆能夠動員民眾到立法院,為什麼各方爭搶網軍,又為什麼你能讀到我這篇文呢?──如果你其實沒看到,那一定都是演算法的錯!
《雲端封建時代》現正預購中,新書預計下六月五日禮拜三全面上市。