| EN
觀察報告

反省的反省:「超限社會」的科技藝術批判

雙縫鏡(金制民、金根瑩),《我提問7.0》(I Question 7.0),人工智慧,750 x 300 cm,2018。圖/王世邦攝影
Info 相關資訊
發布日期2022.10.26
撰文 洪靖
基進行為主義監控資本主義科技藝術超限社會

在大哲學家馬丁.海德格(Martin HEIDEGGER)看來,科技和藝術本是同根生,卻在現代社會成為相互對立的專業。Technology的希臘古字Techné同時意謂工(craft)與藝(art),意指將未被實現或未被看見的美好,以人類緩慢且精緻的勞動逐步帶出(brining-forth)的過程;但現代科技(modern technology)以精於計算並大量生產的方式,向自然強索(challenging-forth)資源為己所用,最終甚至亦將人類本身視為資源。海德格認為,現代科技是人類不得不面對的至高危險(highest danger),而救贖則是藝術――那個被我們遺忘的Techné的對稱涵義。

在兩次大戰武器造成滿目瘡痍、隨後科技快速發展卻又不時帶來災難的世界中,海德格的論述成為經典,不只讓社會大眾注意到科技對人類的支配與掌控,更為藝術活動打開極大的發揮空間與任務使命――反省當代科技。早先,藝術家們用繪畫、影片、機件等來訴說和提醒科技如何威脅人性;近年,隨著演算法(algorithm)、人工智慧(artificial intelligence,AI)的日趨成熟,藝術家們開始「以子之矛,攻子之盾」,大幅使用數位科技進行藝術創作――科技藝術(digital art)――來反省科技的冷漠與無情。C-LAB臺灣當代文化實驗場的年度展覽「超限社會」或可視為這種海德格式救贖的最佳實踐,將Technology放入藝術並帶回Techné的原初意義當中,提醒觀眾去注意、督促社會去正視科技發展的黑暗面孔。

在「超限社會」的展品中,除了《(吃)我的肉》(mEat me)之外,其他作品大都與數位科技有關,反省議題圍繞近年幾個關鍵詞彙,包含:演算法、大數據、AI、深偽(deepfake)、元宇宙(metaverse)等。這些關鍵詞彙之所以能夠串接成為展覽主題,乃是因為一個統攝性的核心概念:監控資本主義(surveillance capitalism)。這個概念由肖莎娜.祖博夫(Shoshana ZUBOFF)提出,說明當代資本主義不同以往,由於數位科技的大幅度成長,使得人類行為――瀏覽、採購、移動――得以被觀察、紀錄、調整,而這些「行為剩餘」(behavioral surplus)成為大企業的主要獲利來源 1。最危險的是,因為生活確實變得更方便、更快速、也更舒適,所以人們並未對這種剝削感到不適或威脅。

藉由呈現數位科技隱而不顯或尚未到來的後果,藝術家們的作品提醒觀眾注意與反省這個數位時代的至高危險。如此企圖當然很好,畢竟太多時候,人們並不清楚自己如何使用與為何使用某些技術,也不會想到手中技術的潛在危險。不過,在這篇文章中,我嘗試從反省的立場向後退一步,討論我們之所以擔心與焦慮這些危險的根本原因究竟為何。換句話說,這是一個後設的討論,我姑且稱之為「反省的反省」。

監控資本主義的核心論據,是心理學家伯爾赫斯.弗雷德里克.史金納(B. F. SKINNER)的基進行為主義(radical behaviorism)。透過各種鴿子與老鼠實驗,史金納提出讓人又愛又恨的行為解釋原則:任何有機體――包括人類――行為的出現頻率是由實施該行為之環境所給予的結果所決定。舉例來說,如果你在吃花生前試著先剝殼,然後吃下去發現口感很好、你很喜歡,那麼你下次吃花生前就很可能先剝殼;又或者,你在雨天出門之所以會打傘,是因為打傘這個行為會減少雨水帶給你的不適 2。史金納認為,對於人類行為的解釋沒有必要假設或訴諸名為個性、心靈、或自我的「內在小人」(inner man),因為那多半只是同語反覆(無法解釋該習性是怎麼來的),真正的原因並不在身體之內,而在身體之外――環境。史金納用仔細且確鑿的動物實驗來證明他的論點,並聲稱人類行為雖然各式各樣、看起來比較高級,但原則基本相同,只是比較複雜而已。這正是為什麼史金納讓人又愛又恨的原因:基進行為主義有很強科學證據和解釋力,我們幾乎無法否認它是對的,但這種論點除了意味人類和動物沒有兩樣之外,更把人類從控制者――控制其他事物、控制自我――的角色移到「被控制者」(the controlled)。

伯爾赫斯.弗雷德里克.史金納(B. F. SKINNER)於1950年代透過對於鴿子的行為實驗,探究人類的行為解釋原則。圖/www.all-about-psychology.com 網站提供

對監控資本主義的焦慮與擔心,主要即是來自人類的這種角色轉移,比如最常被突顯與論及的「自由」。如果人類是被控制者,那麼我們還有自由嗎?難道自由決策和行動都只是幻象而已?一旦我們沒有自由,那麼民主怎麼運作――誰來治理我們?我們又能自主做出決定嗎?事實上,這些問題並不新鮮,史金納在提出基進行為主義當時,就已經收到幾近相同的批評和攻擊,而史金納並未兩手一攤或置之不理,而是用一整本書――《Beyond Freedom and Dignity》3――來回應。

B. F. SKINNER. Beyond Freedom and Dignity, NY: Bantam Books, 1971. By scanned from original book, fair use.

可以先想想我們對自由的擔憂和捍衛究竟為何?在史金納看來,各種強調與讚賞自由的論述――史金納稱之為「自由文獻」(freedom literature)――涉及的情境基本上只有一種:令人不悅或痛苦的控制(aversive control)。這些論述批判控制者的不仁與不義,並鼓勵人們追求自由,以便脫離身不由己的悲慘情境。問題在於,對於人們自己喜歡做、想要做、願意做的事情呢?在基進行為主義裡,有機體的任何行為都被環境所控制,你會喜歡、想要、願意做某件事,是因為這件事(或與其相似的事情)曾經讓你從環境中獲得正向回饋(feedback),所以你會對此有喜歡、想要、願意的念頭,並據此行動。換句話說,即使你感覺到很自由(念頭好像是自己的),但實際上你仍然被控制著。對於這種「感覺自由」的控制情境,自由文獻完全幫不上忙,甚至不置一詞。如果我們真的這麼熱愛和強調自由,那麼應該同樣反對自己喜歡、想要、願意做的事情,但顯然我們並未如此。

這就是監控資本主義的威力所在:透過蒐集行為數據,讓科技系統對使用者的當下行為做出正向回饋,以便調整和控制使用者的下次行為,而且使用者不會感覺到被限制或被強迫,而是「我本來就這樣想」。但,問題在於,此事究竟多麼值得焦慮與擔心?直覺上我們多半認為此事大有問題,但若仔細深究卻不見得如此。從小到大,我們經歷各式各樣的控制,除了令人不悅的譴責、打罵、處罰之外,也有打氣、稱讚、獎品等令人愉悅的回饋。這些回饋難道不是一種控制嗎?就連鼓勵我們追求自我的教育、獎勵我們認真工作的薪資、甚至鼓舞我們捍衛自由的論述,都是一種控制。我們被控制著要擁護自由、展現自我、捍衛權利等。如果我們不曾反對這些控制,那麼為什麼要反對監控資本主義的控制――何況人們確實過得更快樂?你可能會說:因為這些大企業可能會引導我們去做「有問題」的決定或事情。

關鍵在於「有問題」是什麼意思?如果有問題指的是讓我們做出傷害我們自身利益的決定,那麼此事或許不如想像中的那麼需要擔心。因為如果監控資本主義想要運作順利,它就必須採取正向回饋:它要讓我們體驗良好,而且這種良好體驗必須是長期而非短期的。在史金納的理論中,長期正向回饋才會真正發揮作用,而短期正向回饋最終會被拋棄。就像賭博或吸毒,也許一開始是很有效的控制方法,但最終會引來批評與否定,被視為錯誤的手段。事實上,這就是當下正在發生的事情:大企業的演算法在前十年非常有效,但使用者們開始發現諸如精神渙散、形象焦慮、手機成癮等負面後果,所以近幾年許多領域――包括藝術――都出現批評、反省,以及數位排毒(digital detox)的聲浪,而大企業也不得不因應要求而改變。換句話說,正是因為目前的監控資本主義控制讓人們開始感覺不自由,所以出現了對於自由的重視與要求。所以,問題實際上不在於監控資本主義的「控制」這個行為或意圖本身,而在於控制的方法、策略,或途徑。

奇里亞姬.戈妮(Kyriaki GONI)《禁止演算法觀眾》(Not Allowed for Algorithmic Audiences) 展出現場。圖/王世邦攝影

如果控制無可避免,那麼反對控制本身並無意義,而我們試圖反省和批評的,實際上往往指向控制的「方式」。你可能會再追問:即便接受控制無所不在,也同意正向控制,但這並不代表我們應該接受「大企業」的控制!換句話說,我們反對監控資本主義的主要對象,很可能不是用於監控的數位科技,而是掌握和使用那些科技的組織或人們。但是,問題的核心依然沒變:如果正向控制沒有帶來任何的負面後果,為什麼我們要擔心是誰在控制?或者,換個方式問:如果換成其他人――例如政府、NGO(非政府組織)、社會學家、甚至藝術家――來控制,你還會反對嗎?如果不管控制者是誰,我們一律反對,那麼我們顯然還是在反對「控制」這件事本身;換句話說,我們仍然跳進了當初的陷阱,忘記先前所提到的人類根本狀態:永遠都在控制之中。

鄭先喻的《這可能是你》展出現場。圖/王世邦攝影

不管是人文社會學者或帶著危機意識的藝術家,在戮力批判與反省演算法與AI時,常常感覺到無力與受挫,原因不是因為大企業難以撼動,而是因為我們發現:大部分民眾即使知道了也不在意這些事情。他們為何如此?我們似乎不能指責他們太笨、不理性,或不受教,畢竟如果我們認為大眾具有這些特質,我們似乎就不應該訴諸民主作為集體決策的手段,並錯誤冀望民主可以帶來更好的未來。既然(我們肯定)民眾是理性的,那麼這種「我們緊張但他們無感」的落差究竟從何而來?在我看來,問題就出在我們過於相信――很可能是因為自由文獻的影響――人類天生擁有自由,並把所有的政治、經濟、乃至教育制度建立在這個實際上只是「假設」的基石之上 4

用藝術創作來反省科技發展並非壞事,它能作為一種提醒,讓觀眾注意到未曾注意到的風險。我也不否認當前的數位科技很可能走在錯誤的道路之上。我想做的,並非批評這些藝術創作,而是嘗試反省當前的反省:退一步討論藉由創作開展批判的立基點為何,以及這個立基點反映了什麼樣的現實。假如「人們受到演算法的操控」是確實存在的現象,那麼正好說明了史金納的理論是對的,而我們需要的,是去接受而非抗拒――畢竟那是徒勞――人類沒有自由這個事實。只要我們能夠看穿監控資本主義的論據,並從自由的幻象與執念中脫離出來,那麼將有機會打開並看到科技藝術的另一番光景。

Info 相關資訊
發布日期2022.10.26
撰文 洪靖
基進行為主義監控資本主義科技藝術超限社會
Footnote 註釋
01
肖莎娜.祖博夫(Shoshana ZUBOFF)著、溫澤元等譯,《監控資本主義時代》,臺北:時報出版,2020。
02
為求方便理解,這邊的舉例稍嫌簡略。伯爾赫斯.弗雷德里克.史金納(B. F. SKINNER)的說明詳細也複雜得多,把回饋至少區分成為三種類型:正強化(positive reinforcement)、負強化(negative reinforcement)、懲罰(punishment)。有興趣理解細節的朋友請參考:B. F. Skinner. About Behaviorism, NY: Vintage Books, 1976.
03
B. F. SKINNER. Beyond Freedom and Dignity, Indianapolis: Hackett, 1971/2002. 此書目前的繁體與簡體中譯本都有些問題,建議有興趣的讀者直接閱讀原作。
04
從伯爾赫斯.弗雷德里克.史金納(B. F. SKINNER)的角度出發,如何調合科技發展和民主制度?或者是否需要重新設想民主?相關討論請參閱拙作,尤其是第八章:HUNG Ching. Design for Green: Ethics and Politics for Behavior-Steering Technology, Eindhoven, The Netherlands: 4TU.Centre for Ethics and Technology, 2019.
Author 作者
洪靖荷蘭TWENTE大學技術哲學博士,曾受原子科學、歷史學、社會學等跨領域訓練,現為國立中正大學紫荊不分系助理教授。
More 相關文章
觀察報告
打破道德邊界、揭開畜牧真相,mEat me:吃自己的肉!?
藝術家泰瑞莎.舒柏特(Theresa SCHUBERT)在《(吃)我的肉》(mEat me)中,以身體為實驗,培養人造肉,運用自體細胞再生,企圖打破邊界,消弭人與動物原本一刀兩斷,我文明你野蠻的劃分之界。
發布日期2022.09.14
科技倫理科技藝術試管肉超限社會
觀察報告
「零延滯」時代下的科技焦慮――關於鄭先喻的「同化者」
透過「同化者」一展看見人機互動中的矛盾與衝突,反思人的科技焦慮的同時,場域的空間特殊性或許能引出另一層思考與對話的可能。
發布日期2020.06.09
機器科技科技藝術
觀察報告
從「錄像藝術」的不適切框架看臺灣當代藝術影像的解讀危機與論述方法的更新(下)
本文延續上篇,探問我們該如何理解今日臺灣的影像藝術?文中爬梳近年學者針對臺灣錄像藝術的脈絡跟定義的考究,爾後探討電影不斷擴充自身意義的同時,藝術影像在當今學院分類下的僵化危機和反思。
發布日期2022.11.23
視覺文化錄像藝術電影