調教演算法的一百道陰影

無論是要佈置家居還是出國旅遊，這個時代有誰不做功課上網查找一些資訊？有陣子臉書或其他網站廣告不斷推送我正要找的資訊，剛開始還覺得頗毛骨悚然，不過看到朋友抱怨臉書不斷向他推送治療禿頭的廣告後，就感到欣慰許多⋯⋯

水可載舟、亦可覆舟，演算法是把殺豬刀⋯⋯哦不⋯⋯雙面刃，現在大部分網友都習慣臉書和谷歌透過演算法「客製化」地顯示動態時報或搜尋結果吧？畢竟，有了智慧手機後，隨身隨時可玩的東西太多了，精準推送資訊有啥不好？用人工智慧（AI）為我們把持生活上各種雜務，如果可以簡單，有誰想要複雜？

然而，有不少有識之士指出，大家在智慧手機的操控下，已經失去愈來愈多生活能力，換句話說就是變笨了！而且愈來愈宅，現在家庭或情侶聚餐，各自對自己手機發笑一句話也不說的場景，並不令人感到陌生吧？阿宅獨自用餐時一手滑手機，另一手夾到隔壁老王的菜，也不是純笑話而已吧？演算法創造的虛擬世界難道比現實世界更有趣？難道演算法讓我們更疏離？

演算法對大眾來說不僅是個「黑箱」，還有許多黑暗面，例如製造出愈來愈厚的同溫層，讓人沉浸在討拍和取暖的小泡泡中，不知今夕是何夕，在大難臨頭時還歌舞昇平，讓社會更分裂，更不利溝通等等。過去沒幾家媒體的年代，雖然被迫看著沒啥選擇的資訊，但好歹全民看到的東西好像差不多，現在分眾行銷細微到夫妻可以在同一網站上看到完全不同的資訊，不必同床也可異夢，搞得臉書比伴侶和老媽還瞭解自己的喜好。

近年各國政治上的紛擾，其中之一的共同點除了被2019冠狀病毒病（COVID-19，俗稱「新冠肺炎」、武漢肺炎」）搞得七葷八素，還有敵國買通國內媒體及網軍，利用社交媒體進行各種滲透，如此似乎就能主導選戰，把民主國家的政局導向轉而對專制敵國有利！如此一來，究竟是人民在投票，還是演算法和駭客在投票呢？

富蘭克林（Benjamin Franklin，1706－1790）道出，死亡和稅賦是人生中的註定。在這個手機、社群媒體和搜索引擎泛濫的年代，我們還得再加上「演算法」。誠如死亡和稅賦，演算法似乎也深不可測，引人好奇也令人擔憂恐懼，莫忘世上苦人多。臉書和谷歌到底多麼所向披靡？閃開，讓專業的應用數學老師來！知己知彼、百戰不殆，讓我們見識一下演算法究竟是雄韜偉略還是金玉其外吧！

英國倫敦出生的瑞典烏普薩拉大學應用數學家桑普特（David Sumpter），借用他研究包括魚群及蟻群的運作機制、足球隊的傳球路線分析、社會隔離、機器學習及人工智慧等等的經驗，寫了這本《演算法的一百道陰影：從Facebook到Google，假新聞與過濾泡泡，完整說明解析、影響、形塑我們的演算法》（Outnumbered: From Facebook and Google to fake news and filter-bubbles – the algorithms that control our lives），讓你不需要蠟燭和皮鞭，就能百無禁忌地見識到演算法的特殊癖好和重口味。

雖然身為應用數學家，桑普特卻覺得有阿宅應用演算法尋找匿名街頭藝術家班克斯（Banksy）之舉實在宅到他也受不了，他指出那些阿宅搞了半天，卻沒用數學搞出更新的名堂，於是更想要用內行人的角色來告訴我們數學應用上的侷限。

充滿好奇心的桑普特為了寫這本《演算法的一百道陰影》，明查暗訪許多看似超厲害的網路和IT公司，用他的專業知識來拆解他們的招數，看看其中隱藏著什麼貓膩兒。2018年川普大跌所有主流媒體的眼鏡，輸了近三百萬普選票還能靠選舉人票當選美國總統，同年臉書就爆出與劍橋分析公司分享用戶個資的事件，讓劍橋分析公司能夠從中發掘出個人的政治傾向，以針對這些人投放量身打造的競選宣傳。由於川普的當選太令人感到震撼，讓他們和臉書頓時成了過街老鼠。

然而，當我們對演算法愈來愈感到無所適從時，桑普特為我們指出演算法的各種軟肋，讓我們明白那些伎倆都是應用數學的遊戲，和其他的科學工具一樣，也都有適用和不適用的範圍，真正理解這些IT公司如何蒐集資料、用什麼數學方法來分析、想要達成什麼目的，就不會一味擔憂害怕，也就不會落得成為「數俘」（Outnumbered）的下場。

例如似乎把美國政局搞得翻天覆地的劍橋分析公司，桑普特就戲稱它為「劍橋牛皮」（Cambridge Hyperbolytica）公司，認為他們唬爛的成份很可能大於數學上的嚴謹。只是川普的當選實在太突然了，劍橋分析公司此舉挑動了社會的敏感神經，難免讓人寧可相信陰謀論。

在美國，對演算法的其中一大批評是，用演算法評估犯罪風險會有所偏誤，比起白人，黑人假釋通過率顯然低了許多，在現在的政治氛圍下，更顯得歧視得太不道德。不過桑普特卻指出，人畢竟比演算法所知的更複雜太多，當不同的族裔存在太多的社經差異，就不可能要演算法公平，畢竟辦案的是人，餵給演算法資料的也是人，而決定要怎麼採信演算法的也是人。

好吧，即使是人造成演算法的歧視，那麼演算法操作人們情緒來達成某些政治目的，有可能是真的吧？要不然高雄怎麼發大財呢？桑普特認為，演算法對用戶情緒的操弄其實沒有媒體嘴炮得那麼大，反倒是媒體下的標題更能引發人們的情緒。我想，媒體煽動情緒可能自古以來就是如此，只是過去沒有網路加演算法，諸多問題不易浮現，所以現在的問題不見得一定是演算法造成的，這點我們得小心區辨。

《演算法的一百道陰影》最後一部分，桑普特談論以演算法為基礎的AI。這一部分涉及較多的專業知識，看看AI究竟能不能成為我們人類的一份子。首先他讓我們見識AI的性別歧視，甚至成為種族主義者，可是這又回到前頭的問題：是誰讓AI學會性別和種族歧視？當AI用作機器學習的大量人類自然語言資料都充滿了各種歧視，上樑不正，下樑怎能不歪？

桑普特還用文學、電動遊戲等等測試AI的能耐，他認為AI要成為我們的一分子還遠著呢，他預測人類在很長一段時間仍是最具有智能的物種，而演算法只能閃邊看看要服侍的是整個社會還是少數特權分子。

就像前述，演算法是把雙面刃，它帶來許多史無前例的便利，也可能帶來空前的災難。誠如凱文．凱利（KK）在《科技想要什麼》（What Technology Wants）中的主張，科技會自我成長和持續進化。對抗和恐懼只會讓我們逃避現實而搞不清楚科技已走向何方何處，這樣反而對我們的社會不利，因為少數能夠掌握演算法的個人、企業或政府，將因此取得不成比例的巨大優勢和權勢。

所以，我們該對演算法設下「安全暗號」，討論我們社會能夠接受的底線，你情我願地好好調教演算法，才能玩得盡興啊！




本文原刊登於閱讀‧最前線【GENE思書軒】。