電影《楚門的世界》中，主角楚門住在一個平凡無奇的小鎮，做著保險業務員的工作，生活和一般人並沒有差異，他卻不知道整個小鎮其實是巨大的攝影棚，自己是人氣實境秀的主角，身邊的親朋好友都是演員，一舉一動更被攝影機記錄下來給全世界的人看，最後楚門決心逃離這個虛假的世界。
這樣的情節看似離奇，卻可能正以另一種方式成真，但這次主角是我們自己。
科技公司前高階主管揭發內幕
如今這種情節活生生被拍成紀錄片，《智能社會：進退兩難》（The Social Dilemma）是由 Netflix（網飛）拍攝完成，在最近新上架的紀錄片，片中描述社群媒體和演算法如何影響我們的認知和選擇。
影片中有許多科技公司前高階主管揭發內幕，赤裸裸得公開恐怖真相。
「我看見這是人類生存的一大威脅！」2016年，特里斯坦．哈里斯（Tristan Harris）這位谷歌的設計道德倫理學家決定離職，此時的他已經意識到，臉書、谷歌（YouTube、搜尋）、推特這樣的科技公司「為了商業利益，利用算法吸引人上癮的產品設計，是不道德的。」他心中浮現了對抗的想法。
實際上，哈里斯任職谷歌期間，谷歌有知名的「不作惡」準則。但這一準則，並沒有阻擋住算法基於商業利益走向歪路。離職兩年後，哈里斯拉著臉書和股歌等大公司離職或在職的技術專家，在2018年成立了一個叫「人道科技中心」（Center for Humane Technology）的組織，用來對抗矽谷科技公司讓人上癮的設計理論。
正猶如曾與馬克·祖克柏（Mark Zuckerberg）一起創辦了Facebook的克里斯·休斯(Chris Hughes)離職後多年後，便批評Facebook說，「祖克柏是個好人，但令我感到憤怒的是，他專注於增長導致他犧牲了點擊的安全和道德底線。」
社群軟體讓人成癮，使用者反而變成獲利工具
問題出在哪裡呢？上癮，幾乎成為所有社群軟體追求的目標。
紀錄片中，採訪了許多人道科技中心的人。哈里斯說，當年他在谷歌做信箱設計時，意識到一個問題，就是歷史上從來沒有過50個左右的20-35歲的工程師，只要他們做出一個決定，就能影響20億人，做出他們從來沒有預料到的想法或決定。
當使用者早上醒來，谷歌信箱就告訴他，應該這樣工作或那樣工作，也就是說，工作、文化、生活的意義，可能都來自一個鬼鬼祟祟的第三方操縱。而谷歌內部，大家都想把信箱做得讓人成癮。
哈里斯做了一個呼籲「我們這些工程師，有道德責任去審視、討論成癮問題。」他發出這個呼籲後，很多工程師都贊同，然後，什麼事情都沒有發生，大家還是在做一樣的事情，就像狗吠火車。
「矽谷最大的公司一直在販賣顧客，」Facebook 的早期投資者羅傑．麥克納米(Roger McNamee)在紀錄片裡也說，50年前矽谷的商業模式簡單而良好，谷歌、英特爾製造軟硬體產品賣給顧客。但近10年來卻一直在販賣顧客。網路時代中，科技技術慢慢演變為向人類索取、引誘甚至操縱並從人身上獲利的工具 。
現在，網路科技公司提供了大量的免費產品，就像臉書、微信、抖音、推特等，大家都不為使用的社交產品付費，為這些軟體付費的是廣告商，廣告商就是公司的顧客，而使用者成了被銷售的商品。狀況就變成了:如果你沒有花錢買產品，那你就是被賣的產品。
所以這些公司的商業模式就是，怎樣讓你在最大程度上癮，花更多的時間在這些軟體上，付出你人生寶貴的時間。
大數據分析，預測行為，被影響也毫不知情
哈佛商學院教授Shoshana Zuboff在紀錄片中說，在商業上，臉書、推特為了賣出更多的廣告，需要給予顧客確定性，所以商業廣告賣的就是確定性，這個「確定性」就來自用戶上癮背後的大數據分析。
這就是紀錄片所說的核心，智能社會，進退兩難。
科技公司以營利為目的，人們的注意力就是賣給廣告商的產品，當人們的行為喜好被大數據分析，科技公司就可以預測行為，發送推薦資訊，時不時再穿插幾個廣告，希望使用者將寶貴的時間花在軟體上，不斷接受這些類似資訊，最後自身反而成為被操控的人。這一切都是為了盡可能成功的將用戶賣給廣告商。
過去人們交易豬肉期貨、鑽石期貨，現在人類自己也成了期貨。Shoshana Zuboff將這個市場稱為：從未出現的、最大的人類期貨市場。
上癮帶來的後果是，將你還沒想到的部分，用算法推送給你，使它們成為你思想的一部分，還讓你覺得這是自己所想的。
這是一種極端刻意的、對人們行為進行設計的行為。用戶的每一次下拉或上拉刷新，都是一次算法的重新推送。它們深入腦袋裡，植入一種無意識的習慣，讓人的腦袋更深層次得被改變。
算法只推薦給人們感興趣的東西，它沒有道德感，唯一的動力是商業利益，它一而再再而三地給人們推送虛假、陰謀論的信息。今天可以讓人相信地球是平的，明天就可以讓人相信喝消毒劑可以殺死武漢肺炎病毒。
科技不斷發展，但如果被濫用就可能造成危害。我們應該要有獨立思考的能力，否則就像楚門一樣，活在他人設定的框架之中，卻毫不自知，成為被利用的賺錢工具。
