近日，傑弗里·辛頓（Geoffrey Hinton）因為對神經網路技術的貢獻而獲頒2024年諾貝爾物理獎，但有「AI教父」稱號的他卻因為對AI危害的警告而備受世人矚目。辛頓警告，若人類不立即採取措施控制這些技術的發展，未來將可能發生難以預測的災難。
AI帶動的跨領域科學突破
辛頓與約翰·霍普菲爾德（John Hopfield）共同獲得本屆諾貝爾物理學獎，因為他們在機器學習和類神經網路領域的重大貢獻。他們使用物理學方法訓練類神經網路，並且讓機器學習領域獲得重大進展，為後續的深度學習技術奠下關鍵基礎。
作為世界上首位榮獲圖靈獎與諾貝爾獎的科學家，辛頓不僅是AI技術的奠基者，也是全球科技界的傳奇人物。他的研究促成現代AI技術的誕生，無論是現今流行的ChatGPT，還是自動化影像辨識技術，都源自於辛頓開創的神經網路模型。然而，正是他開發出來的這些技術，讓他深深憂慮AI的潛在威脅。
辛頓認為，隨著AI的進步，這些技術有朝一日可望擺脫人類控制，甚至可能操控選舉、製造虛假訊息，或被壞人用於達成惡意目的。他指出，如果我們不趕快加以約束，AI技術可能會逐漸獲得更多自主權，並最終脫離人類的掌控。
這種憂慮並非空穴來風。辛頓特別強調，AI系統具有比人類更強大的學習能力，這些系統可以快速獲取大量資訊，並從中發展出人類無法察覺的模式。換句話說， AI技術極有可能在諸多領域中發展出超越人類的能力，從而對社會產生深遠影響。
AI教父的貢獻與生涯轉變
辛頓曾在Google工作多年，負責推動該公司的AI技術研究。在Google任職期間，辛頓專注研究的神經網路技術，後來成為許多AI應用的基礎，如自然語言處理與影像辨識等。
然而，隨著AI技術的發展，辛頓對其潛在風險的擔憂日益加深。2023年，他決定從Google辭職，為的是能夠更加自由地討論AI技術的風險，而不必顧慮他的個人言論對公司的影響。
AI技術對科學研究的助力
儘管辛頓對AI的風險提出嚴肅警告，但無可否認AI對科學研究領域的助力。事實上，AI技術已經促成跨領域研究的重大突破，成為科學家社群解決複雜問題的利器。例如，今年諾貝爾化學獎同樣頒發給來自Google的研究人員，他們利用AI技術成功地預測蛋白質的結構，此一研究成果被視為生物學領域的重大突破，預料將大幅加速藥物開發和疾病研究的進程。
AI技術的應用，使研究者能夠快速處理巨量資料，並從中發現人類無法輕易察覺的趨勢和規律。無論是天文學或是醫學，AI都在打破傳統技術的限制，促進新的解決方案。許多人樂觀期待AI技術在科學研究中的潛力，認為只要妥善予以監管，它將成為人類解決複雜問題的得力助手。
眾聲喧嘩的AI想像
儘管辛頓對AI技術的警告引起廣泛關注，但AI研究社群中對此的看法並不一致。部分研究者認為，辛頓對AI災難性風險的擔憂過於誇大。例如，美國聖塔菲研究所的梅拉妮·米歇爾（Melanie Mitchell）指出，辛頓的警告讓公眾將注意力放在遙遠未知的威脅，反而可能忽略當前AI技術帶來的更直接的問題，如社會不公與倫理挑戰。
此外，AI領域另一位知名學者楊立昆（Yann LeCun）也對辛頓的觀點表示質疑。依據他的說法，目前的AI技術仍無法理解物理世界，其智力水準仍遠低於動物，辛頓的災難性預測與事實未盡相符。
辛頓的警告在政策領域也引起關注。他積極支持加州議會於今年稍早通過的一部AI法案，該法案要求開發大型AI系統的企業採取具體措施，確保其技術不會對人類社會造成災難性影響。然而，該法案最終遭州長紐森（Gavin Newsom）否決。
此一法案的相關討論顯示，儘管科技公司聲稱遵守負責任的技術發展原則，但市場競爭壓力常常使得有關安全性的研究被擺在次要位置。辛頓強調，如果政府不強制要求科技公司加強安全性研究，這些技術可能會快速發展，但風險恐將難以控制。
AI技術創新的挑戰與倫理反思
辛頓的擔憂不局限於當前的AI應用風險，也涵蓋AI技術可能對人類整體構成的生存威脅。他提出了一個發人思省的觀點，即隨著AI技術的發展，這些數位智慧可能會取代人類，成為新的世界主宰者。
辛頓認為，一旦AI技術具備自主目標，它將會尋求更多的控制權，導致人類陷於被動地位。他指出，這些AI技術不需要直接干涉我們的行動，就能透過操控輿論、引導決策來實現其目標。這種情況若無法得到有效監管，將可能對整個人類社會構成極大挑戰。
甫獲諾貝爾獎的殊榮，讓辛頓的警告值得更多人嚴肅對待。儘管AI技術在許多領域中展現出巨大潛力，但它也可能同時成為人類社會的重大威脅。因此，我們必須正視辛頓的警告，提早對AI技術帶來的挑戰採取有因應措施。
辛頓的警告不僅值得全球政策制定者重新審視AI技術的潛在風險，也值得人類思考與討論AI技術的未來發展方向。正如他所強調的，技術進步已經無法停止，但我們可以透過國際合作、政策監管和技術倫理的框架來確保其安全性，以避免科技反噬人類社會的最壞結果發生。
