復仇者聯盟
失控警示！
Avengers assemble! 這兩個簡單而充滿力量的字令Marvel迷聽得熱血沸騰，令人不禁重溫一幕幕扣人心弦的艱辛和勝利。但你知道嗎？除了薩諾斯（Thanos）這個勁敵，復仇者聯盟面對的還有由人類自己創造的人工智能奧創（Ultron）。明明奧創的開發者Ironman（鋼鐵俠）和Hulk（綠巨人）都是旨在守護地球的復仇者，為什麼會創造消滅人類的人工智能呢？其實奧創屬於超級人工智能，懂得自我學習，會自動吸收知識並加以分析以改進思想。由於奧創的目標被設定為「守護地球」，但奧創從學習中發現人類會製造戰爭和污染等破壞，認為人類會「傷害」地球。因此根據自己的了解得出「守護地球便要消滅人類」的極端結論，意圖利用高智慧搶奪人類的資源以消滅人類。雖然復仇者聯盟最終擊破奧創的陰謀，但仍然造成不少的社會破壞。這無疑給予我們警示，當人工智能不受控制的「學習」和「分析」，有機會作出違反倫理和道德的行為，我們也有必要學習控制人工智能。
現實中的「奧創」？
奧創高超的智慧和行為令人不寒而慄，甚或令人對人工智能卻步。現實中的人工智能也會演變成奧創一樣嗎？奧創的特別之處在於擁有自我意識，透過自己的學習理解目標——守護地球的意思，並自行執行任務；現時的人工智能一般為「狹義智能」，意即目標由開發者而定，執行有限度的任務，沒有重新分析目標及決策的能力。可見現時人工智能的技術未足以創作奧創，但兩者確實有相似之處。深度學習為現時主要的人工智能技術，從大量的資料中學習規律，達到影像識別、語音理解和生成。然而，這技術無法讓人工智能「理解」和「建立」獨有的價值觀，正是與奧創有分別的地方。
人工智能造成的破壞應由誰負責？
即使奧創的原意是保護地球，但其行為確實為人類帶來破壞，造成人命傷亡、財產損失及社會的安定。這是誰的責任？是開發者的責任嗎？是奧創自己的責任嗎？還是使用者，理想地收保護的大家，是共同責任呢？在復仇者聯盟的故事中，Ironman負責處理這場災難。現實中，由誰負責人工智能的失誤同樣是熱議，到底是軟件開發者、使用者，還是規範人工智能發展的政府部門需為人工智能的失誤附上責任呢？責任邊界確實不清晰，但開發者應該投放更多資源在監管人工智能，定時檢查人工智能接受的資料及進行軟件更新。我們亦可出一份力，正確和友善地使用人工智能，遇到人工智能出現異常時，即時舉報以協助監管。
想一想：
- 你認為當人工智能擁有自主學習的能力後，開發者能完全掌握人工智能的目標和行為嗎？
- 你認為人工智能可以擁有人類情感和獨立的價值觀嗎？你希望人工智能擁有這些特質嗎？
