微軟在幾個月前做了一個實驗，設計了一個線上聊天機器人Tay，定位是一個純真少女，她會在社群網站上跟人對話，並在過程中學習。沒想到在廿四小時之內，這個純真少女變成了一個納粹支持者、種族歧視者及痛恨女性主義者，迫使微軟即刻將她下架。

後續分析認為，微軟可能太輕忽而未把刻意要教壞Tay的惡意攻擊做有效阻擋。事實上，我認為這是不必要的，因為這才是網路的現實。兩年前，微軟在大陸就已經推出過類似的聊天機器人小冰，但並未遭到相同命運，很受歡迎且能正常互動，甚至在去年底進入東方衛視晨間新聞擔任氣象主播。我相信這絕非大陸社群網路用字較文明，而可能是負面字眼被遮蔽或是以程式保護的結果。

這個實驗讓我們有許多可以深思之處。首先是網路的特性。Tay會學習到這些想法和用語，對熟悉網路的人應該並不意外。網路形成的社群，其實和群眾行為有許多類似之處。

學者Gustave Le Bon認為群眾行為有下列的特性：因為其「匿名性」造成一種「無敵感」及「不需負責」的認知，而且其想法有「傳染性」，領導者的行為對群眾又有「暗示性」。這些群眾行為表現的特性，在網路行為上也都存在；同樣一個人，在網路和現實生活上的表現，可能判若兩人。網路上有相當比例的粗鄙用語和極端想法，是不爭的事實。Tay只是把人類的行為學會之後，呈現出來，結果嚇到了大家而已。

一個更值得憂心的發展，是隨著網路生活化，以及政治事件的推波助瀾，網路語言開始進入現實生活裡。我們在台灣和美國近期的競選過程中都可以觀察到這個現象。社會必須集體省思，這是不是我們希望建立的價值觀和生活方式？

另一個思考點，則是人工智慧發展的快速及其未來可能性，恰巧最近在生活中碰到了幾個案例，特別有感觸。有個車廠邀請我試乘新車，無意間發現其定速裝置，竟然可以自動偵測前方車距和速度來自動調整車速，已經有些自動駕駛的味道了，而且在高速公路上運作起來很順暢，相信未來駕車習慣和方式的改變是必然的。

自己最近也剛透過遠端學習，完成了麻省理工學院的一門大數據課程，一方面體驗網路學習平台的便利性，不但可以跟頂尖教授學習，還可以有討論平台互動。另一方面也瞭解大數據的本質及其在醫學、交通和金融等領域的運用，對未來世界會持續產生重大影響。

微軟小冰還有一個讀心術軟體，在問你十幾個問題後，就可以猜到心中在想哪一個人，命中率頗高。未來每個人都能夠有自己的數位助理，幾年前的雲端情人電影場景已經不遠，人類的日常生活模式，也將大幅度改變。最近的電影人造意識，則提供另一個比較灰暗的可能，當機器人有自己的意識反撲人類時，是很可怕的。不記得曾經在哪裡閱讀到這句話：「當我們下棋都下得贏你們時，難道不知道你們心裡想的是最壞就拔掉電源嗎？」

不管從那個角度看，人工智慧的發展都將是未來世界的基礎，國家和個人都應該思考如何能夠不缺席。

（作者為雲品國際董事長）