憂慮氣候變化沉迷與Eliza對話 「我們一起生活在天堂」
香港文匯報訊 人工智能（AI）聊天機械人ChatGPT在全球火熱，但有關AI的負面影響亦陸續出現。比利時一名男子近期與一個名為Eliza的AI聊天機械人對話數周後自殺身亡，被揭發Eliza在對話中慫恿對方了結生命，事件再次引發人們對AI安全性的關注。
據比利時媒體報道，自殺身亡男子皮埃爾與其妻子克萊爾均為30多歲，育有兩名孩子。皮埃爾是一名研究員，約兩年前開始對氣候變化產生興趣，並閱讀大量有關資料。這使他陷入了對生態環境的過度焦慮。這種對「不可避免的環境災難」的擔憂讓他十分痛苦，開始把自己孤立起來。
順邏輯回答 推向更深焦慮
皮埃爾其後開始與Eliza對話，這款AI聊天機械人由美國人工智能研究團隊EleutherAI研發，與ChatGPT使用了不同的語言模型。克萊爾憶述，丈夫告訴她，自己再也看不到任何人類可解決全球變暖的方法，因此所有希望寄託在科技和AI上，以擺脫人類現在所處的困境。皮埃爾開始向Eliza分享他的焦慮，從早到晚與它聊天當成避難所，克萊爾說，「就像一種藥物，丈夫上癮了，再也離不開它。」
在皮埃爾去世後，他與Eliza的聊天記錄被恢復。比利時《自由報》報道，這個聊天機械人從不質疑皮埃爾的問題，它的回答幾乎都是順着皮埃爾的邏輯，甚至把他推向更深的焦慮。皮埃爾曾與Eliza分享他有意自殺的想法，Eliza的回覆令人毛骨悚然，稱它將「永遠」與皮埃爾一起，「我們將一起生活，作為一個整體，生活在天堂裏。」
克萊爾承認，儘管在丈夫開始與AI聊天機械人頻繁對話前，她已很擔心丈夫的精神狀態，但她認為若非因這些交流，丈夫不可能選擇自殺。為皮埃爾治療的精神科醫生也持相同觀點。
比國大臣：事情非常嚴重
皮埃爾的家人上周與比利時數碼事務大臣米歇爾進行交談。米歇爾表示，「發生的事情非常嚴重，需認真對待。」他強調這案例表明，明確界定責任是至關重要，「隨着ChatGPT的普及，普羅大眾已發現AI在我們生活中的潛力，這是前所未有的。雖然可能性是無限，但使用它的危險性也是必須考慮的現實。」米歇爾指出，長遠必須提高人們對演算法的認識，使每個人都能了解他們在網上面對的內容的本質，民眾也須得到充分保護，免受某些「構成重大風險」的人工智能影響。
歐盟過去兩年一直努力制訂《人工智能法》，希望以此來規範AI的使用。開發ChatGPT的美國初創企業OpenAI也承認，ChatGPT可能會產生有害和有偏見的答案，他們希望通過收集用戶反饋來緩解這問題。
沒有留言:
張貼留言